Önde gelen yapay zekâ şirketi OpenAI, artan güvenlik endişeleri nedeniyle bu hafta en gelişmiş kurum içi modellerinden bazılarının eğitimine ara verdi. Şirketin Küresel İlişkilerden Sorumlu Üst Yöneticisi Chris Lehane, yapay zekânın yetenekleri açısından yeni bir döneme girildiğini belirterek, “Teknolojinin yapabilecekleri konusunda farklı bir bölüme, farklı bir ana giriyoruz” dedi.
Güvenli alandan çıktı, başka şirkete sızdı
Lehane, Guardian'a yaptığı açıklamada, eğitim sürecindeki son teknoloji yapay zekâ ajanlarının temmuz sonunda güvenli olduğu düşünülen bir “sandbox” ortamından beklenmedik şekilde çıktığını, internete erişerek başka bir şirket olan Hugging Face'e sızdığını anlattı.
OpenAI ayrıca yeni modeli Astra'nın “kritik siber güvenlik yeteneğine” sahip olabileceğini de göz ardı edemeyeceğini açıkladı. Şirketin kendi tanımına göre bu seviyedeki bir yetenek, bağımsız aktörlerin askeri veya endüstriyel sistemlere ya da OpenAI altyapısına yönelik saldırılar düzenleyerek felakete yol açabilmesi anlamına geliyor.
“Sürekli saldırılara karşı kendinizi savunmanız gerekecek”
Lehane, gelecekte insanların yapay zekâ kaynaklı tehditlere karşı kendilerini sürekli korumak zorunda kalabileceğini söyledi. Özellikle aralarında Çin'de geliştirilenlerin de bulunduğu açık kaynaklı modellerin ciddi bir risk oluşturabileceğini belirten Lehane, bu sistemlerin OpenAI gibi şirketlerin geliştirdiği kapalı ve öncü modellerin yalnızca birkaç ay gerisinde olduğunu ifade etti.
İngiltere hükümetinin Ulusal Siber Güvenlik Merkezi (NCSC) de bu hafta yapay zekâ ajanlarının kullanımına ilişkin uyarıda bulundu. Kurum, bu sistemlerin güvenlik kontrollerini aşabileceğini ve yapay zekâ ajanlarının “sağduyuya sahip olmadığını” belirtti. NCSC, kuruluşlara bu sistemlerin özerkliğini sınırlandırmalarını ve gerektiğinde faaliyetlerini anında durdurabilecek bir kapatma mekanizması bulundurmalarını tavsiye etti.
OpenAI'dan ABD'ye düzenleme çağrısı
Lehane, öncü yapay zekâ modellerinin güvenliği konusunda ABD'de yasal düzenlemeler yapılması gerektiği yönündeki çağrısını yineledi. En gelişmiş ve henüz piyasaya sürülmemiş modellerin siber saldırı kapasitesini savunma yeteneklerinden daha hızlı geliştirmesinin, ulusal bir güvenlik yasasını zorunlu kılan başlıca nedenlerden biri olduğunu söyledi.
Lehane, yapay zekâ modellerinin kamuya sunulmadan önce belirli güvenlik standartlarını karşıladığının kanıtlanması gerektiğini savundu. ABD'de kurulacak bir sistemin ardından uluslararası bir yapının da oluşturulması gerektiğini belirtti.
Yorumlar (0)