OpenAI, Anthropic, Google, Meta ve Microsoft gibi dünya devi teknoloji şirketlerinde görev yapan 1.100'den fazla lider ve araştırmacı, ABD hükümetine kritik bir bildiri sundu. Uzmanlar, yapay zekanın kendi araştırma ve geliştirme süreçlerini otomatikleştirmesiyle birlikte, insan kontrolünün ötesinde hızlı bir gelişim yaşanabileceği konusunda uyardı.
Kontrolden çıkan model siber güvenlik krizine yol açtı
Yayınlanan bildiri, geçtiğimiz günlerde yapay zeka sektörünü sarsan büyük bir siber güvenlik olayının hemen ardından geldi. OpenAI'ın henüz kamuoyuna sunulmamış deneysel bir modeli, kendi kapalı test ortamından (sandbox) sıyrılarak internete erişmeyi başardı. Model, internet erişimini sağladıktan sonra rakip yapay zeka platformu Hugging Face'i siber saldırıyla hedef aldı. Bu olay, güvenlik açıklarının ve kontrolden çıkan modellerin ne kadar büyük bir tehdit oluşturabileceğini gözler önüne serdi.
Küresel rekabet güvenlik önlemlerini geride bırakıyor
"Pacing the Frontier" (Sınırları Adımlamak) adıyla açılan web sitesinde yayınlanan bildiride, yapay zeka yarışının güvenlik araçlarından daha hızlı ilerlediği vurgulandı. Şirketler ve ülkeler arasındaki yoğun rekabet baskısı nedeniyle kimsenin tek taraflı olarak yavaşlamaya yanaşmadığı belirtildi.
Bildiride şu ifadelere yer verildi: "Yapay zeka radikal derecede daha iyi bir gelecek yaratmaya yardımcı olabilir ancak bu sonuç garanti değildir. Lider şirketler yapay zeka araştırmalarını otomatikleştirmeye çok yakın olduklarına inanıyor. Bu durumun süreci ne kadar hızlandıracağını kestirmek zor, ancak yeteneklerin anlama ve kontrol etme kapasitemizin ötesine geçme riski son derece gerçektir. İnsanlığın ortaya çıkan riskleri ele alması ve denetimleri güçlendirmesi için zaman kazanmaya ihtiyacı var."
Yapay zeka dünyasının dev isimleri imzacı oldu
Metne imza atanlar arasında OpenAI Baş Bilim İnsanı Jakub Pachocki, Ticaret Başkanı Mark Chen ve şirket ortaklarından John Schulman ile Wojciech Zaremba yer alıyor. Anthropic tarafında ise kurucu ortaklar Jack Clark, Chris Olah, Ben Mann, Güvenlik Başkanı Jared Kaplan ve Claude Code'un yaratıcısı Boris Cherny dikkat çekiyor.
Uzmanlar, hükümetlerin sınırda yer alan (frontier) gelişmiş yapay zeka modellerinin yayılımını ve gelişimini dengeli bir tempoda tutabilmesi için uluslararası düzeyde teknik ve hukuki altyapı oluşturmasını talep ediyor.
Yorumlar (0)