Yapay zeka devinde felaket uyarısıyla gelen istifa: 'Yapay zeka geliştirenler on yılın sonuna kadar hepimizi öldürebileceğine inanıyor'

Anthropic bünyesinde çalışan Jacob Coxon istifa ettiğini duyurdu. Coxon, yeni yapay zeka modellerinin büyük miktarda veri tüketmesini sağlayarak eğitme konusunda uzmanlaşmış bir araştırmacıydı.

Kontrolden çıkıp insanlığı yok edebileceğinden endişelendi

Coxon, yaptığı açıklamada kendilerini geliştirebilecek yapay zeka sistemlerini oluşturma amacıyla endüstri çapında bir telaşa katılmak istemediğini ve bu tür sistemlerin kontrolden çıkıp insanlığı yok edebileceğinden endişe duyduğunu belirterek şirketten ayrıldığını açıkladı.

"Hayatlarımızla kumar oynuyorlar"

X hesabı üzerinden açıklama yapan Coxon, "Bugün Anthropic'ten istifa ettim. Son üç yılımı hem OpenAI hem de Anthropic'te ön eğitim araştırmaları yaparak geçirdim. Her iki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekaya doğru düz bir yarış yapıyorlar ve hayatlarımızla kumar oynuyorlar" dedi.

"Yapay zeka geliştiren insanlar on yılın sonuna kadar hepimizi öldürebileceğine inanıyor"

Coxon, kullanıcılara teknolojinin gücünü küçümsememeleri gerektiğini söyleyerek şu ifadelerde bulundu:

Bunlar yakında her şeyi hackleyebilen, herhangi bir alanı bir gecede devrimleştiren ve gerçek güç ile kaynaklar edinebilen süper insan sistemleri olacak. Hepimiz bu alanlardaki ilerlemeyi bizzat gözlemledik ve ilerleme yavaşlamıyor. Yapay zeka geliştiren insanlar, on yılın sonuna kadar hepimizi öldürebileceğine samimi bir şekilde inanıyor. Bu bir pazarlama numarası değil. Tam tersine, birçok yönetici ve kıdemli araştırmacı, basında mantıklı görünmek için ifadelerine dikkatle bürünüyor ama aynı insanlar özelde korkularını dile getiriyor. Başka hiçbir insan etkinliği bu düzeyde bir tehlike oluşturmuyor. Yaygın bir tepki, 'Eğer buna gerçekten inanıyorlarsa, neden hala bunu inşa ediyorlar?' şeklindedir. OpenAI'da, pek çok kişi medeniyetin karşı karşıya olduğu riskleri derinden içselleştirmemiştir. Anthropic'te ise riskler iyi anlaşılmıştır ancak onlar ilk olmak için bir yarışın içindeler - kimsenin sorumlu davranmayacağına inanıyorlar, bu yüzden risklere rağmen bunu kendilerinin yapması gerektiğine inanıyorlar. Eğer bir laboratuvar araştırmacısıysanız, önümüzdeki birkaç yılın gerçekten nasıl hissettireceğini düşünmenizi şiddetle tavsiye ederim.