Microsoft, yapay zeka modellerinin gelecekteki davranışlarını belirlemek amacıyla yeni bir kurallar taslağı yayımladı. Şirket, modellerin insan kontrolü altında ve anlamlı bir gözetim mekanizmasıyla çalışmasını hedefliyor.
“Hümanist Yapay Zeka Davranış Kuralları” başlığıyla yayımlanan taslakta, yapay zeka sistemlerinin insan kontrolünün dışına çıkmaması gerektiği vurgulanıyor. Microsoft, geliştireceği modellerin insanlığa tabi olacak şekilde faaliyet göstermesini ve güvenli kullanım sınırları içinde kalmasını amaçlıyor.
'Silah üretimine yardımcı olmayacak'
Taslakta yapay zeka modellerinin silah üretimine yönelik taleplere destek vermemesi öngörülüyor. Tehlikeli maddelere erişimi kolaylaştırabilecek taleplerin yanı sıra şiddet içeren veya cinsel açıdan açık içeriklerin üretilmesine de sınırlama getirilmesi planlanıyor.
Microsoft, taslağı kesin kurallar haline getirmeden önce kamuoyunun görüşüne açtı. Şirket, yaklaşık altı hafta boyunca gelecek değerlendirmeleri topladıktan sonra metni yıl sonunda yeniden düzenlemeyi planlıyor.
Yeni kurallar 2027'de yol gösterecek
Revizyonun ardından taslağın, 2027'den itibaren Microsoft'un yapay zeka modellerinin geliştirilmesinde rehber olarak kullanılması bekleniyor.
Şirketin hamlesi, yapay zeka güvenliği konusunda sektörün önde gelen isimlerinden gelen çağrıların ardından geldi. Anthropic CEO'su Dario Amodei ve OpenAI CEO'su Sam Altman, yapay zeka sistemlerinin daha güvenli hale getirilmesi için model geliştirme hızının kontrollü biçimde yavaşlatılması gerektiğini savunmuştu.
Yorumlar (0)