OpenAI, yapay zekanın özellikle 18 yaş altındaki kullanıcıların üzerindeki etkilerine ilişkin tartışmalar devam ederken, kullanıcıları korumaya yönelik beklenen yeni uygulamasını duyurdu. ‘ChatGPT for Teens’ adı verilen yeni mod ile küçük yaştaki kullanıcıların karşılaşabileceği riskli içeriklere daha sıkı güvenlik önlemleri getirilecek.
Dikkat çeken adım
New York Times'ın haberine göre OpenAI, sohbet robotunun bazı konuşmaları otomatik olarak sınırlandıracağı yeni sistemi devreye alıyor. Yeni modun özellikle gençlerin güvenliğine odaklanan özellikler içereceği belirtildi.
Riskli içerikler sınırlandırılacak
Yeni sistem kapsamında ChatGPT'nin kendine zarar verme, şiddet, yeme bozuklukları gibi yüksek risk taşıyan konulardaki konuşmaları sınırlandıracağı duyurdu.
Bazı durumlarda, ebeveyn denetimlerini ve bildirimleri etkinleştirmiş yetişkinlerin de uyarılabileceği ifade edildi. Ayrıca ChatGPT'nin kişisel duygulara sahip olduğu izlenimini oluşturmasını engelleyen güvenlik önlemlerinin de güçlendirileceği aktarıldı.
Ödevlere doğrudan cevap vermeyecek
OpenAI'nin yeni sistemi yalnızca güvenlik önlemleriyle sınırlı olmayacak. Şirket, gençlerin eğitim süreçlerini desteklemek amacıyla ChatGPT'nin çalışma biçiminde de değişikliğe gidileceğini açıkladı. Bu konudan velilerin ve öğretmenlerin de özellikle şikayetçi olduğu durumlardan biriydi.
Çözümü bulmaya yardım edecek
Buna göre ChatGPT, bir öğrencinin ödev yaptığını tespit ettiğinde doğrudan cevabı vermek yerine ek sorular sorarak öğrencinin konuyu kendisinin anlamasına ve çözümü bulmasına yardımcı olacak.
Zorunlu hale geliyor
OpenAI, ChatGPT'ye kayıt sırasında kullanıcıların yaşlarını belirtmesini zorunlu tutuyor. Kullanım koşullarına göre platformu kullanabilmek için en az 13 yaşında olmak gerekiyor.
Ancak kullanıcıların yaşları konusunda doğru bilgi vermeyebileceğine dikkat çeken şirket, bir kişinin 18 yaşından küçük olup olmadığını belirlemek amacıyla iki binden fazla farklı sinyali değerlendirdiğini açıkladı.
Tespit ettiği an etkinleştirilecek
Bu sistemle bir kullanıcının genç olduğu tespit edildiğinde gençlere yönelik modun otomatik olarak etkinleştirileceği belirtildi. Şirket sözcüsü, kullanılan sinyaller arasında tipik giriş saatleri ve hesabın ne kadar süredir aktif olduğu gibi bilgilerin de bulunabileceğini, ancak bu verilerin mümkün olduğunca az gizlilik ihlali yaratacak şekilde değerlendirildiğini söyledi.
Ebeveyn izni şartı
Yeni uygulamayla gençlerin ChatGPT kullanabilmesi için ebeveyn izni şartı da getiriliyor. OpenAI, genç kullanıcıların güvenliği ve ruh sağlığı konusunda son dönemde artan baskıyla karşı karşıya. Bazı aileler, çocuklarının sohbet robotları üzerinden zararlı içeriklere maruz kaldığını ve bunun kendilerine zarar verme ya da intihar gibi sonuçlara yol açtığını öne sürerek şirkete karşı dava açtı.
Haziran ayında Florida, OpenAI'ye dava açan ilk ABD eyaleti olmuştu. Eyalet yönetimi, şirketi platformun küçük yaştaki kullanıcılar açısından güvenliği konusunda yanıltıcı bilgiler vermekle suçlamıştı.
Yorumlar (0)