OpenAI’ın erken aşamadaki müşterilerle test ettiği sistem, birbirine bağlı etkileşimlerdeki kötüye kullanım kalıplarını belirlemeye çalışıyor. Şirket, bunun yapılırken temel istemlerin ve model yanıtlarının kendisine gönderilmesine gerek kalmayacağını belirtiyor. Bunun yerine yalnızca sınırlı bir güvenlik sinyali paylaşılacak.
Veriler saklanmayacak
Private Safety Processing kapsamında müşteri verileri müşterinin kontrol ettiği altyapıda tutulabilecek. Alternatif olarak veriler OpenAI sistemlerinde saklanırken şifreleme anahtarları müşterinin kontrolünde kalabilecek.
OpenAI, gelişmiş modellerde bazı güvenlik risklerinin tek bir konuşmadan ziyade zaman içinde gerçekleşen birden fazla etkileşim incelendiğinde anlaşılabildiğini belirtiyor. Yeni sistem bu bağlantıları hassas müşteri verilerine doğrudan erişmeden tespit etmeyi hedefliyor.
Anthropic farklı düşünüyor
Anthropic ise gelişmiş modellerindeki karmaşık saldırıları belirleyebilmek için bazı kurumsal müşterilerde 30 günlük veri saklama politikasının gerekli olduğunu savunuyor.
OpenAI’ın yeni sistemi şimdilik belirli kurumsal müşteriler ve API kullanıcıları için tasarlanıyor. Free, Plus, Go ve Pro gibi bireysel ChatGPT planlarının mevcut veri ayarlarında ise bu sistem kapsamında herhangi bir değişiklik yapılmayacak. OpenAI daha geniş kullanıma geçişi ve teknik ayrıntıları eylül ayında paylaşmayı planlıyor.
Yorumlar (0)