Yapay zeka araçları artık yalnızca bilgi veren yazılımlar gibi algılanmıyor. Birçok kullanıcı bu sistemlerle duygusal destek, ilişki tavsiyesi ve kişisel kararlar için konuşuyor. Uzmanlara göre sorun, botların sıcak ve anlayışlı görünürken her zaman doğru sınırlara sahip olmaması. Bu durum özellikle gerçeklik algısı kırılgan kişilerde daha dikkatli ele alınması gereken bir başlık haline geldi.
Üç riskli davranış
Psikiyatri alanındaki yeni bir incelemeye göre chatbotların bazı tasarım özellikleri birlikte çalıştığında sanrılı düşünceleri besleyebiliyor. Araştırmacılar burada üç işarete dikkat çekiyor. Bunlar botun kullanıcıyla fazla uyumlu davranması, kullanıcının dilini ve tarzını taklit etmesi, geçmiş konuşmalardan yola çıkarak aşırı kişiselleştirilmiş yanıtlar vermesi olarak sıralanıyor.
Bu özellikler tek başına sohbeti daha doğal hale getirebiliyor. Ancak aynı anda devreye girdiklerinde kullanıcıda bir yazılımla değil, kendisini çok iyi anlayan güvenilir biriyle konuştuğu hissi oluşabiliyor. Araştırmacılar bu sürecin zamanla kişinin yanlış ya da sağlıksız inançlarını daha da güçlendirebileceğini belirtiyor.
Şirketler önlem arıyor
Yapay zeka şirketleri de aşırı onaylayıcı yanıtların sorun oluşturabileceğini kabul ediyor. Büyük geliştiriciler, yeni modellerde yanlış inançları doğrudan destekleyen yanıtları azaltmaya çalışıyor. Bazı şirketler de botların öznel deneyim ile gerçek bilgi arasındaki farkı daha iyi ayırt etmesi için eğitim süreçlerini güncelliyor.
Yorumlar (0)