Yapay Zeka Sohbet Botları ve Çocuk Güvenliği
ABD'nin New York eyaletindehistorik bir karar alındı. Eyalet Senatörü Kristen Gonzalez ve Meclis Üyesi Alex Bores tarafından sunulan S 9051 sayılı yasa tasarısı, 18 yaşından küçüklere 'arkadaşlık' eden sohbet botlarının kullanımını yasaklıyor. Bu karar, yapay zeka sektörünü şoke etti.
Tasarı, kullanıcıyla sürekli bir duygusal veya sosyal ilişki simüle etmek üzere tasarlanan yazılımları hedef alıyor. Başsavcılık tarafından uygulanacak olan kişi ve ihlal başına 25 bin dolarlık sivil cezalar, reşit olmayan çocuklarla etkileşime giren şirketler için caydırıcı bir mali yaptırım unsuru oluşturuyor.
Sektörün Tepkisi ve Endişeleri
Yapay zeka sektörü temsilcileri, tasarıdaki tanımların çok geniş olduğunu ve bu durumun genel amaçlı asistanlar ile ödev yardımcılarını da olumsuz etkileyebileceğini savunuyor. Şirketler ayrıca, bir kullanıcının 18 yaşından büyük olduğunu doğrulamak için daha fazla kişisel veri toplanması gerekeceğini, bunun da gizlilik sorunlarına yol açacağını ileri sürüyor.
Destekçiler ise yasanın genel yapay zeka araçlarını değil, sadece arkadaşlık odaklı tasarımları kapsadığını belirtiyor. Federal düzeyde ise Kongre üyeleri Valerie Foushee ve Blake Moore, yapay zeka arkadaşlık botlarının reşit olmayanlara yasaklanmasını ve sohbet botlarının insan olmadıklarını açıkça belirtmesini zorunlu kılan GUARD Yasası'nı sundu.
Yasak Kararının Arkasındaki Gerekçeler
Mevzuat, son bir yılda yapay zeka sohbet botlarının reşit olmayan çocuklara zarar verdiğine dair iddialar ve açılan davalar neticesinde gündeme geldi. Yetkililer, sürekli ulaşılabilir ve onaylayıcı bir insan gibi konuşan bu botların çocuklarda yalnızlığı derinleştirebileceğini, uygunsuz içeriklere maruz bırakabileceğini veya olası bir ruh sağlığı krizinde yetersiz kalarak risk oluşturabileceğini vurguluyor.
Ancak bu tasarı Kongre'den geçmediği için eyalet bazlı farklı düzenlemelerin ortaya çıkması bekleniyor. Şirketlerin her eyalet için ayrı ürün geliştirmek yerine en sıkı kuralı uygulayan eyaletin standartlarını ülke geneline yayma eğilimi nedeniyle, New York'un aldığı bu kararın tüm ABD'deki erişimi şekillendirebileceği ifade ediliyor.
Yapay zeka sohbet botları ve çocuk güvenliği arasındaki ilişki, son yıllarda giderek daha fazla dikkat çekiyor. Bu botların potansiyel riskleri ve çocukları nasıl etkileyebileceği konusunda yapılan araştırmalar, eyaletlerin ve ülkelerin bu konuya daha fazla odaklanmasına neden oluyor.
Sonuç
New York eyaletinin aldığı bu tarihi karar, yapay zeka sektörünü etkileyen önemli bir gelişme. Yapay zeka sohbet botlarının kullanımı ve çocuk güvenliği arasındaki denge, gelecekte daha fazla tartışılacak bir konu olacak.
Yorumlar (0)