Yapay zeka destekli kameraların kamusal alanlarda giderek yaygınlaşması, teknoloji dünyasında yeni bir tartışmayı da beraberinde getiriyor. Berlinli sanatçı Simon Weckert, bilgisayarlı görü sistemlerinin çalışma biçimini hedef alan sıra dışı bir kıyafet tasarladı.
Digital Camouflage adı verilen gömlek, ilk bakışta yalnızca renkli ve sıra dışı bir desene sahip gibi görünüyor. Ancak tasarımın arkasında, yapay zeka modellerini yanıltmak amacıyla geliştirilen “adversarial pattern” yani karşıt desen yaklaşımı bulunuyor.
Yapay zeka gömleği giyen kişiyi algılayamayabiliyor
İnsan algılama sistemleri görüntülerdeki kenarlar, dokular, şekiller ve bunların birbirleriyle ilişkilerini analiz ederek bir kişinin bulunduğunu belirlemeye çalışıyor. Weckert'in tasarladığı karmaşık desen ise modelin kullandığı bu görsel ipuçlarını bozmayı amaçlıyor.
Projenin gösterimlerinde yaygın olarak kullanılan açık kaynaklı YOLO nesne algılama sistemi, çevredeki diğer kişileri “person” etiketiyle işaretlerken Digital Camouflage gömleğini giyen kişiyi bazı görüntülerde algılayamadı.
Weckert, projeyi Berlin’deki Kottbusser Tor bölgesinde yapay zeka destekli video gözetim sistemlerinin gündeme gelmesi üzerine geliştirdi. Çalışma aynı zamanda otomatik gözetim teknolojilerinin güvenilirliği ve kamusal alanlarda kullanımına ilişkin tartışmalara dikkat çekmeyi amaçlıyor.
Her güvenlik kamerasında çalışacağı anlamına gelmiyor
Gömleğin yapay zeka kameralarına karşı tamamen “görünmezlik” sağladığını söylemek ise doğru değil. Testler açık kaynaklı YOLO sistemi üzerinde gerçekleştirildi. Gömleğin devlet kurumları veya özel şirketlerin kullandığı farklı görüntü analiz sistemlerini de yanıltabileceğine dair doğrulanmış bir sonuç bulunmuyor.
Bu nedenle Digital Camouflage, gerçek anlamda bir “görünmezlik gömleğinden” çok, günümüzde kullanılan yapay zeka tabanlı görüntü tanıma sistemlerinin sınırlarını gösteren deneysel bir çalışma olarak öne çıkıyor.
Yorumlar (0)