Meta'nın Yapay Zekâ Görsel Tespit Aracında Önemli Güvenilirlik Sorunu
Meta'nın yapay zekâ tarafından üretilen görselleri tespit etmek için geliştirdiği yeni aracın, basit kırpma işlemlerine karşı dayanıksız olduğu ortaya çıktı. Reuters'ın testinde orijinal görseller tamamen tanınırken, kırpılan görsellerin yüzde 55'i yapay zekâ ürünü olarak tespit edilemedi. Uzmanlar, görünmez filigran sistemlerinin tek başına yeterli olmadığını ve kapsamlı doğrulama sistemlerine ihtiyaç duyulduğunu belirtiyor.
Meta'ın Muse Image modeli tarafından oluşturulan görselleri tespit etmek için geliştirdiği yeni araç, basit düzenlemeler karşısında ciddi güvenilirlik sorunları sergilemektedir. Reuters tarafından yürütülen kapsamlı testte, Content Seal adlı görünmez filigran sisteminin işlevselliğinin sınırları açığa çıkmıştır.
Tesitte, Meta'nın Muse Image modeli kullanılarak insanlar, hayvanlar, manzaralar ve çeşitli nesneler içeren 40 farklı görsel oluşturulmuştur. Bu görseller herhangi bir değişiklik yapılmadan Meta'nın tespit aracına yüklendiğinde sistem tamamını yapay zekâ üretimi olarak başarılı bir şekilde belirlemiştir. Ancak görsellerin kenarları kırpılarak boyutları küçültüldüğünde aracın performansı keskin şekilde düşmüştür. Düzenlenen 40 görselin 22'sinde görünmez filigran tespit edilememiş, yani sistemin yalnızca basit bir kırpma işlemi uygulanmış görsellerin yarısından fazlasını tanıyamadığı ortaya çıkmıştır.
Meta, tespit aracının henüz ön izleme aşamasında olduğunu ve geliştirilmeye devam edileceğini açıklamıştır. Şirketin resmi açıklamasına göre, Content Seal işareti farklı görsel düzenlemelerine karşı dayanıklı olacak şekilde tasarlanmış olup, ancak güçlü değişikliklerin filigran sinyalini zayıflatabileceğini kabul etmiştir. Muse Image ve Meta AI uygulaması ile şirketin internet sitesi üzerinden oluşturulan görsellere görünmez bir kaynak işareti eklenmektedir.
Görünmez filigran yöntemlerinde, yapay zekâ modelinin oluşturduğu görsele insan gözüyle fark edilmesi zor olan dijital bir işaret yerleştirilmektedir. Görsel kırpıldığında, sıkıştırıldığında veya yeniden boyutlandırıldığında bu işaretin bir kısmı kaybolabilir ya da sinyalin gücü azalabilir. Bu durum, tespit aracının görselin kaynağını doğrulamasını önemli ölçüde zorlaştırmaktadır. Sosyal medya platformlarına yüklenmesi sırasında uygulanan sıkıştırma işlemleri de tespit sistemlerinin performansını olumsuz yönde etkilemektedir.
Uzmanlar, filigran sistemlerinin yapay zekâ içeriklerinin belirlenmesinde yararlı olduğunu ancak tek başına kesin bir çözüm sunmadığını vurgulamaktadır. Yapay zekâ modellerinin giderek daha gerçekçi görseller üretebilmesi, sosyal medya platformlarında sahte ve yanıltıcı içeriklerin belirlenmesini kritik önem düzeyine taşımıştır. Meta'nın tespit aracında ortaya çıkan sonuç, yapay zekâ görsellerinin yalnızca küçük değişikliklerle kontrol sistemlerinden kaçabileceği endişesini gündeme getirmiştir.
Özellikle seçimler, savaşlar, doğal afetler ve kamuoyunda yoğun ilgi gören olaylar sırasında yayılan sahte görseller, yanlış bilgiyle mücadeleyi önemli ölçüde güçleştirebilmektedir. Bu nedenle teknoloji şirketleri, görünmez filigran, içerik bilgisi ve yapay zekâ tabanlı görüntü analizini birlikte kullanan daha kapsamlı doğrulama sistemleri geliştirmeye çalışmaktadır.
Yapay zekâ tarafından oluşturulan görselleri belirlemedeki güçlük yalnızca Meta'ya özgü değildir. Farklı üretken yapay zekâ modelleriyle hazırlanan görselleri her koşulda güvenilir biçimde tanıyabilen tek bir tespit aracının bulunmadığı bilinmektedir. Görsellerin kırpılması, yeniden boyutlandırılması, bulanıklaştırılması veya sıkıştırılması, tespit araçlarının doğruluk oranlarını önemli ölçüde düşürmektedir. Meta'nın testi, yapay içeriklerin kaynağını belirlemek için yalnızca görünmez filigrana güvenmenin yeterli olmayabileceğini kesin biçimde ortaya koymaktadır.
