Meta, Instagram fotoğraflarını yapay zekâya açan özelliği üç gün sonra kaldırdı
Meta, Muse Image modelinde kamuya açık Instagram hesaplarındaki fotoğrafları yapay zekâ görseli üretiminde kullanma özelliğini gizlilik tepkileri üzerine üç gün içinde kapattı. SAG-AFTRA ve Hollywood temsilcileri, kullanıcılara açık onay alınmadığı gerekçesiyle tepki göstermişti. Şirketin tanıttığı yapay zekâ tespit aracı ise kırpılan görsellerin yüzde 55'ini tanıyamadı.
Meta, yapay zekâ görsel üretim modeli Muse Image'da kamuya açık Instagram hesaplarından fotoğraf kullanımını sağlayan özelliği gizlilik ve etik endişeleri nedeniyle kapatmıştır. 7 Temmuz Salı günü tanıtılan ve 11 Temmuz Cuma günü devreden çıkarılan özellik, kullanıcıların Instagram hesaplarını etiketleyerek o hesaplardaki görüntüleri yeni yapay zekâ içeriklerinin üretiminde kullanabilmesine olanak tanıyordu.
Şirketin Superintelligence Labs tarafından geliştirilen Muse Image, yazılı komutları yorumlaması, fotoğrafları kaynak olarak kullanması ve üretilen görselleri işaretleme veya çizimlerle düzenlemesi açısından kapsamlı bir araç sunuyordu. Ancak tartışmalı Instagram özelliği, özel hesaplar ve 18 yaşından küçük kullanıcılar dışında kalan kamuya açık hesapların sistem tarafından kaynak olarak kullanılmasını mümkün kılıyordu. Eleştiriler, kullanıcıların sistemden çıkılmasını talep etmek zorunda bırakılması yerine baştan açık onay verilmesi gerektiği noktasında yoğunlaştı.
Eğlence sektörü örgütleri ve teknoloji eleştirmenleri özelliği derhal reddetmiştir. SAG-AFTRA sendikası üyelerine özelliği kapatmalarını çağrısında bulunurken, Hollywood'daki yetenek ajansları ve menajerlik firmaları, izinsiz dijital kopyalar oluşturulabileceği ve bu görüntülerin dolandırıcılık, itibar kaybı veya ticari amaçlarla kötüye kullanılabileceği konusunda uyarılarda bulunmuştur.
Meta, kullanıcı geri bildirimlerinin özelliğin hedeflenen kullanım şekline ulaşmadığını gösterdiğini belirterek Instagram hesaplarının etiketlenmesine dayalı sistemi kaldırmıştır. Şirketin başlangıçtaki amacının kullanıcılara yaratıcı bir araç sunmak ve kamuya açık içeriklerin kullanımında kontrol sağlamak olduğunu açıklaması, alınan tepkilerin etkisini gösteren bir adım olmuştur. SAG-AFTRA, Meta'nın geri çekilme kararını olumlu değerlendirmiştir.
Aynı hafta içinde tanıtılan yapay zekâ tespit aracı da sınırlı performans göstermiştir. Reuters'in gerçekleştirdiği test, Muse Image tarafından oluşturulan 40 görseli Meta'nın tespit sistemiyle incelemiş, değiştirilmemiş görsellerin tamamı başarıyla tanınırken, yaklaşık üçte bir ile yarı oranında kırpılan görsellerin yüzde 55'inin tanılanamadığını ortaya çıkarmıştır. Meta'nın Content Seal adı verilen görünmez işaret sistemi, kırpma işlemlerine maruz kaldığında zayıflayabilmektedir.
Instagram hesaplarını kaynak olarak kullanan özelliğin kaldırılmasına rağmen Muse Image, Meta AI platformunda diğer işlevleriyle kullanılmaya devam edecektir. Model, Instagram hikâyeleri için 30'dan fazla yapay zekâ efektine güç sağlamakta, belirli ülkelerde WhatsApp üzerinden Meta AI sohbetlerinde görsel üretimini desteklemektedir. Meta, modeli Facebook ve Messenger'a genişletmeyi ve reklamverenlere Meta Advantage+ aracılığıyla sunmayı hedeflemektedir.
Meta'nın bu geri adımı yapay zekâ yatırımlarını durdurduğu anlamına gelmemektedir. Ancak kamuya açık sosyal medya içeriklerinin kullanımında açık onay, kişilik hakları koruması ve yapay zekâ görsellerinin güvenilir tespit edilmesi, şirketin uzun vadede çözmesi gereken kritik sorunlar olarak kalmaya devam etmektedir.
