Meta’nın Yapay Zeka Fiyaskosu: Fotoğraf Manipülasyon Aracı Muse 72 Saatte Kaldırıldı!

Zuckerberg’in Yeni "Süper Zeka" Projesi Hüsranla Sonuçlandı

Sosyal medya devi Meta, büyük umutlarla kurduğu "Superintelligence Labs" (Süper Zeka Laboratuvarları) departmanı tarafından geliştirilen ilk yapay zeka görsel üretim ürünü olan "Muse Image"ı, lansmanından henüz 72 saat bile geçmeden piyasadan çekmek zorunda kaldı. Kullanıcı mahremiyetini hiçe sayan ve kötüye kullanıma son derece açık olan bu yeni özellik, siber dünyada tarihi bir tepki dalgasıyla karşılaştı.

8 Temmuz'da duyurulan Muse Image, Meta'nın kurucusu Mark Zuckerberg’in "bizi derinden tanıyan, hedeflerimizi anlayan ve onlara ulaşmamıza yardımcı olan kişisel bir süper zeka" vizyonunun ilk somut adımı olarak lanse edilmişti.

İzinsiz Fotoğraf Manipülasyonu Kriz Yarattı

Muse AI, Instagram videolarını ve fotoğraflarını; ışık, kompozisyon ve konu bazında analiz ederek "doğal ve gerçekçi" düzenlemeler yapan 30 yeni filtre sunuyordu. Ancak asıl büyük kriz, sisteme eklenen sosyal paylaşım özelliğinden kaynaklandı:

• @Etiketleme ile Görsel Üretimi: Kullanıcılar, arkadaşlarının kamuya açık Instagram hesaplarını Meta AI üzerinde @-mention (etiketleme) yaparak, o kişilerin fotoğraflarını içeren yapay zeka görselleri, doğum günü kartları veya komik memler üretebiliyordu.
• Varsayılan Olarak Açık: Bu özelliğin tüm kullanıcılarda varsayılan (default) olarak açık gelmesi, kişisel fotoğrafların rıza dışı manipülasyonuna ve deepfake tehlikesine doğrudan kapı araladı.
• SAG-AFTRA’dan Sert Kınama: Hollywood oyuncular sendikası SAG-AFTRA, yaptığı açıklamada, kullanıcı görsellerinin bu şekilde rıza dışı kullanımının kabul edilemez olduğunu belirterek, sistemin net bir "OPT-IN" (kullanıcı onayı) mekanizmasına sahip olmamasını sert bir dille eleştirdi.

Meta’dan Geri Adım: "Geri Bildirimleri Aldık ve Özelliği Kaldırdık"

Tepkilerin çığ gibi büyümesinin ardından Meta, hatasını kabul ederek lansmandan sadece üç gün sonra Muse Image özelliğini yayından kaldırdı. Şirket tarafından yapılan resmi açıklamada, "Amacımız kullanıcılara faydalı ve yaratıcı bir araç sunmaktı. Ancak bu özelliğin hedefini şaşırdığına dair geri bildirimler aldık ve artık kullanılabilir değil," ifadelerine yer verildi.

Zuckerberg, sosyal ağlardaki etkileşimi artırmak için içerik üreticilerini (creators) bu tür yapay zeka araçlarının tasarım sürecine dahil etse de, güvenlik ve etik sınırların aşılması projenin sonunu getirdi. Dünyanın en büyük kullanıcı tabanına sahip olan Meta'nın, kişisel mahremiyet konusundaki bu öngörüsüzlüğü siber güvenlik çevrelerinde şaşkınlıkla karşılandı.

Kaynak: The Register