Meta'nın Denetim Kurulu, cinsel içerikli yapay deepfake'lere karşı korumayı güçlendirmesini istedi

Meta'nın bağımsız gözetim organı, platformun cinsel içerikli yapay videolara (deepfake) karşı alması gereken adımları sıraladı. Denetim Kurulu raporunda, sıradan kullanıcıların bu tür zararlı materyalleri tespit etmesi ve bildirmesi için daha etkin araçlar gerektiğini vurguladı.

Raporda neler var?

Meta'nın Oversight Board (Denetim Kurulu) adlı bağımsız karar organı, geçtiğimiz dönemde platformda artan cinsel deepfake olaylarını inceleyerek sonuçlarını açıkladı. Rapora göre, Meta'nın mevcut bildirme ve kaldırma mekanizmaları, bu tür içeriklerin hızlı şekilde yayılmasını engellemek için yeterli değildir.

Kurulun önerileri arasında, cinsel içerikli yapay videoları tanımlamaya yönelik geliştirilmiş tanıma teknolojileri (content detection systems), basitleştirilmiş bildirme akışları ve platformun bu konudaki politikalarının daha net iletilmesi bulunuyor.

Neden önemli?

Yapay zeka teknolojilerinin gelişmesiyle birlikte, gerçek gibi görünen ama tamamen sahte videolar üretmek artık çok daha kolay hale geldi. Bu videolar çoğunlukla kadınları hedef alıyor ve ciddi manevi zarar veriyor. Sosyal medya platformları gibi Meta, bu tür içeriklere karşı sorumluluğu giderek artan bir şekilde hissediyor.

Denetim Kurulu'nun bu çıkışı, Meta'nın kullanıcı güvenliği konusundaki zayıflıklarını kamuoyuna sunması açısından önemlidir. Platform, önerilen önlemleri uygularsa, kullanıcılar daha güvenli bir ortamda paylaşım yapabilecek.

Meta'nın yanıtı

Meta denetim kurulu kararlarına bağlanmakla yükümlüdür, ancak uygulamaya geçiş süreci zaman alabilir. Şirket, insan review ekipleri ve yapay zeka sistemlerini kombine ederek sorunu çözmek için çalışmalar yürütüyor.