Meta, Gençlerin Kendine Zarar Verme Konuşmalarını Ebeveynlere Bildiriyor

Meta, platformunda gençlerin kendine zarar verme konuşmalarını tespit ettiğinde ebeveynlerini otomatik olarak haberdar edecek yeni bir sistem sundu. Sistem, yapay zeka (makine öğrenmesi / machine learning) kullanarak potansiyel riskli mesajları analiz ediyor ve uyarı gönderiyor.

Yapay Zeka ile Tehlike Tespiti

Meta'nın Instagram ve Messenger platformlarında kullanılan bu yeni koruma mekanizması, gençlerin özel mesajlaşmalarında kendine zarar verme ile ilgili ifadeleri otomatik olarak tanımlayabiliyor. Sistem, metin analizi yaparak riski değerlendiriyor ve şiddetine göre ebeveynlere bildirim gönderebiliyor.

Şirket, bu teknolojinin tasarlanırken gizlilik ilkelerine uyulduğunu vurguluyor. Sistem mesajların içeriğini analiz etse de, tam metni ebeveynlere göstermiyor; sadece çocuklarının yardıma ihtiyaç duyabileceğini bildiriyor.

Ebeveyn Müdahalesi ve Destek Kaynakları

Bildirim alan ebeveynler, çocuklarıyla doğrudan konuşma fırsatı bulurken, aynı zamanda mental sağlık kaynakları ve profesyonel yardım seçenekleri de sunuluyor. Meta, bu uyarı sistemini uzman psikiyatristler ve çocuk güvenliği kuruluşları ile işbirliği yaparak geliştirdiğini açıkladı.

Platform, gençlerin kendilerine zarar veren içeriğe erişimini sınırlandırmak için başta almış olduğu adımları devam ettiriyor. Zararlı içerik aramalar yapan kullanıcılara ise direkt destek hatları ve terapist bilgileri sunuluyor.

Diğer Güvenlik Önlemleri

• Kendine zarar verme hashtag'lerinin izlenmesi ve riskli içeriğin gösterilmemesi
• Gençlerin belirlenen konularda arama yapması durumunda rehberlik mesajlarının görüntülenmesi
• Uzman kuruluşlarla ortaklık yaparak kaynak sağlanması