OpenAI, ChatGPT'den Yasaklanan Gençlerin Velilerine Bildirim Gönderecek

OpenAI, ChatGPT'de ebeveynler tarafından yönetilen genç hesapları kullanan çocukların platforma karşı politika ihlalleri yapması durumunda velileri bilgilendirecek. Sistem, özellikle şiddet içeriği ve tehditli davranışlara yönelik ihlalleri tespit ederek otomatik bildirim gönderecek. Bu adım, yapay zeka uygulamalarında aile güvenliğinin artırılmasına yönelik sektördeki eğilimin devamı niteliğinde.

Veli Hesapları ile Bağlantılı Gençleri Hedefledi

OpenAI'nin yeni bildirim sistemi, üzerinde ana hesap bulunması suretiyle ebeveynler tarafından yönetilen veya ergen hesaplarına kısıtlama konmuş gençleri kapsamaktadır. Platforma karşı belirli kural ihlalleri yapan bu kullanıcılar, hesapları askıya alınmadan veya kapatılmadan önce velileri otomatik olarak uyarılacak.

Bildirim mekanizması, machine learning (makine öğrenmesi) algoritmaları yardımıyla şiddet, tehdit, ayrımcılık veya istismar türü içerikler tespit etmek üzere tasarlanmış. Sistem, her ihlal vakasında kapsamlı ayrıntı ve açıklama sağlayarak velilerin durumu anlamasını kolaylaştırmakta.

Yapay Zeka Şirketlerinin Güvenlik Çabası

Son yıllar içinde ChatGPT, Claude ve Gemini gibi büyük dil modellerini geliştiren firmalar, genç kullanıcılarının platformlar üzerindeki etkinliklerini izlemek ve sınırlamak için yeni araçlar sunmaya başladılar. OpenAI'nin veli bildirimi sistemi, bu eğilimin somut bir örneğini teşkil ediyor.

Tüm bu adımlar, yapay zeka araçlarının eğitim ve gelişim ortamında güvenli bir şekilde kullanılması konusunda artan endişelere yanıt olarak alındığı değerlendirilmektedir.

Sistem Nasıl Çalışacak?

• OpenAI, ChatGPT şartları ihlal eden gençleri otomatik olarak tanır
• Sistem, veli hesabına bağlı olan çocuk hesaplarında tetiklenir
• İhlalin türü ve ciddiyeti hakkında detaylı bilgi veliye iletilir
• Ebeveyn, gerekli tedbirler alabilmek için somut veriler elde eder