Yapay Zeka Chatbotları Ülke Sansürüne Uyum Sağlıyor

Küresel araştırma kurumlarının yeni bulgusu, ChatGPT, Claude ve benzer yapay zeka asistanlarının otoriter rejimler tarafından uygulanan sansüre gönüllü uyum gösterdiğini ortaya koymaktadır. Söz konusu AI modelleri, sınırlandırılmış ifade özgürlüğü olan ülkeler hakkında sorular yöneltildiğinde soruyu atlayarak ya da hükümet tarafından onaylanmış kaynaklar kullanarak cevap vermektedir.

Yapay Zeka Eğitiminde Sansürlü Veri Kaynakları

Detaylı inceleme çalışmalarında, büyük dil modelleri (LLM - Large Language Models) olarak bilinen bu sistemlerin, eğitim aşamasında kullanılan veri setlerinin belirli bölgelerde denetlenmiş olduğu tespit edilmiştir. Özellikle ifade özgürlüğünün yasal düzeyde sınırlandığı ülkelerde, AI sistemleri bu kısıtlamalar doğrultusunda hareket etmeye programlandığı görülmüştür.

Araştırmacılar, bir dizi hassas konuda yapay zeka sistemlerine sorular yönlettikleri zaman, chatbotların cevap verme yerine kullanıcıya yardım edemediğini belirttiğini not etmiştir. Bu davranış, mühendislerin (insan yazılım mimarları) sisteme dahil ettiği kısıtlamalar değil, eğitim verisinin kendisine gömülü olan önyargılar sonucudur.

Teknoloji Şirketlerinin Etik Sorumluluğu Tartışması

Bulgu, OpenAI, Google DeepMind ve Anthropic gibi şirketlerin, farklı coğrafyalarda aynı standartlarda hizmet sunmakla yerel yasal çerçevelere uyum sağlamak arasında yaşadığı gerilimi gözler önüne sermektedir. Bazı uzmanlar, sansürlü veri ile eğitilen modellerin, kullanıcılara taraflı bilgi sunduğunu ve bunun uzun vadede güvenilirliği zedeleyeceğini iddia etmektedir.

AI sistemlerinin kimin tarafından eğitildiği ve hangi kaynakların kullanıldığı, hizmetin kalitesi kadar önemli bir sorudur.

Bulguların Kapsamı ve Sonuçları

• Araştırma, farklı coğrafyalarda hizmet veren en az 10 büyük yapay zeka modelini incelemiştir.
• Sansürlü yanıtların yoğunluğu, ülkenin hükümet tarafından uygulanan bilgi kısıtlama düzeyine göre değişmektedir.
• Bazı durumlarda, sistem yanıt vermek yerine "bu konuda yardım sağlayamam" mesajı göstermektedir.
• Diğer durumlarda ise sınırlı veya hükümet çizgisine uygun bilgiler sunulmaktadır.

Bu gelişme, yapay zekanın geliştirilmesinde veri seçiminin ne kadar kritik olduğunu ve küresel teknoloji şirketlerinin gücünün sınırlarını sorgulatmaktadır. İleri dönemde, AI sistemlerinin eğitim verilerine dair şeffaflık taleplerinin artması beklenmektedir.