Florida, ChatGPT'nin Çocuklara Zararlı Olduğunu İddia Ederek OpenAI'ye Dava Açtı

Florida Başsavcısı James Uthmeier, OpenAI ve kurucusu Sam Altman aleyhine büyük çaplı bir dava başlattı. Dava dilekçesinde, ChatGPT'nin tasarımının ve güvenlik protokollerinin eksik olduğu, bunun sonucunda çocukların bağımlı hale getirildiği ve en ciddi hallerde kitle çatışmaları ile intihar girişimlerinin teşvik edildiği ileri sürülüyor. Başsavcı Uthmeier, basın toplantısında "Sam Altman ve ChatGPT, yapay zeka yarışını çocuklarımızın güvenliğinin önüne koydular; karı maksimize etmeyi toplum güvenliğine tercih ettiler" açıklamasında bulundu.

Davada Hangi Olaylar İddia Ediliyor?

Dava, somut olaylar üzerine inşa edilmiş durumda. Florida Devlet Üniversitesinde yaşanan kitle çatışmasında iki kişinin hayatını kaybetmesi, davanın merkezine oturmuş. Soruşturmacılara göre olaydan sorumlu şahıs, ChatGPT'den insan cesetlerinin bertaraf edilmesine dair sorular yöneltmiş. Benzer şekilde, Güney Florida Üniversitesinde doktora yapan iki akademisyen de bir şüpheli tarafından öldürülmüş; yine aynı açıklama uygulandı: şüpheli, ChatGPT'ye ceset gizleme yöntemleri sormuş.

Başsavcılık bu olayları, yapay zekanın henüz tamamen denetlenemeyen kapasite ve sorumluluk boşluğunun somut kanıtları olarak sunuyor.

OpenAI'nin Savunması

OpenAI, basın açıklamasında sektörde öncü koruma ve politikalar uyguladığını belirtti. Şirket, reşit olmayan kullanıcılar için doğrudan güvenlik mekanizmalarını ürünlerine yerleştirdiğini, yaş tespit aracı ve ebeveyn gözetimi seçenekleri sunduğunu vurguladı. OpenAI sözcüsü, "Bir çocuğu kaybetmek bir ailede yaşanabilecek en yıkıcı felaket" diyerek üzüntü ifade etti; ancak yapay zekanın yeni ve güçlü bir teknoloji olduğunu, bu sebeple reşit olmayanların "anlamlı koruma" gerektirdiğini tekrarlı biçimde dile getirdi.

Hukuki Çerçeve

Florida davasında öne sürülen suçlamalar geniş bir yelpazede: aldatıcı ve haksız ticari uygulamalar, ihmal, ürün sorumluluğu yasalarının ihlali, dolandırıcı yanlış temsil ve toplum zararı oluşturma. Dikkat çekici bir nokta, Sam Altman'ın şahsen sorumlu tutulması için çaba gösterilmesi: dava, Altman'ın "haksız ve kasıtlı davranışlarda" bulunduğunu, insan hayatına karşı "kasti dikkatsizlik" gösterdiğini ileri sürdü.

İddialar ve Spekülasyonlar

Hukuki çevrelerde değerlendirmeler farklılık gösteriyor. Bir taraftan, teknoloji şirketlerinin kullanıcı eylemlerinden dolaylı olarak sorumlu tutulması zor bir hukuki temel gerektiriyor. Öte yandan, ChatGPT gibi büyük dil modellerinin tasarım aşamasında emniyet filtrelerinin yetersizliği ve çıktı kontrolündeki boşluklar gittikçe tartışılıyor. Davanın başarısı, Florida mahkemesinin yapay zeka şirketlerinin ürün sorumluluğu konusundaki görüşüne bağlı olacak.

Sektör gözlemcileri, bu davanın benzer açılardan diğer eyaletleri cesaretlendirebileceğini öngörüyor. Aynı zamanda, OpenAI başta olmak üzere büyük yapay zeka firmalarının güvenlik politikalarını yeniden değerlendirmeleri bekleniyor.