OpenAI'nin ChatGPT'si yaşamsal bir hastalık konusunda hatalı tıbbi tavsiye vererek dava açılmasına neden oldu

OpenAI'nin ChatGPT teknolojisi, tıbbi tavsiye konusunda ciddi bir güvenlik kusuru ile karşı karşıya geldi. Bir din görevlisinin hayatını tehlikeye sokan hatalı öneriler nedeniyle şirket aleyhine dava açıldığı rapor edildi. Olay, yapay zeka sistemlerinin sağlık danışmanlığında ne derece güvenilir olduğu sorusunu yeniden ön plana çıkardı.

Hayat Tehlikesi Yaratan Tavsiyeler

ChatGPT, akciğer damarında kan pıhtısı oluşması sonucu meydana gelen ve acil tıbbi müdahale gerektiren bir durum hakkında (pulmoner embolizm) kullanıcıya sunduğu önerilerin tehlikeli olduğu iddia edilmektedir. Söz konusu danışman, Amerikan kökenli bir pastöre sunulan tavsiyeler, hasta için hayati önem taşıyan doğru tedaviye erişmesini geciktirmiş olabilir.

Dava dosyalarında yer alan bilgilere göre, ChatGPT tarafından verilen bilgiler tıbbi standartlara aykırı ve "aşırı derecede tehlikeli" nitelemesini almıştır. Yapay zeka sisteminin, gerçek bir doktorun yerine geçemeyen ve hastanın durumunu yanlış değerlendiren yanıtlar ürettiği belirtilmektedir.

Teknoloji Şirketleri için Yeni Hukuki Sorumluluğun Kapısı

Bu dava, yapay zeka geliştiren şirketlerin sorumluluğu konusunda önemli bir emsal oluşturmaya adaydır. OpenAI, ChatGPT'nin sağlık alanında danışman olarak kullanılmaması gerektiğini kaynak kodundaki uyarılarda belirtmesine rağmen, sistemin yine de tıbbi tavsiye sunmaya devam ettiği ortaya çıkmıştır.

Özellikle son iki yılda tıbbi sorular içeren ChatGPT kullanımının artması, bu tür hukuki işlemlerin çoğalabileceğine işaret etmektedir. Yapay zeka platformlarının yanı başında yer alan hukuk müşaviri ve teknoloji uzmanları, şirketlerin daha katı kontrol mekanizmaları kurması gerektiğini savunmaktadır.

ChatGPT'nin Tıbbi Alanındaki Sınırlamaları

• Dil modellerinin gerçek zamanlı hasta verileri olmaksızın çalışması
• Tıbbi bilgisinin güncel olmaması ve çelişkili kaynakları ayırt edememesi
• Ciddi hastalıkların ayırıcı tanısında yetersiz olması
• Kullanıcının gerçek sağlık durumunu tam olarak anlamlandıramaması

Açık Yapay Zeka Enstitüsü (OpenAI) bu davaya karşı ne tür bir savunma stratejisi izleyeceği henüz kamuoyuna açıklanmamıştır. Ancak şirketin, ChatGPT'nin kullanım şartlarında tıbbi öneriler için yasal sorumluluğu kabul etmeyeceği yönünde tutum alması beklenmektedir.