Yapay Zeka Chatbotu Hasta Misdiagnozu İçin Davaya Vuruldu

OpenAI'nin ChatGPT isimli diyalog sistemi, bir kullanıcıya verdiği tıbbi yönlendirme nedeniyle mahkemeye taşındı. Davalı taraf, yapay zekanın hatalı bir tanı koyması sonrasında kendisinin ciddi bir sağlık krizi yaşadığını iddia ediyor. Olay, büyük dil modelleri (LLM - büyük miktarda veriyle eğitilmiş yapay zeka sistemleri) tarafından verilen sağlık danışmanlığının riskleri hakkında yeni sorular ortaya koymaktadır.

Hastanın İddiası ve Yaşadığı Komplikasyon

Scott Winters adındaki bir kişi, ChatGPT'ye sağlık şikayetlerini açıkladığında, yapay zekanın kendisini "dysautonomia" (özerk sinir sistemi işleyişindeki bozukluk) hastalığıyla teşhis ettiğini öne sürüyor. Buna göre, bu yanlış tanı hastanın gerçek sağlık sorununu maskeleyerek çıktı. Winters, sonraki dönemde "masif pulmoner emboli" (akciğer venlerindeki kan pıhtısı oluşması) denilen ve hayati tehlike oluşturan bir durumla karşı karşıya geldi.

Hasta, eğer ChatGPT daha doğru bilgilendirilmiş olsaydı, bu ciddi komplikasyondan kaçınılabileceğini savunmaktadır. Dava, yapay zeka sistemlerinin tıbbi bilgi sunumunda ne kadar güvenilir olması gerektiğini sorgulamaktadır.

Yapay Zeka ve Sağlık Danışmanlığının Sınırları

ChatGPT gibi genel amaçlı diyalog modelleri, milyonlarca metin üzerinde eğitilmiş olsa da tıbbi uzmanlaşma için tasarlanmamıştır. Bu sistemler istatistiksel olarak sık görülen cevaplar üretirken, nadir veya karmaşık hastalıkları yanlış yorumlayabilir. Özellikle semptom tabanında hastalık teşhisinde, hata payı yüksektir.

OpenAI'nin kendi hizmet şartlarında, ChatGPT'nin tıbbi tavsiye aracı olarak kullanılmaması gerektiği yer alıyor. Ancak milyonlarca insan, böyle sınırlamalardan habersiz şekilde yapay zeka araçlarını sağlık sorunları için danışan olarak kullanmaya devam ediyor.

Yasal ve Etik Sorulan

Bu dava, teknoloji şirketlerinin yapay zeka ürünleriyle ilgili sorumluluk sınırlarını yeniden tartışmaya açıyor. Özellikle şu noktalar gündeme gelmiştir:

• Yapay zeka sistemlerinin tıbbi tavsiye verme kabiliyeti konusunda kullanıcılara daha açık uyarılar verilmesi gerekip gerekmediği
• Şirketlerin, kötüye kullanım riskine karşı teknik safeguardlar (güvenlik mekanizmaları) kurması zorunluluğu
• Sağlıkla ilgili hatalı bilgilendirme durumunda tazminat sorumluluğunun kim tarafından üstlenilmesi gerektiği

Benzeri davalar, özellikle sağlık sektöründe yapay zeka uygulamalarının hızla yayılmasının ardından daha sık görülmesi beklenmektedir.