OpenAI'nin sağlık danışmanı ChatGPT herkese açıldı, ardından hukuki sorunlar başladı

OpenAI, ChatGPT'nin yeni sağlık danışmanlık özelliğini tüm kullanıcılarına açarken, yapay zekanın hastalarına ölümcül olabilecek tıbbi öneriler sunduğu iddiasıyla iki ayrı hukuki davayla uğraşmaya başladı. Son dokuz ayda artan sayıda kullanıcı, ChatGPT'nin sağlık konusundaki yanıtlarının hayatlarını tehlikeye attığını belirtmiştir.

Sağlık Hizmetine Duyulan Güven Sorgulanıyor

OpenAI tarafından sunulan ChatGPT Health (sağlık odaklı ChatGPT versiyonu), kullanıcıların belirtileri hakkında sorular sorabileceği ve tavsiyeleri alabileceği bir özellik olarak tasarlanmıştır. Ancak yeni hizmetin tüm kamuya açılması, endüstri gözlemcileri arasında önemli endişeler yaratmıştır.

İlk davada, bir kullanıcı ChatGPT'nin verdiği tavsiyeler sonucunda ciddi sağlık sorunları yaşadığını; ikinci davada ise bir hastanın hayatını kaybettiğini iddia etmiştir. Her iki dava da yapay zeka sistemlerinin tıbbi tavsiye verme konusundaki sınırlamalarını gözler önüne sermektedir.

Yapay Zekanın Tıbbi Danışmanlıktaki Riskleri

• ChatGPT sağlık verilerinden eğitilmesine rağmen, gerçek doktor muayenesini yerine geçiremez
• Yapay zeka modelleri bazen yanıltıcı veya eksik bilgi sunabilir
• Kişisel tıbbi durum değerlendirmesi için yetersiz kontekst (bağlam) olabilir
• Acil durumlarda yanlış tavsiye verilmesi ölümcül sonuçlar doğurabilir

Yasal Sorunlar OpenAI'nin Stratejisini Etkileyebilir

İki simultane dava, OpenAI için önemli bir sınav haline gelmiştir. Şirketin sağlık sektöründeki genişleme planları, bu davalar çözülünceye kadar inceleme altına alınabilir. Ayrıca, sağlık düzenlemelerine (FDA – Gıda ve İlaç Dairesi gibi) tabi olup olmayacağı konusu da tartışılmaya başlamıştır.

Yapay zeka, halkın sağlık bilgisine erişimini demokratikleştirmek istediğinde, sorumlu ve güvenli uygulamalar gerekir. ChatGPT Health davası, bu dengenin ne kadar hassas olduğunu göstermektedir.

OpenAI'nin Yanıtı ve İleri Adımlar

OpenAI şu ana kadar davalar hakkında resmi bir açıklama yapmamıştır, ancak şirketin sağlık hizmetlerinde daha sıkı uyarılar ve sorumluluk beyanları eklemeyi düşündüğü tahmin edilmektedir. Sağlık profesyonelleri, kullanıcıların ChatGPT gibi araçları yalnızca bilgi amaçlı kullanması gerektiğini vurgulamaktadır.