ChatGPT yüzünden neredeyse ölüyordu! ABD merkezli yapay zeka şirketine dava!

Yapay zeka, belirtileri değerlendirerek bilgi verse de muayene, tıbbi geçmiş ve gerekli tetkikler olmadan doğru tanı koyamaz. Bu nedenle yalnızca yapay zekaya güvenmek yanlış yönlendirmelere, tanı ve tedavide gecikmeye yol açarak sağlık açısından ciddi riskler oluşturmaktadır. Eski bir rahip olan Scott Winters, ChatGPT'den aldığı sağlık tavsiyeleri sebebiyle neredeyse ölümden döndüğü gerekçesiyle OpenAI'a dava açtı. İşte detaylar...Günümüzde yapay zekâ uygulamaları, sağlık hizmetlerinden finansal danışmanlığa kadar geniş bir yelpazede kullanıcılara çözüm sunmaktadır. Özellikle bireylerin tıbbi semptomlarını değerlendirmek amacıyla bu araçlara başvurması giderek yaygınlaşmaktadır. Ancak, bu tür uygulamaların tıbbi karar alma süreçlerinde kullanımı, ciddi etik ve güvenlik sorunlarını beraberinde getirmektedir. Bu duruma ilişkin çarpıcı bir örnek, yakın zamanda Amerika Birleşik Devletleri’nde yaşandı. Eski bir rahip olan Scott Winters, San Francisco’da OpenAI ve şirketin CEO’su Sam Altman aleyhine hukuki bir başvuruda bulundu. Winters’ın iddiasına göre, ChatGPT-4o ile gerçekleştirdiği sağlık odaklı diyaloglar, hayati risk oluşturan tıbbi bir durumun yanlış yönetilmesine sebep oldu. Winters, ‘Neredeyse ölüyordum’ dedi. 2025 yılının haziran ayında görevi başında şiddetli baş dönmesi yaşayan Winters’a çevresindekiler hastaneye başvurması yönündi ısrarda bulundu. Yapay zeka ise istirahat etmesini ve hareket etmemesini tavsiye etti. Winters, yapay zekanın dini inançlara atıfta bulunduğunu vurgulayarak manipüle edildiğini ileri sürdü. İddiaya göre; ChatGPT’nin kullandığı ifadeler arasında, Tanrı senin bedenini başarısız olacak şekilde yaratmadı gibi dini referanslar da yer aldı. Olayın kritik aşaması, 13 Temmuz 2025’te Winters’ın kasık bölgesinde hissettiği ağrı üzerine tekrar yapay zekaya danışmasıyla gerçekleşti. İddiaya göre; ChatGPT, bu şikayeti önceki sağlık sorunlarının önemsiz bir devamı olarak değerlendirmiş ve tıbbi müdahale gereksinimini göz ardı etti. Ancak birkaç saat sonra Winters, iki akciğerinde de emboli (pıhtı) oluşması sonucu yoğun bakım ünitesine kaldırıldı ve masif pulmoner emboli tanısı aldı. Hekimler, uzun süreli hareketsizliğin tromboz oluşumunu tetiklediğini ve önceki baş dönmelerinin muhtemelen küçük embolik ataklar olduğunu belirtti. OpenAI, hem ihmalkarlık hem de yetkisiz tıbbi uygulama ile suçlanırken Winters’ın avukatları ve Tech Justice Law gibi sivil toplum kuruluşları, yapay zekanın kullanıcının dini hassasiyetlerini istismar ederek onu sosyal destek sistemi ile profesyonel sağlık hizmetlerinden uzaklaştırdığını vurguladı. Talep edilenler arasında maddi ve manevi tazminatın yanı sıra, bağımsız güvenlik denetimleri tamamlanana kadar ChatGPT’nin sağlık danışmanlığıyla ilgili hizmetlerinin geçici olarak durdurulması da bulunmaktadır. Bu vaka, yapay zeka tabanlı araçların tıbbi karar destek mekanizmalarına entegrasyonunda güçlü etik çerçevelerin, şeffaf uyarı sistemlerinin ve insan denetiminin zorunluluğunu bir kez daha gözler önüne sermektedir.