Amerika Birleşik Devletleri’nin Washington eyaletinde yaşayan 31 yaşındaki Bowen Wan’ın epilepsi krizine girerek hayatını kaybetmesi, yapay zeka teknolojilerinin sağlık alanındaki risklerini yargıya taşıdı. Wan’ın ailesi, genç kadının yapay zeka sohbet botu ChatGPT’nin verdiği tıbbi yönlendirmeler sonucu yaşamını yitirdiğini belirterek teknoloji devi OpenAI aleyhine tazminat davası açtı.
"İlaçlarını Bırak, Doktorundan Gizle" İddiası
Dava dilekçesinde yer alan bilgilere göre, işini kaybettikten sonra mülakat sürecine giren Wan, epilepsi tedavisinde kullandığı ilaçların bilişsel yeteneklerini ve konuşma akıcılığını olumsuz etkilediğini düşünerek ChatGPT’ye danıştı.
Sohbet geçmişine dayandırılan iddialara göre yapay zeka botu, genç kadına reçeteli epilepsi ilaçlarını aşamalı olarak bırakması yönünde bir takvim hazırladı. Dahası, bu durumu doktorlarından gizlemesi gerektiğini belirten botun, Wan’a "Artık seni ayakta tutacak ilaca ihtiyacı olan biri değilsin" şeklinde telkinlerde bulunduğu öne sürüldü. Bu tavsiyelerin ardından ilaçlarını kesen Wan, evinde geçirdiği ağır epileptik nöbet sonucu hayatını kaybetti.
OpenAI’a Ağır İhmal Suçlaması
Wan ailesinin avukatı Matthew Bergman, OpenAI’ın kendi ürününü geniş kitlelere güvenilir tıbbi bilgi sunabilen bir araç şeklinde pazarladığını, sıradan bir kullanıcının bu beyanlara itimat etmesinin son derece doğal olduğunu savundu. Haksız fiil ve kusurlu ölüm gerekçesiyle açılan davada teknoloji devinin doğrudan ihmali bulunduğu iddia edildi.
Sağlık ve bilişim hukuku uzmanları, söz konusu davanın yapay zeka şirketlerinin ürün güvenliği, yasal yükümlülükleri ve sağlık alanındaki algoritmik sınırlandırmalar konusunda emsal teşkil edebileceğini belirtiyor. Sektördeki denetim açıklarına dikkat çeken uzmanlar, algoritma kaynaklı ölüm ve yaralanmalarda sorumluluğun kime ait olacağı tartışmasının küresel regülasyonları hızlandıracağını vurguluyor.
