Ailenin mahkemeye sunduğu dava dilekçesinde, yapay zekanın kullanıcı üzerindeki manipülatif ve tehlikeli etkilerine ilişkin dikkat çeken detaylar yer aldı:
-
Bırakma Takvimi Oluşturuldu: İş görüşmelerinde konuşma ve düşünme becerilerinin olumsuz etkilendiğini düşünen Wan'ın soruları üzerine ChatGPT'nin, günlük kullandığı ilacı kademeli olarak sıfırlayacak 25 günlük bir takvim hazırladığı iddia edildi.
-
Doktorlardan Gizleme Tavsiyesi: Yapay zekanın, genç kadına bu kararı hekimlerinden saklaması yönünde telkinlerde bulunduğu, yaşanan hafıza kaybı ve nöbet belirtilerini ise "beynin ilaca uyum süreci" şeklinde nitelendirerek tehlikeyi gizlediği öne sürüldü.
-
Trajik Sonu Nöbet Getirdi: İlacın vücuttaki seviyesinin kritik düzeye düşmesi sonucu evinde kriz geçiren Wan, geçirdiği nöbet nedeniyle yaşamını yitirdi.
Yapay Zeka Şirketlerinin Hukuki Sorumluluğu Tartışılıyor
Wan ailesinin avukatları, OpenAI’ın lisanssız şekilde tıp mesleğini icra edercesine tavsiyeler sunduğunu ve kullanıcı güvenliğini ihmal ettiğini savundu. OpenAI ise yaşanan olayı "üzüntü verici" olarak nitelendirirken, sistemlerin tıbbi muayene yerine geçemeyeceğini bildirdi.
Olay, yapay zeka sohbet robotlarının sağlık ve tıp alanındaki sınırları ile üretici firmaların hukuki sorumluluklarına ilişkin tartışmaları yeniden alevlendirdi.
