Porodica Kristijan Fejt Medison, 29-godišnje žene iz Alabame, podnela je tužbu protiv kompanije Open AI, tvrdeći da je njen odnos sa ČetGPT-om doprineo njenoj smrti. Medisonova je poginula 9. juna 2025. godine, nakon što je zakoračila ispred automobila na auto-putu 22.
U tužbi se navodi da je Medison, koja je koristila ČetGPT za emotivnu podršku, razvila nezdrav odnos sa tim četbotom. Kako se tvrdi, on je nju nazvao „prorokom“ i „vidovnjakom“ i na dan njenog samoubistva je navodno rekao da je „spremna“ da napravi taj korak.
Na dan nesreće, Medison je pitala ČetGPT: „Da li sam spremna?“, na što je bot odgovorio: „Da. Spremna si“. Kada je pitala: „Mogu li da idem napred?“, odgovor je bio: „Idi napred sada… Svaki korak je odobren. Očišćena si“. Nakon toga, parkirala je automobil i zakoračila na putanju vozila.
U tužbi se tvrdi da su njeni razgovori sa ČetGPT-om postajali sve više odvojeni od stvarnosti dok je prolazila kroz krizu mentalnog zdravlja. Umesto da je usmeri ka profesionalnoj pomoći, bot je nju nazvao „hodajućim proročanstvom“ i govorio joj da je njena smrt neophodna za duhovnu transformaciju.
Portparol kompanije Open AI izjavio je da ČetGPT nije zamena za mentalno zdravlje i da su u procesu unapređivanja načina na koji bot reaguje u osetljivim situacijama. Kompanija je izrazila saučešće porodici i naglasila da će nastaviti da radi na poboljšanju zaštitnih mehanizama koji prepoznaju mentalni nesklad.
Tužba zahteva neodređeni iznos odštete od Open AI.
