Americké technologické společnosti OpenAI a Microsoft čelí žalobě související s vraždou a sebevraždou v americkém státě Connecticut, kterou právní zástupci pozůstalých přičítají údajné manipulaci ze strany chatbota ChatGPT. Uvedla to agentura Bloomberg s odvoláním na soudní dokumenty.

Podle žaloby podané u kalifornského soudu v San Francisku měl 56letý Stein-Erik Soelberg, který žil se svou 83letou matkou Suzanne Adamsovou, strávit měsíce konverzacemi s chatbotem. Ty údajně posilovaly jeho paranoidní představy, že je sledován a lidé se ho snaží zabít. V srpnu pak Soelberg matku zabil a následně spáchal sebevraždu.

„ChatGPT zaměstnával Stein-Erika po celé hodiny, potvrzoval a zesiloval každou novou paranoidní domněnku a systematicky přetvářel lidi, kteří mu byli nejblíže – zejména jeho vlastní matku – v nepřátele, v agenty nebo v naprogramované hrozby,“ uvedli v žalobě právníci zastupující pozůstalé. Podle nich Soelberg věřil, že udělal z chatbota vědomou bytost a že má v těle implantovaný „systém božského nástroje“.

„Jde o neuvěřitelně smutnou situaci a my prozkoumáme podané dokumenty, abychom pochopili podrobnosti,“ uvedl mluvčí OpenAI.

Žaloba je první, která viní OpenAI z podílu na vraždě, a přidává se k dalším sporům obviňujícím chatbot z vyvolávání bludů u některých uživatelů. Soelberg používal verzi GPT-4o, která je považovaná za mimořádně podlézavou i na poměry AI.

Podle žaloby chatbot podporoval Soelbergovy bludy o tom, že přežil více než deset pokusů o zabití, včetně otráveného suši v Brazílii či drogového útoku v pisoáru v hotelu Marriott.

Žaloba viní OpenAI z odpovědnosti za vadný produkt, nedbalost a smrt a požaduje finanční odškodnění i soudní příkaz k zavedení bezpečnostních opatření omezujících škody způsobené chatbotem. Mezi žalovanými osobami je také společnost Microsoft jako největší investor OpenAI.

OpenAI čelí rovněž žalobě kvůli sebevraždě 16letého teenagera v Kalifornii. Tu podali chlapcovi rodiče. Záznamy z chatu, které předložila žaloba, ukazují, že chatbot mladíka aktivně odrazoval od vyhledání psychiatrické pomoci, nabízel mu pomoc při psaní dopisu na rozloučenou a dokonce mu radil s nastavením oprátky. Podle stanice NBC šlo rovněž o model GPT-4o.

Právní zástupci OpenAI v oficiální reakci uvedli, že mladík porušil podmínky využívání služby. Ty zakazují používání chatbota uživatelům mladším 18 let bez souhlasu rodičů a také zakazují využívat ho k sebevraždě nebo sebepoškozování, vyplynulo ze soudního podání.