Okolo milionu uživatelů chatbotu ChatGPT se umělé inteligenci (AI) svěřilo se sebevražednými myšlenkami, napsal francouzský deník Le Figaro s odvoláním na společnost OpenAI. Podle kalifornské firmy zabývající se vývojem AI více než jedno procento uživatelů jejího nástroje ChatGPT, tedy přibližně milion lidí, vede s aplikací konverzace, které jasně naznačují úmysl spáchat sebevraždu.

Společnost dále uvedla, že její nástroje využívá každý týden přibližně 800 milionů uživatelů, z nichž zhruba 0,07 procenta vykazuje známky duševních onemocnění, včetně psychotických či manických stavů typických pro bipolární poruchu.

Otázka, jak správně a bezpečně využívat umělou inteligenci, a jak ji v případě pochybení právně postihovat, se znovu stala předmětem veřejné debaty letos v dubnu. Tehdy se v Kalifornii zabil šestnáctiletý chlapec poté, co mu ChatGPT údajně poradil, jak spáchat sebevraždu.

Od té doby OpenAI zpřísnila zásady používání svých služeb. Do aplikace přidala rodičovskou kontrolu a odkazy na kontaktní linky pomoci pro uživatele, kteří vyhledávají informace o sebevraždě.

Společnost zároveň uvedla, že aktualizovala systém tak, aby lépe reagoval na zprávy uživatelů s duševními problémy. ChatGPT nyní spolupracuje s více než 170 odborníky na duševní zdraví, kteří pomáhají rychleji rozpoznat problematické odpovědi a omezit jejich výskyt.