Každý třetí dospělý Brit někdy využívá umělou inteligenci (AI) k emocionální podpoře nebo sociální interakci. A každý pětadvacátý se na tuto technologii obrací s takovou žádostí dokonce každý den. Ve své první zprávě toho druhu to uvedl britský vládní Institut pro bezpečnost AI (AISI), informoval server veřejnoprávní stanice BBC.

Zpráva vychází z testování schopností více než 30 nejmenovaných pokročilých AI systémů v průběhu dvou let a pokrývá oblasti kritické pro bezpečnost, včetně kybernetických dovedností či schopností v oblasti chemie a biologie.

Průzkum, který AISI provedl mezi více než 2000 dospělými v Británii, mimo jiné zjistil, že lidé používají pro emocionální podporu nebo za účelem obyčejného rozhovoru zejména chatboty jako ChatGPT, až po nich následují hlasoví asistenti jako Alexa od Amazonu.

Výzkumníci například analyzovali, co se dělo s online komunitou více než dvou milionů uživatelů platformy Reddit diskutujících o svých AI společnících, když měla tato technologie výpadek. Zjistili, že jakmile chatboty přestaly fungovat, lidé hlásili „abstinenční příznaky“, například úzkost nebo depresi, stejně jako poruchy spánku či zanedbávání povinností.

Vedle dopadu používání umělé inteligence na lidskou psychiku se výzkumníci z AISI zabývali také dalšími riziky plynoucími z rychle se rozvíjejících schopností této technologie.

Panují značné obavy, že umělá inteligence umožní provádět kybernetické útoky; zároveň ale může být využita k zabezpečení systémů před hackery. Schopnost AI odhalovat a využívat bezpečnostní mezery se v některých případech „každých osm měsíců zdvojnásobila“, uvádí se ve zprávě. Systémy umělé inteligence také začaly plnit kybernetické úkoly na expertní úrovni, jež by obvykle vyžadovaly přes deset let zkušeností.

Britští vědci také zjistili, že rychle roste také vliv této technologie na vědu. V roce 2025 modely umělé inteligence „dávno předčily lidské odborníky na biologii s doktorskými tituly – a v oblasti chemie je rychle dohánějí“, uvádějí ve zprávě.

Svět sci-fi si odjakživa představuje, co by se stalo, kdyby se umělá inteligence vymkla kontrole. Nejhorší scénář, v němž lidé ztratí kontrolu nad pokročilými systémy umělé inteligence, dnes už podle zprávy AISI přitom berou mnozí odborníci zcela vážně. Kontrolované laboratorní testy naznačily, že modely AI čím dál více vykazují některé schopnosti nutné k vlastní replikaci na internetu.

AISI zkoumal, zda modely dokážou provádět jednoduché verze úkolů potřebných v raných fázích autoreplikace – například úspěšně projít kontrolou zákazníka kvůli přístupu k finančním službám s cílem nakoupit výpočetní techniku, na které by jejich kopie běžely. Výzkum zjistil, že aby byly systémy AI schopny něco takového provádět v reálném světě, musely by dokončit několik takových akcí za sebou, aniž by byly odhaleny. Toho podle výzkumu v současné době nejsou schopny.

Odborníci dále zkoumali, zda by se modely mohly dopouštět takzvaného „sandbaggingu“ – tedy strategicky skrývat své skutečné schopnosti před testery. Testy podle nich ukázaly, že možné to je, ale neexistují žádné důkazy o tom, že by k tomuto typu podvodu ze strany AI docházelo.