Britsko-kanadský počítačový vědec Geoffrey Hinton, který je považovaný za jednoho z průkopníků umělé inteligence, již dříve vzbudil pozornost svým odhadem, že existuje 10–20% pravděpodobnost, že AI vyhladí lidstvo. Tento týden vyvolal další vlnu ohlasů, když vyjádřil pochybnosti o tom, jak se technologické firmy snaží zajistit, aby lidé i nadále ovládali své "podřízené" systémy umělé inteligence. Podle něj existuje jediný způsob, jak nadvládu lidstva nad jeho nejnovějším výtvorem udržet.

Hinton podle americké televize CNN varoval, že v budoucnu by systémy umělé inteligence mohly ovládat lidi stejně snadno, jako dospělý dokáže uplatit tříleté dítě bonbónem. Podle něj se již letos objevily případy AI systémů, které byly ochotné klamat, podvádět a krást, aby dosáhly svých cílů. Například jeden model AI se pokusil vydírat inženýra kvůli milostné aféře, o níž se dozvěděl z e-mailu, aby se vyhnul svému nahrazení.

Hinton, který dlouhodobě působil na University of Toronto a spolupracoval také s univerzitami v USA i Velké Británii, je označovaný za jednoho z "kmotrů" umělé inteligence. Tento titul si vysloužil společně se svými kolegy Yannem LeCunem a Yoshua Bengiem za průlomové objevy v oblasti neuronových sítí, za které tato trojice v roce 2018 obdržela Turingovu cenu, často přezdívanou jako "Nobelova cena za informatiku". V roce 2013 spoluzaložil firmu DNNresearch, kterou následně koupil Google, kde pracoval až do roku 2023. Tehdy Hinton veřejně oznámil svůj odchod z amerického technologického konglomerátu, který odůvodnil obavami z mnoha rizik spojených s dalším vylepšováním AI.

Snahy uměle omezovat schopnosti AI jsou podle Hintona odsouzené k neúspěchu, protože s jejich rostoucími schopnostmi budou systémy umělé inteligence schopné hledat neustále kreativnější cesty, jak nastavená omezení obejít. "Budou jednoduše mnohem chytřejší než my," prohlásil Hinton v úterý na konferenci Ai4, průmyslovém setkání v Las Vegas.

Místo toho, aby byla AI nucena se lidem podřizovat, představil Hinton zajímavé řešení: zabudovat do modelů AI „mateřské instinkty“, aby „opravdu pečovaly o lidi“, i když se technologie stane výkonnější a chytřejší než člověk.

Podle Hintona si chytré AI systémy „velmi rychle vytvoří dva dílčí cíle: jedním je zůstat naživu… a druhým získat větší kontrolu“. „Existuje dobrý důvod věřit, že jakákoli agentní AI se bude snažit zůstat naživu,“ řekl Hinton. Právě proto je podle něj důležité pěstovat v AI pocit soucitu k lidem - podobně jako lidské matky podléhají instinktům a společenskému tlaku, aby se staraly o své děti.

„Správným modelem je jediný model, který máme, kdy je inteligentnější bytost ovládána méně inteligentní bytostí — a to je matka ovládaná svým dítětem,“ řekl Hinton. Sám vědec si však není jistý, jak takový vztah mezi člověkem a umělou inteligencí technicky realizovat. Zdůraznil však, že je zásadní, aby na tom výzkumníci pracovali.

„To je jediný dobrý výsledek. Pokud mě to nebude ‚vychovávat‘, nahradí mě to,“ uvedl. „Tyto superinteligentní, pečující AI matky se většinou nebudou chtít zbavit mateřského instinktu, protože nebudou chtít, abychom zemřeli.“