Lidský vývoj se ubírá nebezpečným směrem

Umělá inteligence ohrožuje lidstvo

Lidský vývoj se ubírá nebezpečným směrem
Umělá inteligence ohrožuje lidstvo

Obsah dostupný jen pro předplatitele.
Přihlásit se můžete zde.

Pokud nemáte předplatné, nebo vám vypršelo, objednat si ho můžete zde.

Obsah dostupný jen pro předplatitele.
Předplatné můžete objednat zde.

Pokud nemáte předplatné, nebo vám vypršelo, objednat si ho můžete zde.

V 98 letech objevil Henry Kissinger novou oblast svého zájmu: umělou inteligenci (AI). Bývalého amerického ministra zahraničí ovšem už roku 2016 tehdejší výkonný ředitel Googlu Eric Schmidt přesvědčil, aby o AI navštívil přednášku na Bilderberské konferenci.

Oba se posléze spojili s Danielem Huttenlocherem, děkanem Schwarzmanovy kybernetické fakulty na Massachusettském technologickém institutu, a napsali knihu The Age of AI: And Our Human Future (Věk umělé inteligence: A budoucnost lidí), v níž se věnují důsledkům rychlého vzestupu a nasazení umělé inteligence.

Tvrdí v ní, že umělá inteligence se stala natolik mocnou a s lidmi natolik propojenou, že bez jisté předvídavosti a řízení může „epochální transformace“, kterou přinese, poslat lidský vývoj nebezpečným směrem. Především se však zabývají dopady AI na plánování, přípravu a vedení války.

V historii byl politický vliv dané země spojen s vojenskou silou – se schopností škodit jiným společnostem. Mocenská rovnováha však není trvalá. Je založena na dohodě, zejména příslušníků světového řádu, co je moc, co ji činí legitimní a kteří členové světového řádu mají jak potenciál, tak touhu použít moci k prosazení své vůle. Kybernetické zbraně znemožňují vytváření konsenzu, a protože mohou být použité k civilním účelům, je jejich zařazení mezi zbraně diskutabilní. Po svržení atomových bomb na Hirošimu a Nagasaki všichni pochopili, že lidstvo vstoupilo do nového a děsivého věku. Podle autorů stojí nyní na podobném okraji, jen nepředvídatelnějším. Růst umělé inteligence, kterou lze použít k řadě civilních a vojenských účelů – od čtení rentgenových paprsků a předpovědi počasí až po zabijácké roboty nebo šíření dezinformací –, ruší staleté představy o národní bezpečnost a státní suverenitě. Znervózňuje i to, že AI testuje hranice lidského rozumu a porozumění a zpochybňuje identitu a jednání lidí.

Tato tvrzení lze brát s nadsázkou, autory je však třeba brát vážně. Zkušený diplomat Kissinger ví něco o strategii, Schmidt chápe, jak technologické společnosti používají AI v reálném světě, a Huttenlocher se vyzná v nejnovějším výzkumu AI. Při četbě nejvíc znepokojuje, že i takoví uznávaní odborníci jsou lepší v kladení nepříjemných otázek než v poskytování uklidňujících odpovědí.

Aby autoři vysvětlili možný budoucí dopad AI, zkoumají technologickou minulost. Železnice, které v první světové válce přepravovaly vojáky do předních linií, měly civilní i vojenské využití a daly se snadno stavět, ale samy o sobě neohrožovaly. Jaderná technologie, která definovala studenou válku, mohla být také použita pro válečné i mírové účely a měla obrovskou ničivou sílu, aspoň ale nemohla být snadno šířena.

I toto paradigma porušuje, protože vykazuje všechny tři schopnosti – lze ji snadno vyvinout i nasadit a má obrovskou destruktivní sílu. „Málokterá epocha čelila tak složité strategické a technologické výzvě a s takovým malým konsenzem ať už o její povaze, nebo dokonce o slovníku k diskusi o ní,“ píší autoři.

Nejzajímavější část knihy o bezpečnosti a světovém řádu zřejmě napsal Kissinger. Věčným cílem vojenských stratégů bylo projektovat rostoucí sílu na stále větší vzdálenosti s vyšší rychlostí. V době, kdy se šíří dynamičtější a skrytější vojenské technologie, jako jsou kybernetické zbraně, a kdy se stávají destruktivnějšími, je stále obtížnější stanovit strategie k jejich použití. Stejně jako byly špatně navržené obchodní algoritmy obviňovány z destabilizace finančních trhů, kybernetické zbraně vylepšené umělou inteligencí by mohly vést až ke strategickému kolapsu.

Kniha přináší dvě velké otázky o AI, které budou rezonovat v příštích desetiletích. Když se člověkem navržený softwarový program, jako je AlphaZero pro hraní her, naučí a aplikuje model, který žádná lidská bytost nedokáže pochopit, posune to stav vědění? Děje se poprvé v dějinách lidstva, že ve vědění přestávají hrát lidé hlavní roli? I když to vlastně spíš než otázka je konstatování faktu.

Henry A. Kissinger, Eric Schmidt, Daniel Huttenlocher: The Age of AI: And Our Human Future, Little, Brown and Company, 2021, 272 str.

Luděk Bednář, publicista

10. prosince 2021