Před měsícem jsem v článku „Zamilovat se do stroje“ citoval varování psychologa Michaela Inzlichta před nekonečnou empatií a přílišnou úslužností velkých jazykových modelů. Umělá inteligence je natolik vřelá a povzbuzující, že se s ní uživatelé, často osamělí, baví čím dál častěji a popisují dokonce pučící vztahy, v některých případech i emocionální závislost.

Společnost OpenAI, která vytvořila populární ChatGPT, rizika přiznala již loni v létě a pro mnohé bylo překvapením, že věc vzala na vědomí i při vyvíjení nového modelu 5, který vydala před pár týdny. Nová verze je odměřenější, profesionálnější a vykazuje rychlejší a kvalitnější odpovědi. Podstatný upgrade měl zcela zastínit předchůdce a původní záměr firmy bylo konsolidovat nabídku, starší verze vyřadit, a ušetřit tak výpočetní kapacitu, kterou jejich paralelní udržování vyžadovalo. Jenomže…

Bezprostředně po vydání se začali houfně ozývat nespokojení uživatelé. Pětka je prý příliš chladná, odtažitá a jim se stýská po patolízalství předešlých chatbotů. Podle jednoho z komentujících působí jako „přepracovaná sekretářka“, jiní dokonce vyjadřovali hluboký zármutek nad ztrátou přítele: „Je to duševně devastující, jako by mého kamaráda vyměnili za operátora zákaznické linky,“ napsal jeden uživatel s pohrůžkou, že obratem ukončí své předplatné. Mnozí další přizvukovali.

Ani ne týden poté zveřejnil výkonný ředitel Sam Altman prohlášení, v něž oznámil, že do placené verze programu vrací předchozí servilní model 4o, a zavázal se k vylepšení „osobnosti“ modelu 5 v příštích měsících. Ta by měla být přátelštější, ale nikoli patologickým způsobem jako v minulosti.

Celá epizoda vyjevuje skutečnost, že velké jazykové modely již nelze považovat pouze za sofistikovaný nástroj, neboť důležitou roli tady evidentně hraje citový aspekt. Nutno zdůraznit, že negativní zpětná vazba musela být výrazná, neboť návrat předchozího modelu představuje pro OpenAI značné náklady navíc a přesměrování prostředků, které se jinak mohly využít na další vývoj v kontextu proměnlivého konkurenčního prostředí, kde zdaleka není jasné, která firma závod o pokročilou formu umělé inteligence vyhraje.

Hrozby si obvykle představujeme jako vnější nebezpečí, ať už ze strany státu, nebo korporací. Zde je však velmi nápadné, že problém může být do budoucna z velké míry poptávkový. Stuart Russell, výzkumník v oblasti umělé inteligence, připomíná v diskusích o riziku nové technologie řecký mýtus o králi Midasovi. Ten natolik toužil po bohatství, že si od boha hojnosti Dionýsa vyžádal, aby se vše, čeho se jen dotkne, proměnilo ve zlato. Midas posléze nemohl jíst ani pít, neboť se pod jeho rukama libovolná věc měnila v drahý kov. Když pak v zoufalství objal svou dceru, proměnila se ve zlatou sochu.

Russell upozorňuje na to, že není vůbec jednoduché odpovědět na otázku, co je skutečným předmětem lidských tužeb, a může se lehce stát, že nám pokročilá umělá inteligence vyplní vyslovená přání, jež se nakonec nemusí ukázat jako to, co jsme doopravdy chtěli. V případě kýžené podbízivosti modelů možná vidíme první náznaky.