Umělá inteligence v posledních měsících budí nadšení i obavy a také debaty o její regulaci na národních úrovních. V těch se řeší především možný dopad v budoucnu, lidem však hrozí problémy podle expertů už teď. Nejen při nadšeném testování nových jazykových modelů si neuvědomují, že jim svěřují i řadu potenciálně značně citlivých informací. A ty v případě úniku dat poslouží jako žádané zboží.

Generativní umělá inteligence se letos dostala do centra veřejného zájmu, zejména díky jazykvému modelu ChatGPT společnosti OpenAI, jenž dokáže na základě jednoduchých dotazů generovat články, eseje, vtipy, ale i poezii, scénáře či právní dokumenty. Spuštění ChatGPT také vyvolalo závod mezi technologickými giganty ve vývoji podobných nástrojů.

To vyvolalo kromě nadšení i značné obavy, o regulaci využití umělé inteligence jedná Evropská unie, se šéfy technologických firem o rizicích vývoje umělé inteligence mluvil v minulém týdnu i americký prezident Joe Biden. Americká vláda má podle informací agentury AP v plánu oznámit investici ve výši 140 milionů dolarů (2,9 miliardy Kč) do sedmi institutů na vývoj umělé inteligence. Bílý dům rovněž v příštích měsících vydá pro federální agentury pokyny, jak s nástroji založenými na umělé inteligenci pracovat.

Varování pro uživatele jazykových modelů však přichází už nyní. Bezpečnostní firma Check Point varuje před tím, že na internetu roste objem obchodu s kradenými prémiovými účty ChatGPT, které kyberzločinci používají mimo jiné k obcházení zákazů a restrikcí v řadě zemí. Například v Rusku, Číně nebo Íránu. Kyberzločinci při krádeži přístupových údajů získají navíc i historii dotazů původního majitele, které mohou obsahovat osobní i firemní informace.

„V případě ChatGPT jsou obavy spojené zejména s ochranou soukromí, jelikož jsme už byli svědky úniku dat, není ani vyřešena věková hranice uživatelů. Blokování podobných služeb má ovšem jen omezený účinek, protože každý jen trochu zdatnější uživatel zvládne zákaz obejít například pomocí VPN, čile se obchoduje také s kradenými prémiovými účty,“ varoval Pavel Krejčí z kyberbezpečnostní společnosti Check Point Software Technologies.

Problémem podle něj je, že si většina uživatelů neuvědomuje dopady svého jednání. Citlivé informace vkládané do ChatGPT budou podle něj v případě úniku velmi cenné a dobře použitelné k cíleným marketingovým účelům. „Mluvíme o potenciální sociální manipulaci v dosud nevídaném měřítku,“ dodal Pavel Krejčí.

Účty ChatGPT jsou podle společnosti mezi kyberzločinci novým hitem vedle účtů finančních služeb, sociálních sítí, on-line seznamek nebo e-mailů. „Kyberzločinci často spoléhají na to, že uživatelé používají stejná hesla na různých platformách. Jakmile tedy dojde k libovolnému úniku přihlašovacích údajů, zadají zcizené údaje do specializovaného nástroje a provedou pokusy o přihlášení, aby identifikovali, zda jsou zcizené údaje platné pro přihlášení i na jiných službách,“ uvedl regionální ředitel Check Pointu Miloslav Lujka.

Kvůli možným nebezpečím vznikla také petice, kterou podepsaly tisíce akademiků, expertů a podnikatelů včetně majitele Twitteru Elona Muska, který se v roce 2015 podílel na založení OpenAI. V otevřeném dopisu požadují alespoň šestiměsíční pauzu ve vývoji systémů výkonnějších než nejnovější generace ChatGPT. Navrhují, aby vývojáři tuto pauzu využili ke společné práci na bezpečnostních pravidlech a také k vystupňování spolupráce se zákonodárci na silné regulaci odvětví.