Evropská komise zveřejnila nový dobrovolný kodex postupů pro poskytovatele výkonných systémů umělé inteligence (AI), jehož cílem je vyjasnit povinnosti vyplývající z nových unijních pravidel, takzvaného Aktu o AI. Kodex se týká takzvaných generativních modelů AI, jako jsou ChatGPT od OpenAI, Claude od společnosti Anthropic nebo Gemini od Googlu.

Před zavedením kodexu jej ještě musí potvrdit členské země. Jeho cílem je mimo jiné omezit generování obsahu porušujícího autorská práva a zavést mechanismy pro vyhodnocování rizik před i po uvedení modelu na trh.

Dokument má tři kapitoly - transparentnost, autorská práva a bezpečnost. "Kodex je důležitý kvůli tomu, aby byly ty nejpokročilejší modely AI v Evropě nejen inovativní, ale i bezpečné a transparentní,“ uvedla eurokomisařka Henna Virkkunenová.

Evropská exekutiva dokument zveřejnila po silném tlaku ze strany americké vlády a technologických firem. Ty argumentují, že kodex představuje nepřiměřenou zátěž. Komise se již dříve postavila proti výzvám oddálit zavádění pravidel pro umělou inteligenci. Přihlášení se ke kodexu bude dobrovolné, ale firmy, které tak odmítnou učinit, nebudou mít prospěch z právní jistoty poskytované signatáři.

Signatáři se podle návrhu kodexu mimo jiné zavazují k zavedení technických opatření, která zabrání generování obsahu porušujícího autorská práva, a k průběžnému testování modelů podle kritérií stanovených v aktu o AI.

U nejpokročilejších modelů bude nutné zajistit i monitoring po jejich nasazení, včetně umožnění přístupu externím hodnotitelům. Komise v kodexu ale zároveň ponechala určitou míru pružnosti při vyhodnocování možných rizik.

Akt o AI, jehož části vstoupí v platnost již 2. srpna, byl přijat v srpnu loňského roku jako první ucelená regulace AI na světě. U nových modelů bude úřad pro umělou inteligenci pravidla moci vymáhat o rok později v srpnu 2026, u stávajících modelů v srpnu 2027. Součástí legislativy jsou i zvláštní pravidla pro vysoce rizikové systémy jako rozpoznávání obličeje nebo biometrické sledování.