Kontroverzní „svlékací“ funkce chatbota Grok na sociální síti X přitahuje stále větší pozornost politiků i regulátorů v Evropě. Po vlně kritiky, že nástroj umožňoval digitálně upravovat fotografie skutečných lidí – včetně žen a dětí – bez jejich souhlasu, hrozí platformě další sankce, a v krajním případě i omezení či zákaz fungování. Síť X v mezidobí spornou funkci omezila, přístup k ní získají pouze majitelé prémiových, placených účtů.

Britská vláda podle stanice BBC ostře zkritizovala krok X, která nově omezila úpravy obrázků pomocí Groku pouze na platící uživatele. Podle mluvčího premiéra jde o „urážku obětí misogynie a sexuálního násilí“ a o krok, který „jednoduše proměňuje AI funkci umožňující vytváření nelegálních obrázků v prémiovou službu“. Zároveň dodal, že to ukazuje, že síť „dokáže jednat rychle, když chce“.

K omezení přístupu došlo po silné kritice veřejnosti. Grok na žádost uživatelů digitálně „svlékal“ osoby zachycené na fotografiích, často bez jejich souhlasu. Některé ženy BBC uvedly, že se cítily „ponížené“ a „dehumanizované“.

Britská vláda vyzvala regulátora Ofcom, aby využil veškeré pravomoci podle zákona o online bezpečnosti. Premiér Keir Starmer označil generování sexualizovaných snímků dospělých i dětí za „nechutné“ a „ostudné“. „Je to nezákonné. Nebudeme to tolerovat. Všechny možnosti jsou na stole,“ uvedl. Ofcom by mohl v krajním případě usilovat i o faktický zákaz dostupnosti platformy X v Británii.

Kritika expertů

Podle profesorky Clare McGlynnové „Elon Musk hází hračky z kočárku na protest proti tomu, že je volán k odpovědnosti“ a místo systémových opatření jen omezuje přístup většině uživatelů. Internet Watch Foundation varovala, že změna „neodstraňuje škodu, která už byla napáchána“. Její zástupkyně Hannah Swirskyová uvedla, že organizace zaznamenala i „kriminální snímky dívek ve věku 11 až 13 let, které zřejmě vznikly pomocí Groku“.

Zásah Bruselu

Do kauzy se vložila také Evropská komise, která po společnosti X požaduje podrobné informace o fungování chatbota. Mluvčí Komise Thomas Regnier označil výstupy Groku za „nelegální, nepřijatelné a nechutné“ a připomněl, že podle nařízení o digitálních službách (DSA „dodržování evropské legislativy není volba, ale povinnost“. Komise zároveň firmě nařídila uchovávat veškeré dokumenty související s Grokem.

Ke kritice se připojilo Švédsko a podle agentury Reuters nahlásili francouzští ministři případ prokuratuře i regulátorovi Arcom.

Chatbot Grok vyvíjí start-up xAI, který převzal kontrolu nad sítí X vlastněnou miliardářem Elon Musk. Aktuální kauza tak dál zvyšuje tlak na platformu, která už dříve čelila kritice kvůli problematickým výstupům svého AI nástroje. Regulátoři dávají najevo, že pouhé omezení funkce pro neplatící uživatele považují za nedostatečné.