Brusel chce po síti X informace k chatbotovi kvůli sexualizovaným obrázkům

Brusel zároveň firmě nařídil, aby nadále uchovávala všechny dokumenty týkající se Groka na její platformě X, a to až do konce letošního roku.

Evropská komise zaslala americké společnosti X Corp miliardáře Elona Muska žádost o informace ohledně chatbota s umělou inteligencí (AI) Grok v reakci na nedávný skandál, kdy chatbot na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí. Informoval o tom mluvčí Evropské komise Thomas Regnier. Brusel zároveň firmě nařídil, aby nadále uchovávala všechny dokumenty týkající se Groka na její platformě X, a to až do konce letošního roku.

"Nelegální. Nepřijatelné. Nechutné," uvedl Regnier s tím, že podle unijního nařízení o digitálních službách (DSA) má síť X povinnost situaci řešit. "Protože takový výstup nemůžeme tolerovat. Je to v rozporu s evropskými hodnotami a základními právy. Dodržování evropské legislativy není volba, je to povinnost," dodal.

Evropská komise už loni přikázala společnosti X uchovávat dokumenty v souvislosti s vyšetřováním fungování algoritmu stejnojmenné sociální sítě na území EU. Platnost tohoto příkazu vypršela na konci loňského roku.

"Říkáme tím platformě - uchovávejte si své interní dokumenty, nezbavujte se jich, protože máme pochybnosti o tom, zda dodržujete předpisy, a my k nim musíme mít přístup, pokud o to výslovně požádáme," sdělil Regnier novinářům.

Švédská vláda se ve čtvrtek připojila ke kritice sítě X s tím, že obrázky generované umělou inteligencí jsou nepřijatelné. Chatbot vytvořil sexualizované obrázky dětí, které byly sdíleny na platformě X, což vyvolalo obavy o bezpečnost modelu, uvedl server listu Financial Times (FT). Grok později v příspěvku na webu X uvedl, že materiály se sexuálním zneužíváním dětí jsou "nezákonné a zakázané".

Doktorandka dublinské Trinity College Nana Nwachukwuová ve svém výzkumu shromáždila asi 500 interakcí uživatelů sítě X s Grokem, na nichž podle webu The Guardian dokládá, jak často se něco podobného děje. Téměř tři čtvrtiny příspěvků byly žádosti o snímky skutečných žen nebo nezletilých s odstraněnými nebo přidanými částmi oblečení.

Uživatelé si podle Nwachukwuové navzájem radí, jak zadávat příkazy. Navrhují Grokovi zobrazení žen v prádle nebo plavkách, případně s částmi těla pokrytými spermatem a žádají chatbota, aby odstranil svrchní oděv v odpovědích na příspěvky obsahující autoportréty uživatelek. Z kontextu vyplývá, že se tak děje bez souhlasu dotčených žen.

Ministři francouzské vlády podle agentury Reuters minulý pátek nahlásili sexuální obrázky generované Grokem prokuratuře. Rovněž jej postoupili telekomunikačnímu úřadu Arcom stran možného porušení povinností ze strany sítě X podle DSA.

Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, tedy provozovatele sítě X. Start-up také vyvíjí chatbota Grok, kterého síť X integrovala do své platformy.

Jedním z Muskových projektů bylo integrování chatbota do sítě X, což umožňuje uživatelům povolat jej na pomoc v běžných veřejných konverzacích. Například když chtějí ověřit, zda je výrok jiného uživatele pravdivý nebo když mu chtějí dodat kontext.

Loni Grok na síti X zveřejnil antisemitské a urážlivé komentáře. Mezi jeho výstupy se objevily například konspirační teorie o židovském vlivu a Grok sám sebe v některých odpovědích označil za MechaHitlera, robotickou postavu Hitlera, která se poprvé objevila v roce 1992 ve videohře Wolfenstein 3D.