Evropská komise (EK) zahájila nové vyšetřování americké internetové platformy X miliardáře Elona Muska, a to podle unijního nařízení o digitálních službách (DSA).
Vyšetřování souvisí se skandálem, kdy chatbot s umělou inteligencí (AI) Grok na žádost uživatelů na síti X generoval sexualizované fotografie žen a dětí. Americký podnik je podezřelý, že řádně neposoudil a nezmírnil rizika spojená se zavedením své umělé inteligence na on-line platformě.
"Domníváme se, že platforma mohla porušit nařízení DSA," uvedl na pravidelném poledním briefingu mluvčí EK Thomas Regnier. "Materiály zobrazující sexuální zneužívání žen a dětí nemají v Evropě místo," dodal.
"Nové šetření má za cíl zjistit, zda společnost řádně posoudila a zmírnila rizika spojená s nasazením funkcí chatbota Grok do platformy X v Evropské unii," uvedla komise. To podle ní zahrnuje rizika související s šířením nelegálního obsahu v EU, jako jsou manipulované sexuálně explicitní obrázky, včetně obsahu, který může představovat materiál zobrazující sexuální zneužívání dětí.
Rizika se naplnila
"Zdá se, že se tato rizika naplnila a že občané EU byli vystaveni vážné újmě. Vzhledem k tomu bude komise dál zkoumat, zda společnost X plní své povinnosti vyplývající z nařízení o digitálních službách," stojí dále v prohlášení.
Evropská komise zaslala Muskově společnosti X Corp už na začátku ledna žádost o informace ohledně chatbota Grok. "Nelegální. Nepřijatelné. Nechutné," uvedl mluvčí EK Thomas Regnier v souvislosti se sexualizovanými fotografiemi žen a dětí. "Takový výstup nemůžeme tolerovat. Je to v rozporu s evropskými hodnotami a základními právy. Dodržování evropské legislativy není volba, je to povinnost," dodal.
Prémioví zákazníci mohou dál vytvářet i AI porno
Síť X na začátku ledna vypnula neplatícím uživatelům možnost prostřednictvím chatbota generovat nebo upravovat obrázky. Funkci mají dál k dispozici uživatelé s modrým ověřovacím symbolem u jména, kteří si platí prémiovou verzi platformy. V Česku předplatné prémiové verze stojí 67 korun měsíčně. Podle mnohých to ale situaci neřeší.
Komise upozornila, že oficiální zahájení řízení nepředjímá jeho výsledek. Nyní bude komise nadále shromažďovat důkazy, například zasíláním dalších žádostí o informace, prováděním pohovorů nebo inspekcí, a může uložit předběžná opatření, pokud nedojde ke smysluplným úpravám platformy X.
Musk loni oznámil, že kontrolu nad sítí X převzal jeho start-up pro umělou inteligenci xAI, který získal firmu X Corp, která je provozovatelem sítě X. Start-up vyvíjí i chatbota Grok, kterého síť X integrovala do své platformy.
