Grok miał generować „seksualne i seksistowskie” treści, które według francuskich ministrów są „ewidentnie nielegalne”. Poinformowali o zgłoszeniu sprawy francuskiemu regulatorowi medialnemu.
Przedstawiciele chatbota informowali wcześniej w piątek, że pojawienie się generowanych z jego udziałem „obrazów przedstawiających nieletnich w skąpych ubraniach” na platformie społecznościowej X to wynik luk w zabezpieczeniach, które są usuwane.
Bloomberg w swojej depeszy przypomina, że xAI prezentuje Groka jako bardziej liberalny niż inne popularne modele sztucznej inteligencji. Latem ubiegłego roku wprowadził funkcję o nazwie „Spicy Mode”, która zezwala na częściową nagość dla dorosłych i treści o charakterze seksualnym. Usługa zabrania jednak pornografii z wizerunkami prawdziwych osób oraz treści seksualnych z udziałem nieletnich, których tworzenie i rozpowszechnianie jest nielegalne. Agencja zwraca uwagę, że rozwój narzędzi AI zwiększa wyzwania związane z moderacją treści. Fundacja Internet Watch, organizacja non-profit identyfikująca materiały przedstawiające wykorzystywanie seksualne dzieci w Internecie, odnotowała 400-procentowy wzrost liczby takich obrazów generowanych przez sztuczną inteligencję w ciągu pierwszych sześciu miesięcy 2025 roku.