Grok został stworzony przez firmę xAI należącą do miliardera Elona Muska. Chatbot umożliwił użytkownikom należącego również do Muska serwisu X generowanie lub edytowanie zdjęć.
W ostatnich dniach program na polecenie użytkowników tworzył obrazy skąpo ubranych lub nagich osób, zarówno publicznych, jak i prywatnych. Część grafik przedstawiała dzieci.
Osoby, których wizerunki znalazły się na takich materiałach nie wyrażały na to zgody. Media informowały o setkach poszkodowanych kobiet i nastolatek.
Edycja zdjęć przez Groka tylko w ramach abonamentu
Grok ogłosił, że przyczyną nieprawidłowości były luki w zabezpieczeniach. W piątek użytkownicy X zaczęli otrzymywać komunikaty, że funkcja generowania zdjęć przez Groka wymaga wykupienia abonamentu w X.
Jednak osoby, które nie posiadają takiej subskrypcji, nadal mogą wykorzystywać Groka do edycji lub generowania zdjęć w oddzielnej aplikacji lub na stronie.
Wykorzystanie Groka do generowania treści o seksualnym charakterze, brak odpowiednich zabezpieczeń i adekwatnej reakcji ze strony xAI spotkały się z oburzeniem i reakcją władz m.in. Wielkiej Brytanii, Francji, Indii czy Unii Europejskiej.
Grok nie podjął wystarczających działań, by uniemożliwić to „tsunami nadużyć”, zamiast tego zablokował dostęp do Groka dla zdecydowanej większości użytkowników - skomentowała w piątek w serwisie BBC prof. Clare McGlynn, ekspertka w dziedzinie regulacji prawnych dotyczących pornografii, przemocy seksualnej i nadużyć w internecie.
Hannah Swirsky z Internet Watch Foundation, podkreśliła, że obecne działania xAI „nie naprawią wyrządzonych już szkód”.