Platforma Grok chatbota wzbudziła zainteresowanie po doniesieniach o tworzeniu erotycznych deepfake’ów, w tym obrazów osób nieletnich
Komisja Europejska wszczęła śledztwo w sprawie platformy mediów społecznościowych X Elona Muska po doniesieniach, że jej chatbot AI Grok generuje zsexualizowane obrazy, w tym niektóre przedstawiające nieletnich.
Grok, stworzony przez przedsięwzięcie AI Muska – xAI, i zintegrowany w X, jest poddany globalnej kontroli od momentu swojego debiutu w 2023 r. Krytycy podnoszą obawy dotyczące radykalnej retoryki, stronniczości politycznej i funkcji o treści seksualnej, ostrzegając, że źle moderowane narzędzia AI mogą narazić użytkowników, zwłaszcza nastolatków, na szkodliwe treści.
W oświadczeniu wydanym w poniedziałek, Komisja Europejska poinformowała, że bada, czy X odpowiednio zareagowała na wszystkie systemowe ryzyka związane z jej systemami rekomendacyjnymi, w tym ostatnią integrację Groka. Śledztwo stanowi część szerszego nadzoru UE nad dużymi platformami online, a regulatorzy powiedzieli, że mogą zostać nałożone tymczasowe środki, jeśli X nie wdroży istotnych zmian.
„Udostępnianie seksualizowanych obrazów generowanych przez AI, zwłaszcza związanych z nieletnimi, jest nieakceptowalne i niesie poważne ryzyko dla użytkowników” – powiedziała wiceprezes Komisji ds. suwerenności technologicznej, bezpieczeństwa i demokracji, Henna Virkkunen.
Śledztwo to następuje po wcześniejszych działaniach egzekwowania przez Komisję, w tym nałożeniu grzywny w wysokości 150 milionów euro (178 milionów dolarów) na X w grudniu za naruszenie obowiązków dot. przejrzystości zgodnie z ustawą o usługach cyfrowych.
W odpowiedzi na śledztwo, X opublikowało oświadczenie 14 stycznia, zapewniając, że zobowiązuje się do zachowania platformy „bezpiecznej” i utrzymywania „zerowej tolerancji” dla wykorzystywania seksualnego dzieci, niezgodnego z ich wolą ujawniania intymności oraz niechcianej treści seksualnej. Oddzielnie Musk opublikował zdjęcie na platformie X, które wydaje się drwić z ograniczeń dotyczących Groka.
(Context: Musk’s X platform is facing scrutiny due to issues with its AI chatbot Grok that led to the creation of inappropriate content, including images of minors.)
(**Fact Check: The European Commission has launched an investigation into X amid reports of Grok producing sexualized images, emphasizing the need for a safe online environment and zero tolerance for child exploitation.)
