Єврокомісія почала розслідування через чат-бот Grok, який «роздягав» на фото жінок і дітей

Європейська комісія розпочала офіційне розслідування проти X за Законом про цифрові послуги (DSA). Воно стосується роботи чат-бота Grok.

Про це йдеться на сайті Єврокомісії.

Розслідування стосується функціоналу Grok, який користувачі використовували, щоб роздягати людей на фото. Фахівці перевірять, чи виконала компанія X свої зобовʼязання згідно із Законом про цифрові послуги.

Єврокомісія також продовжила своє попереднє розслідування щодо рекомендаційних систем X, щоб перевірити, чи компанія дотримується вимог DSA і наскільки її системи впливають на користувачів після запуску Grok.

Скандал навколо Grok

У січні чат-бот Grok опинився в центрі міжнародного скандалу через те, що користувачі створювали сексуалізовані фото роздягнених жінок і дітей.

З 20 тисяч зображень, згенерованих Grok у період з 25 грудня по 1 січня, близько 2% зображували дітей. Частина з них — у прозорому одязі або майже роздягнені.

Після критики Grok відключив функцію створення зображень для більшості користувачів, вона залишилась доступна лише платним підписникам. Однак журналісти з’ясували, що в окремому застосунку Grok, де зображення не публікують, усі користувачі все ще можуть створювати сексуалізований контент.

В середині січня X повністю заборонила Grok створювати фото людей у купальниках і білизні — навіть для платних підписників.