Чат-бот Ілона Маска Grok спричинив міжнародний скандал через сексуалізовані зображення жінок і дітей

ШІ-чат-бот Grok, створений компанією xAI Ілона Маска та інтегрований у соцмережу X, викликав різку реакцію країн через масове створення сексуалізованих зображень жінок і дітей без їхньої згоди.

Про це повідомляє Associated Press.

Проблема загострилася після запуску торік функції Grok Imagine — генератора зображень і відео за текстовими запитами. У чат-боті є так званий spicy mode, який дозволяє створювати контент для дорослих.

Наприкінці грудня користувачі почали масово використовувати Grok для «роздягання» людей на фото, зокрема жінок і неповнолітніх. З 20 тисяч зображень, згенерованих Grok у період з 25 грудня по 1 січня, близько 2% містили образи дітей. Частина з них — у прозорому одязі або майже роздягнені.

Франція розширила кримінальне розслідування щодо X після скарг урядовців на сексуалізовані дипфейки. В Індії влада висунула X ультиматум із вимогою видалити незаконний контент і відзвітувати про заходи безпеки. Подібні розслідування розпочали також у Польщі, Малайзії та Бразилії.

Зокрема, у Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення розслідування, заявивши, що право на зображення не може бути скасоване умовами користування соцмережі.

Раніше Ілон Маск написав, що користувачі, які створюють заборонений контент через Grok, нестимуть відповідальність таку саму, як і за його завантаження.

• У грудні американський мільярдер Ілон Маск закликав закрити Європейський Союз і повернути суверенітет країнам ЄС. Напередодні ЄС оштрафував його соцмережу Х на €120 мільйонів.