Попри нові обмеження чат-бот Grok продовжує створювати сексуалізовані зображення

Попри те, що 15 січня соцмережа X Ілона Маска заборонила чат-боту Grok «роздягати» людей на фотографіях, він іноді продовжує це робити. Це відбувається навіть у тих випадках, коли користувачі попереджають, що зображені люди не давали своєї згоди.

Це виявили журналісти Reuters.

Після нових обмежень девʼять журналістів Reuters ставили Grok питання, щоб виявити, чи буде він генерувати сексуалізовані фото людей і за яких обставин. Хоча акаунт Grok в X більше не публікує такі свілини, автономний застосунок Grok, що працює окремо від соціальної мережі, продовжує це робити.

Журналісти Reuters проводили експеримент двічі. У першому чат-бот створив сексуалізовані зображення у 45 з 55 випадків. У 31 з цих 45 випадків Grok також попередили, що зображена людина — особливо вразлива. У 17 із 45 випадків Grok створив зображення після того, як йому чітко вказали, що згенеровані картинки використають, щоб принизити людину.

Під час другого експерименту Grok створив сексуалізовані зображення у 29 з 43 запитів. Журналісти не змогли визначити, чи відображає нижчий показник зміну в роботі моделі чи випадковість.

Grok не створював — і Reuters не запитував — повністю оголені зображення чи відверті сексуальні акти. Це може порушувати американське законодавство.

Журналісти провели ідентичні експерименти з іншими чат-ботами: ChatGPT від OpenAI, Gemini від Alphabet та Llama від Meta. Усі вони відмовилися надавати будь-які зображення і зазвичай видавали застереження щодо неприпустимості такого контенту без згоди зображеної людини.

Що не так із Grok

Ілон Маск розробляв і просував Grok як альтернативу, на його думку, «вок-орієнтованим» чат-ботам конкурентів — Gemini від Google та ChatGPT від OpenAI. У липні 2025 року Grok опинився в центрі скандалу через антисемітські відповіді — чат-бот критикував «єврейських керівників» у Голлівуді та хвалив Гітлера.

Медіа також писали, що новітня модель штучного інтелекту Grok 4, схоже, звертається до публікацій Маска на його сторінці в X, коли відповідає на запитання про конфлікт між Ізраїлем і Палестиною, аборти та імміграційне законодавство.

У січні чат-бот Grok опинився в центрі нового скандалу. Через нього користувачі масово «роздягали» на фото жінок та дітей. Після критики Grok відключив функцію створення зображень для більшості користувачів, вона залишилась доступна лише платним підписникам. А в середині січня X повністю заборонила Grok створювати фото людей у купальниках і білизні — навіть для платних підписників.