OpenAI відклала випуск «дорослого режиму» для ChatGPT — причини

OpenAI на невизначений термін відкалала плани випустити еротичний чат-бот. Компанія збирається переорієнтувати увагу на свої основні продукти через занепокоєння співробітників та інвесторів впливом на суспільство сексуалізованого контенту, створеного штучним інтелектом.

Про це пише Financial Times.

OpenAI заявляє, що хоче провести довгострокові дослідження впливу сексуально відвертих чатів та емоційної прихильності, перш ніж ухвалювати рішення щодо продукту.

Компанія вирішила відмовитися від другорядних проєктів і зосередитися на корисних інструментах для роботи. Вона хоче об’єднати різні продукти — наприклад, помічників для програмування та ChatGPT — в один універсальний «супердодаток». 24 березня OpenAI також повідомила, що закриває свій відеогенератор Sora та соціальний застосунок.

Еротична модель виявилася особливо суперечливою в той час, коли технологічні компанії, як-от Meta та X, стикаються з юридичним переслідуванням за шкоду, якої їхні продукти завдають дітям.

За словами двох джерел, знайомих з цим питанням, флірт з боку чат-бота OpenAI викликав занепокоєння серед деяких його інвесторів. Режим для дорослих також викликав тривогу серед персоналу щодо того, чи суперечить розробка продукту, який заохочує романтичні стосунки, його основоположній місії — забезпечити користь ШІ для всього людства.

Двоє людей розповіли, що OpenAI зіткнулась з труднощами в навчанні моделей штучного інтелекту створювати відвертий контент. Раніше ШІ уникав таких розмов з міркувань безпеки. Джерела додали, що використання даних, що містять сексуальний контент, створює проблеми, зокрема необхідно виключати незаконну поведінку.

Код у вебзастосунку ChatGPT передбачає, що модель для дорослих під назвою Citron mode може вимагати від користувачів підтвердження віку понад 18 років для доступу до неї. Протягом останніх кількох місяців OpenAI представила нову систему прогнозування віку після кількох позовів, поданих сімʼями підлітків, які стверджують, що ChatGPT завдав їм шкоди. Проте, за словами одного з джерел, рівень помилок цієї технології перевищує 10% — і це посилює занепокоєння щодо доступу неповнолітніх.

• «Дорослий режим» OpenAI анонсувала в жовтні. А за місяць до цього оголосила, що обмежить відповіді ChatGPT для користувачів, яких система вважає неповнолітніми. Це рішення ухвалили після позову від сім’ї 16-річного підлітка, який покінчив життя самогубством після кількох місяців спілкування з чат-ботом.
• У лютому компанія звільнила одну зі своїх провідних керівниць з питань безпеки Раян Баєрмайстер. Причиною назвали сексизм щодо колеги-чоловіка. Проте також Баєрмайстер критикувала ідею «дорослого контенту» для ChatGPT. Перед звільненням вона казала колегам, що режим буде шкідливим для користувачів, і скаржилась на недостатні механізми захисту дітей.