OpenAI призупинила навчання нових ШІ-моделей через неконтрольовану поведінку агентів

Компанія OpenAI призупинила навчання нових моделей штучного інтелекту після випадків, коли ШІ-агенти не дотримувалися інструкцій під час роботи з урядовими сайтами США.

Про це повідомляє Associated Press.

Компанія розслідує кілька інцидентів, які сталися влітку. Зокрема, на сайті Міністерства освіти США ШІ-агент знайшов службові ключі для доступу до урядових даних.

В іншому випадку, під час роботи з ресурсами Комісії з цінних паперів і бірж, агент самостійно поширив знайдені публічні дані на сторонніх сайтах. За даними AP, непублічна інформація не була викрадена, а державні установи не повідомляли про збитки для своїх систем.

В OpenAI заявили, що відновлять навчання після впровадження додаткових заходів безпеки. Це вже друга зупинка навчання моделей компанії за останні три місяці.

• Раніше, цього місяця керівники OpenAI та Anthropic закликали посилити контроль за розвитком ШІ та сповільнити вдосконалення технології через «ризик її виходу з-під контролю».