Компанія OpenAI призупинила навчання нових моделей штучного інтелекту після випадків, коли ШІ-агенти не дотримувалися інструкцій під час роботи з урядовими сайтами США.
Про це повідомляє Associated Press.
Компанія розслідує кілька інцидентів, які сталися влітку. Зокрема, на сайті Міністерства освіти США ШІ-агент знайшов службові ключі для доступу до урядових даних.
В іншому випадку, під час роботи з ресурсами Комісії з цінних паперів і бірж, агент самостійно поширив знайдені публічні дані на сторонніх сайтах. За даними AP, непублічна інформація не була викрадена, а державні установи не повідомляли про збитки для своїх систем.
В OpenAI заявили, що відновлять навчання після впровадження додаткових заходів безпеки. Це вже друга зупинка навчання моделей компанії за останні три місяці.
- Раніше, цього місяця керівники OpenAI та Anthropic закликали посилити контроль за розвитком ШІ та сповільнити вдосконалення технології через «ризик її виходу з-під контролю».