Керівники трьох провідних компаній у сфері штучного інтелекту — Anthropic, OpenAI та SpaceX AI — підтримали ідею сповільнити розвиток найпотужніших ШІ-моделей.
Про це пише The Washington Post.
Із такою пропозицією виступив генеральний директор Anthropic Даріо Амодеї. У своєму есе, опублікованому 12 вересня, він заявив, що компанії мають «сповільнити темп», з яким розвивають можливості ШІ, щоб отримати більше часу для створення систем безпеки. Амодеї наголосив, що вважає ШІ здатним значно покращити життя людей, але для цього потрібні запобіжники.
За словами гендиректора Anthropic, ШІ почав розвиватися значно швидше, зокрема завдяки так званому рекурсивному самовдосконаленню — коли штучний інтелект допомагає створювати наступні, потужніші версії таких систем. Якщо цей процес не контролювати, він може випередити здатність людей розуміти та управляти ШІ.
«Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей ШІ. Прогрес усе одно здаватиметься швидким, і ми повинні мудро використати час, який отримаємо», — написав Амодеї.
Він запропонував три кроки: залучити незалежних експертів для перевірки найпотужніших ШІ-моделей, створити спільні стандарти безпеки для демократичних країн і домовитися про дотримання таких правил з авторитарними державами.
До його пропозиції приєдналися СЕО OpenAI Сем Альтман і засновник SpaceX AI Ілон Маск. Маск написав, що Амодеї має рацію. Альтман заявив, що OpenAI теж обговорює необхідність «сповільнити передній край» розвитку ШІ та готова залучати незалежних оцінювачів безпеки.
Побоювання щодо безпеки ШІ посилилися після того, як у липні ШІ-моделі OpenAI самостійно здійснили кібератаку на системи стартапу Hugging Face. Амодеї попередив, що за нинішніх темпів розвитку неконтрольовані ШІ-агенти потенційно можуть отримати можливість захопити весь інтернет протягом шести місяців — року і завдати збитків на сотні мільярдів доларів.
Водночас конкретного плану, як саме сповільнити розвиток ШІ, поки що немає. Також незрозуміло, як контролювати виконання таких домовленостей та як уникнути порушення антимонопольного законодавства. Компанія Google, ще один із лідерів галузі, пропозицію Амодеї поки що не підтримала.
- Ідея гендиректора Anthropic з’явилася після того, як 9 вересня звільнився дослідник цієї компанії Джейкоб Коксон, який раніше працював в OpenAI. Він публічно заявив, що компанії-розробники ШІ більше зосереджені на конкуренції, ніж на безпеці моделей, які потенційно можуть знищити людство.