OpenAI створює нову команду для контролю «надрозумного» штучного інтелекту. Що вона робитиме?

OpenAI формує нову команду, щоб контролювати «надрозумні» системи штучного інтелекту, пише TechCrunch.

Головний науковий співробітник і співзасновник OpenAI Ілля Суцкевер і менеджер компанії Ян Лейке прогнозують, що штучний інтелект, який перевершить людський, може зʼявитися протягом десяти років. Вони наголошують, що в разі появи цей «надрозум» не обовʼязково буде доброзичливим, тож треба шукати способи контролювати й обмежувати його.

Для цього OpenAI створює нову команду Superalignment на чолі із Суцкевером і Лейке, яка матиме доступ до 20% наявних обчислювальних даних компанії. Новий відділ намагатиметься вирішити основні технічні проблеми керування «надрозумним» ШІ протягом наступних чотирьох років.

Суцкевер і Лейке описують свій майбутній інструмент як «автоматизований дослідник вирівнювання на рівні людини». Системи штучного інтелекту за допомогою зворотного звʼязку від людини мають навчитися допомагати в оцінці інших систем ШІ.

Гіпотеза OpenAI полягає в тому, що штучний інтелект може швидше та краще за людей контролювати «надрозумний» ШІ.

«Вони працюватимуть разом з людьми, щоб переконатися, що їхні спадкоємці будуть більш узгоджені з людьми... Дослідники-люди зосереджуватимуть все більше своїх зусиль на перегляді досліджень вирівнювання, проведених системами ШІ, замість того щоб проводити ці дослідження самостійно», — йдеться у блозі OpenAI.

Однак, за словами керівників компанії, використання штучного інтелекту для оцінки може збільшити невідповідності, упередження або вразливі місця в наступних поколіннях ШІ. І може виявитися, що найскладніші проблеми вирівнювання взагалі не повʼязані з технікою. Але Суцкевер і Лейке вважають, що варто спробувати.

• Наприкінці березня Ілон Маск і група експертів зі штучного інтелекту та керівників галузі закликали до шестимісячної паузи в розробці систем, більш потужних за GPT-4 від OpenAI. Вони опублікували відкритого листа, у якому назвали потенційні ризики для суспільства і людства.
• Білл Гейтс в інтервʼю Reuters заявив, що заклики призупинити розвиток штучного інтелекту не «вирішать майбутніх проблем». Коментуючи відкритий лист дослідників, він наголосив, що замість паузи в розробці слід зосередитися на тому, як отримати максимальну вигоду зі вже існуючих ШІ-рішень.
• Експерти Всесвітнього економічного форуму підрахували, що розвиток штучного інтелекту та цифровізації прискорить зміни в роботі для понад 26 мільйонів працівників протягом пʼяти наступних років: канцелярська робота занепадатиме, а попит на фахівців з технологій і кібербезпеки зростатиме.