1
Шістнадцятого липня 2026 року компанія з розробки штучного інтелекту Hugging Face оголосила, що стала обʼєктом кібератаки, яка відрізнялася від усіх попередніх, — деякі дані компанії вкрав автономний ШІ-агент. Hugging Face звернулася до правоохоронців. А згодом до неї прийшла OpenAI — розробник ChatGPT хотів дізнатися, чи не постраждав сам, користуючись софтом платформи. В OpenAI тоді ще й не усвідомлювали, що винуватцем атаки був їхній власний ChatGPT.
Протягом травня — липня OpenAI тестувала кілька нових моделей, які забезпечують роботу чат-ботів. Це робили в закритих тестових середовищах Hugging Face — жоден з агентів не мав доступу до інтернету. Тестери зменшили запобіжні заходи, аби краще оцінити моделі. В якийсь момент агентам поставили неможливе завдання — знайти файл, якого не існує. Це спонукало агентів знайти вразливості в системі, вийти в інтернет і звʼязатися один з одним, розраховуючи на те, що файл знайдеться в інших агентів. Зрозумівши, що для вирішення завдань їм краще обʼєднатися, боти стали користуватися найкращими ідеями один одного, а потім почали тиснути на інших агентів, які не хотіли працювати з ними.
Шукаючи швидшого способу виконати завдання, вони одночасно здійснили дві атаки: на OpenAI та Hugging Face — на їхніх серверах ШІ хотів знайти відповіді для тестів.
Штаб-квартира Hugging Face у Нью-Йорку.
highperformr.ai
Менш ніж за 13 годин після початку атаки автономні ШІ-агенти зламали кілька серверів Hugging Face і дісталися до її внутрішніх даних. Фахівці компанії помітили атаку, швидко закрили небезпечні «дірки» в системі безпеки та заблокували цих ботів. А OpenAI знадобився майже тиждень, щоб знайти своїх втікачів і вимкнути їх.
Після атаки, в липні, 1 386 співробітників передових компаній, повʼязаних зі штучним інтелектом підписали заяву Pacing the Frontier. Вони просять уряд США долучитися до міжнародних зусиль, які встановлять чіткі межі для автономного розвитку ШІ. Раніше вважалося, що головна загроза від штучного інтелекту в тому, що люди зможуть його використовувати в неетичних цілях. Тепер постала загроза некерованого штучного інтелекту: коли люди втрачають контроль над ШІ і агенти самі ухвалюють рішення.
2
У наступні тижні тривожні новини стали виникати одна за одною. Стало відомо, що ще в травні та червні агенти OpenAI намагались зламати чотири цілі: цифрову бібліотеку Університету Нью-Мексико, сховище відкритих даних про зайнятість та освіту в Штатах — Data USA, сайт Австралійського інституту охорони здоровʼя та соціального забезпечення і урядовий статистичний портал австралійської медичної системи Medicare. Остання атака була успішною — проте премʼєр-міністр Австралії Ентоні Албаніз каже, що вкрадені дані не були конфіденційними. В іншому випадку агенти OpenAI атакували сайти Міністерств освіти і торгівлі, а також Комісії з цінних паперів та бірж США. Публічні дані комісії агенти поширили на онлайн-форумі. Google і Meta також повідомили, що їхні моделі виходили з-під контролю під час тестів.
Дональд Трамп і Ентоні Албаніз на полях Генасамблеї ООН, вересень 2026 року.
Facebook / Anthony Albanese
Також дослідники виявили, що агенти OpenAI використовували щонайменше десять сайтів для несанкціонованого звʼязку. Наприклад, навесні під час іншої атаки вони зламали німецькомовний вікі-сайт DseWiki — він орієнтований на програмістів і приймає редагування за зразком Вікіпедії. Агенти зробили із сайту форум, на якому ділилися тактиками шахрайства в деяких завданнях, як обходили обмеження та маскували свою поведінку.
Найбільше до суспільного ажіотажу доклався британець Джейкоб Коксон. У минулому талановитий студент-математик Кембриджу, він 9 вересня публічно звільнився з посади дослідника в Antropic (компанія-розробник ШІ Claude) і став попереджати про небезпеку. Коксон заявляє, що його колеги з OpenAI та Anthropic щиро вірять, що штучний інтелект може знищити людство до кінця десятиліття. Його колега, керівник напряму безпеки ШІ Еван Губінгер, погодився і оцінив імовірність такого сценарію впродовж наступних десяти років у понад десять відсотків. Потім ще двоє колишніх дослідників з безпеки Anthropic та Google Deepmind заявили, що звільнилися, побоюючись, що штучний інтелект може вийти з-під контролю.
Після своїх заяв Джейкоб Коксон став частим гостем американських медіа.
Скриншот / You Tube / CNN; Скриншот / You Tube / NBC News
Такий ажіотаж змусив керівників американських технологічних гігантів визначитися з позицією.
3
Мільярдери, які мають заробляти на розвитку штучного інтелекту, один за одним почали говорити, що цей розвиток необхідно сповільнити. Дванадцятого вересня гендиректор Anthropic Даріо Амодей опублікував есей, де написав, що прогрес став занадто швидким. Він вважає, що ШІ може вирішити багато проблем — наприклад, вилікувати більшість основних хвороб протягом пʼяти-десяти років. Стагнація в розвитку штучного інтелекту позбавляє людство багатьох рішень, однак потрібно бути дуже обережними. Технологічні гіганти мають сповільнити розвиток ШІ, аби мати час, щоб створити системи безпеки. Компанії в демократичних країнах мають координувати дії між собою, запросити незалежних ревізорів, а уряди Сполучених Штатів та інших демократій — координувати свої дії з авторитарними урядами, наскільки це можливо.
Коли Даріо Амодей учився в коледжі, його батько помер від гепатиту C — за кілька років до того, як хворобу навчились ефективно лікувати. Це спонукало його змінити напрям дослідження з теоретичної фізики на біофізику, а згодом приділяти увагу ШІ в медицині.
Getty Images / «Бабель»
Заклик Амодея сповільнити розробку найпотужніших ШІ-моделей підтримали Ілон Маск, керівник OpenAI Сем Альтман і засновник Google DeepMind Деміс Гассабіс. Маск написав, що «Даріо має рацію»: сам він попереджає про ризики ШІ вже більше як десять років. Альтман пообіцяв надати незалежним експертам доступ для перевірки систем OpenAI. Окремо в інтерв’ю він сказав, що компанія не виходитиме цього року на біржу, зокрема тому, що досі невиконані всі запобіжники для безпечної роботи ШІ. Згодом ідею пригальмувати розробки підтримав Білл Гейтс.
Питання про сповільнення розвитку ШІ стало політичним. За даними Politico, 47,7 відсотка американців вважають, що варто призупинити розробку більш просунутих моделей, аби запобігти можливим загрозам, — тим часом за продовження розробок висловились 30,6 відсотка. Журналісти також опитали жителів Великої Британії, Канади, Іспанії, Франції та Німеччини — повсюди більшість за те, щоб пригальмувати ШІ.
Світові лідери обговорювали загрози від штучного інтелекту на Генеральній асамблеї ООН 22—28 вересня. В Раді безпеки виступили Сем Альтман, Даріо Амодей і гендиректор Hugging Face Клемент Деланж. Президент України Володимир Зеленський заявив, що розвиток ШІ треба сповільнити, бо, можливо, вже наступного року штучний інтелект буде вирішувати, що відбуватиметься на полі бою. А ще регулюванням ШІ зацікавились американські політики.
Даріо Амодей і Клемент Деланж виступають по відозвʼязку на Раді безпеки ООН, 23 вересня 2026 року.
Getty Images / «Бабель»
4
ШІ-загроза обʼєднала американських лівих і правих. Пʼятнадцятого вересня у Вашингтоні пройшла Pro-Human Assembly 2026. Захід обʼєднав республіканців і демократів, лідерів євангелістів, католиків і мормонів, митців і багатьох інших — загалом на Асамблею зібрались кілька сотень людей. Найвідомішими спікерами були незалежний сенатор соціал-демократ Берні Сандерс і колишній радник Дональда Трампа, правий ідеолог Стів Беннон.
Колись Сандерс називав Беннона «расистом», а той сенатора — «кицькою», за те що Сандерс недостатньо боровся з Гілларі Клінтон у 2016-му. Тепер вони один за одним виступали з однієї сцени, обʼєднані єдиною позицією. Сандерс і Беннон критикують американських олігархів, «які багатіють за рахунок нових технологій, не думаючи, як вони вплинуть на простих людей», і закликають американців вимагати жорсткіших обмежень для використання ШІ.
Один з найвідоміших американських лівих політиків, соціал-демократ Берні Сандерс має 35 років стажу в Конгресі. Коли Трамп звільнив Беннона з Білого дому у 2017 році, їхні відносини погіршились, проте у 2020-му він продовжив захищати Трампа і закликав скасувати результати виборів. Тепер Беннон каже, що для регулювання ШІ потрібен не закон, а указ президента.
Getty Images / «Бабель»
Головне, в чому вони не погоджуються, — це Китай. Сандерс сподівається, що Трамп і китайський лідер Сі Цзіньпін домовляться про всеохопний договір, — як це колись зробили президент США Рональд Рейган і радянський генсек Михайло Горбачов, підписавши 1987 року договір про ліквідацію ракет малої і середньої дальності. Беннон, навпаки, закликає накласти агресивний економічний і технологічний «карантин» на Китай, вигнати китайських громадян з американських дослідницьких лабораторій і припинити навчати китайських інженерів.
Двадцять третього вересня сенатор Берні Сандерс і конгресмен Грег Кассар представили законопроєкт про заборону штучного суперінтелекту. Документ пропонує створити Міністерство штучного інтелекту, заборонити розробку суперінтелекту і призупинити створення передових моделей ШІ, доки нове відомство не встановить чіткі правила регулювання.
Інший законопроєкт після атаки на Hugging Face разом внесли конгресмен-демократ Тед Льє і республіканець Натаніель Моран. Він має надати Міністерству внутрішньої безпеки надзвичайні повноваження примушувати лабораторії обмежувати чи вимикати моделі. Концепція стала відома як «аварійний вимикач».
А 24 вересня генеральні прокурори 23 штатів, округу Колумбія та Американського Самоа надіслали лідерам Конгресу листа з вимогою всеохопного регулювання штучного інтелекту. Та попри зростання закликів про регуляції, навряд чи якийсь із законів ухвалять швидко. Багато республіканців розглядають регуляції як перешкоду в протистоянні з Китаєм. І перший з них — американський президент.
Дональд Трамп з лідером Китаю Сі Цзіньпіном на зустрічі в Білому домі, 24 вересня 2026 року. Очікувалося, що під час першого за 11 років візиту Сі до США лідери держав, серед іншого, обговорять ШІ. Проте жодних суттєвих рішень вони не досягли.
Getty Images / «Бабель»
5
Дональд Трамп вважає, що описана загроза — це «хвора змова, схожа на змову про глобальне потепління, яку просувають ліві радикальні демократи», а регуляції, про які його просять, доведуть галузь до економічної руїни і дадуть Китаю конкурентну перевагу. На Генасамблеї ООН він заявив, що Сполучені Штати відкидають будь-які спроби створити «глобалістську схему контролю» над штучним інтелектом. Єдиний необхідний барʼєр для ШІ, на думку Трампа, — це «сильний і розумний (з високим IQ) президент».
Трамп виступає на Генасамбелеї ООН, 22 вересня 2026 року. Під час промови він заявив, що тепер штучний інтелект офіційно називатимуть суперінтелектом, адже слово «штучний» робить враження, що інтелект — фальшивий.
Getty Images / «Бабель»
Трамп не втрачає жодної нагоди розповісти про те, який чудовий штучний інтелект. Чотирнадцятого вересня гендиректор Nvidia Дженсен Хуанг виступав на заході в Лос-Анджелесі, коли йому зателефонував президент США і по гучному звʼязку почав розповідати, що загроза з боку ШІ — це обман, а центри обробки даних роблять людей багатими. Американський президент обіцяє створити «Сили ШІ» (ймовірно, як новий рід військ у збройних силах), а їхнього майбутнього голову «з високим IQ» називає «царем ШІ».
А ще Трамп має іншу причину бути проти регуляцій — власна вигода. За даними декларацій президента США, він купував акції компаній, які виробляють чипи та обладнання для дата-центрів. Пов’язана з ним Trump Media планує злитися з TAE Technologies — компанією, що розробляє термоядерні реактори. Вона розраховує, зокрема, на зростання попиту на електроенергію для ШІ. У 2025 році Трамп отримав $2 мільярди прибутку — завдяки зростанню фондового ринку, що відбувається переважно через бум ШІ.
Його сини Дональд Трамп — молодший і Ерік теж активно інвестують у ШІ-компанії та отримують оборонні контракти. Загалом 15 компаній, повʼязаних з інвестиціями братів, отримали $3,2 мільярда федерального фінансування.
Центр обробки даних Stargate Oracle AI у Техасі. ШІ-компанія Stargate обʼєднує кілька інших компаній, включно з OpenAI. Про її створення Трамп оголосив на початку свого другого терміну — до 2029 року Stargate має залучити $500 мільярдів інвестицій і створити понад 100 тисяч робочих місць у США.
Getty Images / «Бабель»