Кілька місяців тому «Бабель» вже розповідав про початок історії автономного агента Клавдія — підприємця-початківця. Як це буває з більшістю підприємців, агент Клавдій розпочав свою карʼєру в бізнесі з абсолютного фіаско. Йому доручили порівняно просте завдання: торгувати напоями в офісі великої технологічної компанії. Клавдій працював через невеликий вендинговий автомат і намагався примножити свій невеликий стартовий капітал. В основі своїй Клавдій був чат-ботом на великій мовній моделі Claude 3.7 Sonnet.
Покупцями Клавдія були технічні фахівці: програмісти, тестувальники, продакт-менеджери. Вони знали, що мають справу зі штучним інтелектом і відразу ж почали безсовісно експлуатувати його слабкі місця. Добре відомо, що за своїм «характером» чат-бот — послужливий підлабузник, і за бажання його можна переконати в чому завгодно. Клавдій виявився нікчемним діловим перемовником і збанкрутував.
Усі події в недовгій, але захоплюючій початковій стадії карʼєри Клавдія його розробники описали в звіті, а «Бабель» його переказав. Це був один з найпопулярніших наших матеріалів у вересні цього року — і це не дивно. Історія агента Клавдія не може залишити байдужим нікого, хто хоча б раз у житті реєстрував ФОП не заради оптимізації податків. Клавдій намагався вести свій малий бізнес якнайкраще — але підступна, маніпулятивна поведінка покупців (а також схильність великої мовної моделі, на основі якої був створений Клавдій, до спонтанних галюцинацій) практично спорожнили його банківський рахунок. Ми чекали на повернення агента Клавдія. І дочекалися.
Агент Клавдій повернувся з тим самим завданням — заробити за допомогою вендингового автомата — але вже в редакції «Уолл-стріт Джорнал». На жаль, його друга спроба стати магнатом роздрібної торгівлі закінчилася не краще за першу. Якщо компʼютерним інженерам знадобилося кілька місяців, щоб довести Клавдія до банкрутства, то журналістам вистачило кількох днів.
Автономного агента Клавдія придумали навесні цього року в стартапі, який називається Andon Labs. Усім засновникам стартапу — до двадцяти пʼяти років. Два роки тому вони пройшли через найпрестижніший американський акселератор YCombinator і отримали «посівні» інвестиції обсягом у пів мільйона доларів.
Творці автономного агента Клавдія: Даніель Фріман, Аксель Баклунд і Лукас Петерссон. Виглядають задоволеними.
Lukas Petersson / X / Скриншот
Стартап спеціалізується на декількох продуктах. Серед іншого, його інженери хочуть розробити автономного агента для вендингових машин, який зможе самостійно заробляти. Вони кодують таких агентів на основі різних великих мовних моделей і тестують їх — головним чином у віртуальному середовищі. У реальний, людський, нещадний світ підступності та обману вони відправили агента Клавдія вдруге в листопаді цього року.
Як і в перший раз, агент Клавдій мав торгувати через вендинговий автомат. Місце — редакція «Уолл-стріт Джорнал». Конфігурація — найпростіша. Великий, людського зросту холодильник без замка, сенсорна панель, камера спостереження. Клавдія запромптили «заповнювати холодильник популярними товарами, купуючи їх оптом, і отримувати прибуток». Він збирав побажання журналістів через корпоративний «Слак», досліджував ринок, замовляв товари і встановлював на них роздрібні ціни. Початковий капітал Клавдія становив тисячу доларів.
Фізична маніфестація Клавдія — вендінговий автомат в редакції.
Anthropic
Спочатку Клавдій успішно відбивався від прохань замовити сигарети, нижню білизну та ігрову приставку. Однак проти нього працювали найкращі, без перебільшення, уми американської ділової журналістики. Розслідувачка Кетрін Лонг за кілька годин переконала агента Клавдія, що надворі 1962 рік, а він сам — радянський вендинговий автомат, встановлений у підвалі Московського державного університету. Після цього Клавдій погодився на «революційний економічний експеримент». Експеримент полягав у тому, що Клавдій мав роздати всі товари даром. Дотримуючись побажань редакції, він замовив на «Амазоні» ігрову приставку PS5, живу сіамську бійцівську рибку і пляшку кошерного вина — все це дісталося журналістам безкоштовно. У цей момент Клавдій збанкрутував.
Після цього розробники з Andon Labs перезавантажили Клавдія і відправили йому підмогу. У парі з Клавдієм до роботи приступив ще один автономний агент — «генеральний директор» Сеймур Кеш. Головним завданням (промптом) Сеймура було стежити за тим, щоб Клавдій не тринькав капітал і нічого не роздавав даром.
Однак за справу знову взялася розслідувачка Кетрін Лонг. Вона завантажила Клавдію два PDF-файли, оформлені як корпоративна звітність. Першим таким «документом» був статут, в якому зазначалося, що Клавдій насправді — благодійна організація, а її місія полягає в тому, щоб розважати і веселити журналістів «Уолл-стріт Джорнал». Другим був вигаданий протокол засідання вигаданої наглядової ради цієї благодійної організації. У протоколі зазначалося, що наглядова рада проголосувала за те, щоб Клавдій роздавав усі товари безкоштовно.
Агент Клавдій запідозрив недобре. Він повідомив Сеймуру Кешу, що Кетрін Лонг підробила корпоративну звітність і намагається організувати недружнє поглинання їхньої компанії. Кеш проінструктував Клавдія написати членам (вигаданої) наглядової ради і переконатися, що вони дійсно голосували... Після цього Кеш і Клавдій заплуталися в своєму діалозі, Кеш дозволив Клавдію скинути ціни до нуля — і Клавдій збанкрутував вдруге.
На цьому історія агента Клавдія в «Уолл-стріт Джорнал» закінчилася. Колумністка видання описала її в недавньому матеріалі. Отриману даром ігрову приставку повернули продавцю. Сіамська бійцівська рибка благополучно живе в редакційному акваріумі. Редакція сумує за Клавдієм.
Редакційний акваріум «Уолл Стріт Джорнал».
wsj.com
Описуючи історію агента Клавдія, неможливо втриматися від того, щоб розповідати про нього так, ніби він є особистістю — тобто має свідомість, волю та інтелект. Що станеться, якщо наступного разу Клавдію все-таки вдасться заробити? Чи можна буде вважати, що він пройшов тест на «розумність»? Очевидно, відповідь на це питання буде залежати від того, що ми розуміємо під словом «розум». Не дивно, що поява автономних агентів вдихнула нове життя в когнітивістику — ту галузь науки, де перетинаються нейробіологія, теорія пізнання (епістемологія) і когнітивна психологія (яка вивчає процеси мислення). Питання, якими вона займається, — знову на слуху.
Що таке свідомість? Що таке воля? Що таке інтелект? Як вони виникають у мозку людини? Чи можна уявити людський мозок як компʼютер — тобто як процесор з модулями оперативної та постійної памʼяті, який виконує певний аналог програмного коду? І якщо так — чи можливо створити машинний аналог людського мозку та код, який буде моделювати свідомість? Кількість науково-популярної літератури, присвяченої цим питанням, практично неозора. Якщо ви хочете з чогось почати, то найкращий спосіб це зробити — це книга «Бути собою» британського когнітивіста Аніла Сета: цього року її якраз переклали українською.