FT: Співробітники провідних ШІ-компаній звільняються та йдуть на лікарняні — інколи через занепокоєння наслідками своєї роботи

Співробітники провідних світових компаній у сфері штучного інтелекту дедалі частіше потерпають від психологічного навантаження, пов’язаного з роботою над системами, які, на їхню думку, можуть завдати суспільству серйозної шкоди. Деякі співробітники звільняються через те, що компанії приділяють недостатньо уваги безпеці ШІ.

Про це пише Financial Times із посиланням на джерела.

За словами джерел, кілька співробітників Британського інституту безпеки штучного інтелекту (AISI) через стрес були змушені взяти лікарняний, а зараз отримують психологічну допомогу. Ще четверо співрозмвоників розповіли, що на стан співробітників впливають напружені терміни тестування моделей ШІ.

Працівники Anthropic, OpenAI та Google DeepMind теж публічно говорили про подібні проблеми. Деякі провідні дослідники звільнилися через психологічне навантаження. Як розповів FT колишній співробітник AISI, фахівці з кібербезпеки та біохімії особливо занепокоєні останнім стрибком можливостей штучного інтелекту, зокрема через здатність створювати віруси, аналогів яких не існує в природі.

13 вересня керівники трьох провідних компаній у сфері штучного інтелекту — Anthropic, OpenAI та SpaceX AI — підтримали ідею сповільнити розвиток найпотужніших ШІ-моделей. Водночас конкретного плану, як саме сповільнити розвиток ШІ, поки що немає. Також незрозуміло, як контролювати виконання таких домовленостей та як уникнути порушення антимонопольного законодавства.

Ідея гендиректора Anthropic з’явилася після того, як 9 вересня звільнився дослідник цієї компанії Джейкоб Коксон, який раніше працював в OpenAI. Він публічно заявив, що компанії-розробники ШІ більше зосереджені на конкуренції, ніж на безпеці моделей, які потенційно можуть знищити людство.