Чому розробник Claude пропонує глобально пригальмувати створення передового штучного інтелекту

Фото: digidop.com

Американська компанія Anthropic запропонувала скоординоване глобальне уповільнення темпів створення передових систем штучного інтелекту. Про це йдеться у статті "Коли ШІ створює сам себе", оприлюдненій на сайті компанії, пише Liga.net

---

Автори публікації — співзасновник Anthropic Джек Кларк та голова дослідницького підрозділу Anthropic Institute Марина Фаваро — вважають, що нові великі мовні моделі можуть вийти з-під контролю людини.

"Наприкінці 2025 року код, написаний Claude в Anthropic, був дещо гіршим, ніж код, написаний людиною, сьогодні він приблизно дорівнює йому, і ми очікуємо, що протягом року він стане значно кращим", — зазначають автори.

За їхніми словами, системи штучного інтелекту дедалі частіше беруть на себе завдання, які раніше виконували люди. Якщо ця тенденція збережеться, може з'явитися система, здатна автономно проєктувати та навчати своїх наступників. Такий сценарій в Anthropic називають рекурсивним самовдосконаленням.

У компанії наголошують, що наразі цього не сталося і такий розвиток подій не є неминучим. Водночас переломний момент може настати раніше, ніж державні та громадські інститути встигнуть підготуватися до нього. Станом на травень 2026 року понад 80% коду, який потрапляє до кодової бази Anthropic, було написано Claude.

Як зазначається у статті, Claude вже здатний виконувати окремі добре визначені дослідницькі завдання ефективніше за людей. Зокрема, під час оптимізації коду для навчання невеликої моделі система досягла приблизно 52-разового прискорення, тоді як досвідченому досліднику вдавалося забезпечити близько 4-разового прискорення за кілька годин роботи.

"Ми вважаємо, що для світу було б добре мати можливість загальмувати або тимчасово зупинити розвиток передового штучного інтелекту, щоб соціальні структури та дослідження сумісності зі штучним інтелектом могли йти в ногу зі швидкістю технологічного розвитку", — заявили автори.

З моменту заснування Anthropic позиціонує себе як одну з найбільш відкритих компаній у питаннях потенційних ризиків штучного інтелекту. Раніше компанія публічно сперечалася з Міністерство оборони США через побоювання щодо використання таких технологій для масового стеження та створення автономних бойових систем.

"Я хвилююся за своїх дітей, якщо ми як суспільство не почнемо серйозну розмову про наслідки подальшого розвитку штучного інтелекту. Потенційні вигоди є величезними. Але є й ризики", — заявив Кларк в інтерв'ю програмі BBC Newsnight. За його словами, одним із таких ризиків може стати масштабна перебудова економіки.

Особливу тривогу викликають ШІ-агенти — автономні цифрові помічники, здатні самостійно виконувати рутинні завдання. Критики побоюються, що вони можуть замінити людей на частині робочих місць. Водночас Кларк вважає, що люди з розвиненою уявою та здатністю генерувати нові ідеї збережуть конкурентну перевагу над системами штучного інтелекту.

За останній рік найбільші технологічні компанії провели масові скорочення персоналу. Часто вони пояснювали скорочення тим, що інструменти на основі ШІ вже здатні виконувати роботу, яку робили раніше сотні або навіть тисячі програмістів.

Із січня технологічна галузь США оголосила про намір скоротити на 65% більше робочих місць, ніж роком раніше.

За останній рік в Україні було скорочено 17% айтівців, причому найбільше звільнень припало на Senior-спеціалістів та Lead-фахівців. Основними причинами звільнень стали оптимізація витрат, фінансові труднощі компаній, а також завершення або зупинка проєктів. Майже половина звільнених не очікували втрати роботи.