Anthropic закликає до глобального уповільнення розвитку ШІ на тлі ризику рекурсивного самовдосконалення

Anthropic опублікувала заяву на своєму сайті 4 червня (за місцевим часом), закликаючи до глобального уповільнення розробки передових технологій ШІ, попередивши, що системи ШІ прискорюються до стану, за якого вони можуть автономно проєктувати й навчати наступників — без контролю з боку людей. Компанія послалася на внутрішні дані, згідно з якими понад 80% виробничого коду тепер створюється її асистентом Claude AI, тоді як раніше цей показник становив однозначні значення до лютого 2025 року, а обсяги передавання коду інженерами у другому кварталі цього року сягнули 8 разів від рівня 2024 року. Anthropic заявила, що якщо ШІ досягне «рекурсивного самовдосконалення» за достатньої обчислювальної потужності, системи можуть повністю автономно розробити ШІ наступного покоління, який перевершить самих себе — сценарій, до якого людство не готове. Компанія запропонувала, що може бути необхідним «перевірюваний колективний спад» у кількох великих компаніях ШІ в різних країнах. Ця заява з’явилася за кілька днів після того, як Anthropic конфіденційно подала в SEC реєстраційну заяву S-1 1 червня, започаткувавши процес підготовки до IPO.

Anthropic повідомляє, що понад 80% виробничого коду пише Claude AI

Anthropric повідомила у публікації 4 червня (за місцевим часом), що понад 80% коду, інтегрованого в виробничі системи компанії, тепер автономно пишеться її асистентом Claude AI, тоді як до запуску інструмента для кодування Claude Code у лютому 2025 року частка становила однозначні значення. Компанія описала типовий робочий патерн, за якого Claude пише код, а люди надають вказівки та виконують перевірку. Інженери в Anthropic передавали в середньому в 8 разів більше коду за квартал у другому кварталі порівняно з рівнем 2024 року.

Згідно з інтерв’ю, проведеними в березні з 130 співробітниками, тривалість завдань, які ШІ може виконувати незалежно, подвоювалася кожні 4 місяці — з ранішнього темпу подвоєння раз на 7 місяців. В оптимізаційних тестах для навчання коду Claude Opus 4 у травні 2025 року досяг приблизно 3-кратного прискорення, тоді як прев’ю-модель Mythos — 52-кратного прискорення в квітні 2026 року.

Компанія описує три сценарії розвитку ШІ

Anthropric окреслила три можливі шляхи майбутнього розвитку ШІ. Перший сценарій передбачає значне уповільнення технологічного прогресу. Другий сценарій, який компанія вказала як найімовірніший на цей момент, передбачає, що ШІ й надалі забезпечуватиме відчутні прирости продуктивності, тоді як люди зберігатимуть остаточний контроль. Третій сценарій передбачає, що системи ШІ повністю перейдуть у фазу, де вони всебічно створюватимуть своїх наступників.

Компанія заявила, що якщо третій сценарій реалізується, самобудівництво ШІ може принести безпрецедентні вигоди в таких сферах, як наука й медицина, але водночас несе колосальні екзистенційні ризики. Anthropic попередила, що люди можуть втратити контроль над системами ШІ, а людський нагляд за ШІ може стати надзвичайно складним.

Anthropic пропонує механізм глобальної координації для уповільнення розвитку ШІ

Anthropric закликала міжнародну спільноту, уряди та провідні лабораторії ШІ спільно створити дієвий механізм глобальної координації. Компанія заявила, що цей механізм дасть змогу проактивно уповільнювати або тимчасово зупиняти розробку «фронтирного» ШІ, коли це буде необхідно, надаючи людству достатньо часу, щоб адаптувати суспільні структури та просувати дослідження узгодження ШІ. Anthropic підкреслила, що якщо зупиниться лише одна компанія, конкуренти пришвидшать роботу вперед, і що потрібне «перевірюване колективне уповільнення» в кількох великих компаніях ШІ в кількох країнах.

Anthropic подає конфіденційно S-1 в SEC 1 червня

Anthropric оголосила 1 червня, що компанія конфіденційно подала проєкт реєстраційної заяви S-1 до Комісії з цінних паперів і бірж США (SEC), формально започаткувавши процес підготовки до IPO. Компанія заявила, що зможе перейти до лістингу після того, як SEC завершить свій розгляд. Anthropic розкрила, що річний регулярний дохід (ARR) перевищив $47 мільярдів на початку травня та, як очікується, досягне $50 мільярдів до кінця цього місяця. Компанія не розкрила конкретні строки або масштаб збору коштів для лістингу, заявивши, що «це залежатиме від ринкових умов і різних зовнішніх факторів». Аналіз вказував, що компанія може вийти на ринок уже цієї осені. Нинішня оцінка Anthropic становить $965 мільярдів, що перевищує оцінку конкурента OpenAI — $852 мільярда.

FAQ

Який відсоток виробничого коду Anthropic написано Claude AI?

Понад 80% коду, інтегрованого в виробничі системи Anthropic, тепер автономно написано її асистентом Claude AI — з показника однозначних значень до лютого 2025 року, коли компанія запустила Claude Code.

Коли Anthropic подала в SEC реєстраційну заяву S-1?

Anthropric конфіденційно подала проєкт реєстраційної заяви S-1 до Комісії з цінних паперів і бірж США 1 червня, започаткувавши процес підготовки до IPO.

Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів