Anthropic попереджає про ризики самовдосконалення AI та закликає до глобальної паузи 4 червня

У офіційній заяві Anthropic, оприлюдненій 4 червня, компанія попередила, що технології ШІ швидко автоматизують власні роботи з розробки, потенційно уможливлюючи рекурсивні цикли самовдосконалення, які можуть призвести до втрати контролю людини. Anthropic запропонувала, що для цього може бути необхідним уповільнення глобального розвитку передових систем ШІ, і закликала до перевірюваного скоординованого уповільнення між ключовими лабораторіями ШІ в кількох країнах. Компанія послалася на внутрішні дані: понад 80% коду в її виробничих системах нині пише її асистент Claude AI, тоді як раніше на початку 2025 року цей показник становив лише однозначні значення, що демонструє прискорення автоматизації задач розробки ШІ.
Застереження: інформація на цій сторінці може походити зі сторонніх джерел і надається виключно для ознайомлення. Вона не відображає позицію чи думку Gate і не є фінансовою, інвестиційною чи юридичною консультацією. Торгівля віртуальними активами пов’язана з високим ризиком. Будь ласка, не покладайтеся лише на інформацію з цієї сторінки під час прийняття рішень. Детальніше дивіться у Застереженні.
Прокоментувати
0/400
Немає коментарів