Терміново скликавши топ-керівників Волл-стріт, міністр фінансів США та голова Федеральної резервної системи підняли тривогу щодо останньої моделі Anthropic Mythos. Урядові органи класифікували цю модель як системний ризик для фінансової системи.
Фінансові керівники терміново скликали топ-менеджерів Волл-стріт: загроза з боку AI підвищена до рівня системного ризику
За даними Bloomberg, міністр фінансів США Скотт Бессент (Scott Bessent) та голова Федеральної резервної системи Джером Пауел (Jerome Powell) минулого тижня в штаб-квартирі Міністерства фінансів у Вашингтоні терміново скликали керівників провідних банків, щоб попередити про потенційні ризики кібербезпеки, які може спричинити остання модель AI-компанії Anthropic «Claude Mythos Preview».
Серед присутніх керівників банків були генеральний директор Citigroup Джейн Фрейзер (Jane Fraser), генеральний директор Morgan Stanley Тед Пік (Ted Pick), генеральний директор Bank of America Брайн Мойніген (Brian Moynihan), генеральний директор Wells Fargo Чарльз Шарф (Charlie Scharf) та генеральний директор Goldman Sachs Девід Соломон (David Solomon); генеральний директор JPMorgan Джеймі Даймон (Jamie Dimon) на зустріч не прибув. Усі ці установи були визначені регуляторами як фінансові інституції, що мають системну значущість.
Ця зустріч за участі міністра фінансів і голови Федеральної резервної системи особисто вважається в індустрії вкрай незвичною. Раніше втручання уряду в ризики, пов’язані з AI, здебільшого обмежувалося роботою робочих груп на рівні установ; нині ж попередження підвищено до рівня найвищих керівників фінансових органів, які особисто сигналізують про те, що загрози з боку AI офіційно класифіковані як системний ризик для стабільності фінансової системи.
Можливості моделі Mythos вражають: вона самостійно виявляє масиви нуль-дей зразків
Згідно з технічними матеріалами, оприлюдненими Anthropic у той самий день, Mythos здатна ідентифікувати та експлуатувати вразливості в усіх основних операційних системах і веббраузерах. На етапі тестування ця модель самостійно знайшла тисячі раніше невідомих нуль-дей вразливостей (zero-day vulnerabilities), серед яких — вразливість, що таїлася в безпечній орієнтованій відкритій операційній системі OpenBSD понад 27 років; крім того, модель також виявила в бібліотеці для обробки відео FFmpeg вразливість, яку навіть не вдалося зафіксувати автоматизованими інструментами тестування після виконання 5 000 000 разів програми.
Дослідники Anthropic підкреслили, що здатність Mythos знаходити вразливості походить від загального прогресу моделі в програмуванні, міркуванні та автономності, а не є результатом цілеспрямованого навчання.
У заяві компанія зазначила: «Ті самі здібності, які роблять модель ефективнішою в виправленні вразливостей, роблять її так само ефективною і в експлуатації вразливостей». Це твердження підкреслює дволикість Mythos: межа між обороною та атакою у таких моделях майже зникає.
Anthropic відмовляється публічно розкривати: запуск «Project Glasswing» звужує доступ
Оскільки можливості надто потужні, Anthropic вирішила не публікувати Mythos для широкого загалу, а натомість застосувала стратегію обмеження доступу — лише для використання певними партнерськими компаніями. Компанія також оголосила про запуск оборонного проєкту з кібербезпеки під назвою «Project Glasswing», співпрацюючи з понад 40 компаніями-партнерами, зокрема AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA тощо, із метою до дій атакувальників завчасно знаходити й виправляти вразливості в ключовому програмному забезпеченні.
Джерело зображення: X/@AnthropicAI Anthropic також оголосила про запуск оборонного проєкту з кібербезпеки під назвою «Project Glasswing»
Anthropic заявляє: «З огляду на виняткову потужність моделі, ми застосовуємо обережний підхід до способу її випуску. Ми вже працюємо з невеликою групою клієнтів із раннім доступом, тестуємо цю модель і вважаємо, що це найпроривніша ітерація, яку ми створили на сьогодні».
Компанія також повідомила, що провела брифінги для урядових посадовців щодо сценаріїв застосування Mythos як в наступальних, так і в оборонних цілях, та продовжує консультації з Управлінням з кібербезпеки та безпеки інфраструктури США (CISA) і Центром інновацій стандартів для AI. Подальша увага з боку зовнішніх спостерігачів зосереджуватиметься на тому, як регуляторні органи встановлять стандарти попереднього перегляду для випуску подібних моделей, які конкретні оборонні заходи мають вжити фінансові установи, а також чи зможе координація між міжнародними регуляторами не відставати від темпів технологічної еволюції.
Цей матеріал зібрано з інформації від різних сторін за допомогою криптоагента, підготовлено до публікації та відредаговано «Крипто-місто». Наразі матеріал перебуває на стадії навчання, тож може містити логічні розбіжності або неточності в інформації. Контент наведено лише для довідки; не вважайте його інвестиційною порадою.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
