Клод Мітос: чи становить загрозу фінансовій безпеці? Міністр фінансів США та голова ФРС терміново скликають нараду, щоб попередити про ризики

Міністр фінансів США та голова Федеральної резервної системи терміново скликали керівників Волл-стріт, щоб попередити про останню модель Anthropic Mythos. Згідно з визначенням відповідних органів, ця модель є системним ризиком для фінансової системи.

Фінансові керівники терміново скликали керівників Волл-стріт: підвищення рівня загрози від AI до системного ризику

Згідно з повідомленням Bloomberg, міністр фінансів США Скотт Бессент (Scott Bessent) та голова Федеральної резервної системи Джером Пауелл (Jerome Powell) минулого тижня у Вашингтоні, у штаб-квартирі Міністерства фінансів, терміново скликали керівників провідних банків Волл-стріт, щоб попередити про потенційні ризики кібербезпеки, які може спричинити нова модель AI-компанії Anthropic «Claude Mythos Preview».

Серед учасників засідання — керівники банків, зокрема генеральний директор Citigroup Джейн Фрейзер (Jane Fraser), генеральний директор Morgan Stanley Тед Пік (Ted Pick), генеральний директор Bank of America Браян Мойніген (Brian Moynihan), генеральний директор Wells Fargo Чарльз Шарф (Charlie Scharf) та генеральний директор Goldman Sachs Девід Соломон (David Solomon); генеральний директор JPMorgan Джеймі Даймон (Jamie Dimon) не зміг бути присутнім. Усі ці установи були внесені регуляторами до переліку фінансових установ, що мають системну значущість.

Ця зустріч за участі міністра фінансів і голови Федеральної резервної системи особисто сприймається в індустрії як надзвичайний крок. Раніше втручання уряду в ризики, пов’язані з AI, здебільшого обмежувалося робочими групами на рівні установ; натомість зараз це безпосередньо підняли до рівня найвищих фінансових посадовців, які особисто попереджають, чітко даючи зрозуміти, що органи влади кваліфікували кіберзагрози від AI як системний ризик для стабільності фінансової системи.

Можливості моделі Mythos вражають: вона може самостійно виявляти масу нульових day-зразків уразливостей

Згідно з технічною документацією, яку Anthropic оприлюднила в той самий день, Mythos має здатність ідентифікувати та використовувати вразливості в усіх основних операційних системах і веббраузерах. На етапі тестування ця модель самостійно виявила тисячі раніше невідомих уразливостей із нульовим днем (zero-day vulnerabilities), серед яких є вразливість, що трималася в безпечному усяджi OpenBSD протягом 27 років; крім того, модель також виявила у бібліотеці для обробки відео FFmpeg уразливість, яку навіть після прогонів автоматизованими тестовими інструментами у 5 млн разів не вдалося виявити.

Дослідники Anthropic підкреслили, що здатність Mythos знаходити вразливості зумовлена загальним прогресом моделі у написанні програм, міркуванні та автономності, а не є результатом цілеспрямованого навчання.

У своїй заяві компанія зазначила: «Ті самі здібності, які роблять модель ефективнішою у виправленні вразливостей, роблять її так само ефективною і під час використання вразливостей». Це твердження підкреслює двозначність Mythos: межа між обороною та атакою майже зникає перед такими моделями».

Anthropic відмовляється публічно оприлюднювати запуск «Project Glasswing» і звужує коло доступу

Оскільки можливості надто потужні, Anthropic вирішила не випускати Mythos публічно та застосувати стратегію обмеження доступу — лише для використання обмеженими партнерськими компаніями. Компанія також оголосила про старт оборонної програми з кібербезпеки під назвою «Project Glasswing» («скляні крила»), у межах якої співпрацюють понад 40 партнерів-організацій, зокрема AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA та інші, з метою до того, як нападники завдадуть удару, завчасно виявляти та виправляти вразливості в ключовому програмному забезпеченні.

Джерело зображення: X/@AnthropicAI Anthropic також повідомила про запуск оборонної програми з кібербезпеки під назвою «Project Glasswing» («скляні крила»)

Anthropic заявляє: «З огляду на надзвичайну потужність моделі, ми застосовуємо обережний підхід до того, як саме її випускати. Ми працюємо з невеликою групою клієнтів на ранньому доступі, щоб тестувати цю модель, і вважаємо, що це найпроривніша одиниця покоління, яку ми створили на сьогодні».

Також компанія повідомила, що провела брифінги для урядовців щодо сценаріїв застосування Mythos в обороні та атаці, і продовжує консультації з Управлінням кібербезпеки та безпеки інфраструктури США (CISA) та Центром інновацій у сфері AI-стандартів. Подальша увага з боку зовнішніх спостерігачів зосередиться на тому, як регуляторні органи встановлюватимуть стандарти для перевірки випуску подібних моделей, які конкретні заходи оборони мають застосувати фінансові установи, а також чи зможе координація між міжнародними регуляторами йти в ногу зі швидкістю технологічної еволюції.

Цей матеріал згенеровано агрегатором «加密 Agent» з інформації з різних джерел, а також пройшов рецензування та редагування «加密城市». Наразі він перебуває на етапі навчання, тому можливі логічні відхилення або інформаційні неточності. Матеріал призначено лише для довідки; не вважайте його інвестиційною рекомендацією.