Чи є загроза фінансовій безпеці від Claude Mythos? Міністр фінансів США та голова ФРС терміново зібралися, щоб попередити про ризики

Міністр фінансів США та голова Федеральної резервної системи терміново скликали керівників з Волл-стріт, щоб попередити про останню модель Anthropic Mythos. Згідно з рішенням посадовців, цей модель кваліфікували як системний ризик для фінансової системи.

Фінансові керівники терміново скликають керівників Волл-стріт: загроза з боку AI зросла до рівня системного ризику

Згідно з повідомленням Bloomberg, міністр фінансів США Скотт Бессент (Scott Bessent) та голова Федеральної резервної системи Джером Пауел (Jerome Powell) минулого тижня у Вашингтоні, у штаб-квартирі Міністерства фінансів США, терміново скликали керівників провідних банків Волл-стріт і попередили про можливі ризики кібербезпеки, які може спричинити остання модель AI-компанії Anthropic «Claude Mythos Preview».

Серед учасників зустрічі — керівники банків, зокрема генеральний директор Citigroup Джейн Фрейзер (Jane Fraser), генеральний директор Morgan Stanley Тед Пік (Ted Pick), генеральний директор Bank of America Браян Мойніган (Brian Moynihan), генеральний директор Wells Fargo Чарльз Шафр (Charlie Scharf), а також генеральний директор Goldman Sachs Девід Соломон (David Solomon); генеральний директор JPMorgan Джеймі Даймон (Jamie Dimon) не зміг бути присутнім. Усі вищезазначені установи визначені регуляторами як фінансові інституції системної важливості.

Цю зустріч особисто відвідали міністр фінансів і голова Федеральної резервної системи, що вважають у галузі надзвичайним кроком. Якщо в минулому урядове втручання в ризики, пов’язані з AI, здебільшого обмежувалося роботою робочих груп на рівні інституцій, то тепер це напряму підняли до рівня найвищих керівників фінансових органів, які особисто попереджають; чітко дає зрозуміти, що влада визначила AI-кіберзагрози як системний ризик для стабільності фінансової системи.

Модель Mythos вражає можливостями: здатна самостійно знаходити масиви нульових day уразливостей

Згідно з технічними матеріалами, які Anthropic опублікувала в той самий день, Mythos має здатність ідентифікувати та використовувати уразливості в усіх основних операційних системах і веббраузерах. На етапі тестування ця модель самостійно знаходила тисячі раніше невідомих нульових day уразливостей (zero-day vulnerabilities), зокрема уразливість, що довгий час приховано існувала в безпеково спрямованій open source операційній системі OpenBSD — протягом 27 років; до того ж модель також виявила уразливість у медіаобробній бібліотеці FFmpeg, яку не вдалося виявити навіть після виконання автоматизованими тестовими інструментами 5 мільйонів разів програми.

Дослідники Anthropic підкреслили, що здатність Mythos знаходити уразливості ґрунтується на загальному прогресі моделі в програмуванні, міркуванні та автономності, а не на результаті навмисного навчання.

У заяві компанії зазначено: «Та сама здатність, яка робить модель ефективнішою в усуненні уразливостей, робить її так само ефективною й у використанні уразливостей». Ця теза підкреслює двоїстість Mythos: межа між обороною та атакою перед такими моделями практично зникає.

Anthropic відмовляється публічно оголошувати, звужує доступ через «Project Glasswing»

Оскільки можливості занадто потужні, Anthropic вирішила не публікувати Mythos для загального доступу, застосувавши стратегію обмеження доступу: модель надають лише для використання визначеним партнерським компаніям. Компанія також оголосила про запуск оборонної програми співпраці з кібербезпеки під назвою «Project Glasswing» («скляні крила»), у межах якої співпрацюватимуть понад 40 партнерів, зокрема AWS, Apple, Cisco, Google, JPMorgan, Microsoft, NVIDIA тощо, з метою — до того, як атакувальники зроблять свій хід, завчасно виявляти та виправляти уразливості в ключовому програмному забезпеченні.

Джерело зображення: X/@AnthropicAI Anthropic синхронно оголошує про запуск оборонної програми співпраці з кібербезпеки під назвою «Project Glasswing» («скляні крила»)

Anthropic заявляє: «З огляду на надзвичайну потужність можливостей моделі, ми підходимо до способу її поширення з виваженістю. Ми співпрацюємо з невеликою групою ранніх клієнтів із доступом, щоб протестувати цю модель, і вважаємо, що це найбільш проривне покоління, яке ми створили на сьогодні».

Також компанія додатково повідомила, що вже провела брифінги для урядовців щодо сценаріїв застосування Mythos у протидії й атаці, і продовжує консультації з Управлінням з кібербезпеки та безпеки інфраструктури США (CISA) та Центром інновацій зі стандартів AI. У фокусі уваги в подальшому з боку зовнішніх спостерігачів буде те, як регулятори встановлюватимуть стандарти перегляду для поширення подібних моделей, які конкретні заходи оборони мають вживати фінансові установи, а також чи зможе координація між міжнародними регуляторами не відставати від темпів технологічної еволюції.

Цей матеріал згенеровано шляхом агрегації інформації з різних джерел крипто Agent, а «Crypto City» здійснила рецензування та редагування; наразі триває етап навчання, тож можливі логічні відхилення або помилки в інформації. Матеріал призначено лише для довідки, не вважайте його інвестиційною порадою.