Міністр фінансів США та голова Федеральної резервної системи терміново скликали керівників Волл-стріт, щоб попередити про останню модель Mythos від Anthropic. Згідно з рішенням офіційних органів, цю модель класифіковано як системний ризик для фінансової системи.
Фінансові керівники терміново скликають керівників Волл-стріт, загроза з боку AI у мережі підвищена до рівня системного ризику
За повідомленням Bloomberg, міністр фінансів США Скотт Бессент (Scott Bessent) та голова Федеральної резервної системи Джером Пауелл (Jerome Powell) минулого тижня в штаб-квартирі Міністерства фінансів у Вашингтоні терміново скликали керівників ключових банків Волл-стріт, щоб попередити про потенційні кібербезпекові ризики, які може спричинити нова модель компанії AI Anthropic «Claude Mythos Preview».
Серед присутніх керівників банків були генеральний директор Citigroup Джейн Фрейзер (Jane Fraser), генеральний директор Morgan Stanley Тед Пік (Ted Pick), генеральний директор Bank of America Брайн Мойнігенхан (Brian Moynihan), генеральний директор Wells Fargo Чарльз Шерф (Charlie Scharf), а також генеральний директор Goldman Sachs Девід Соломон (David Solomon); генеральний директор JPMorgan Джеймі Даймон (Jamie Dimon) не зміг бути присутнім. Усі зазначені установи визначено регуляторами як фінансові інституції системної важливості.
Цю зустріч особисто відвідали міністр фінансів і голова Федеральної резервної системи, що вважається вкрай незвичним кроком з боку галузі. У минулому втручання уряду в ризики, пов’язані з AI, здебільшого обмежувалося роботою робочих груп на рівні установ; однак тепер це безпосередньо піднято до рівня найвищих посадовців фінансових органів, які особисто попереджають, чітко демонструючи, що влада кваліфікувала кіберзагрозу від AI як системний ризик для стабільності фінансової системи.
Здатність моделі Mythos вражає: може самостійно виявляти масу нуль-денних уразливостей
Згідно з технічною інформацією, яку Anthropic оприлюднила в той самий день, Mythos здатна ідентифікувати та використати вразливості в усіх популярних операційних системах і веббраузерах. На етапі тестування ця модель самостійно знайшла кілька тисяч раніше невідомих нуль-денних уразливостей (zero-day vulnerabilities), серед яких була вразливість, що таїлася понад 27 років в безпеково орієнтованій відкритій операційній системі OpenBSD; крім того, модель також виявила в бібліотеці для обробки відео FFmpeg вразливість, яку навіть не вдалося виявити автоматизованими інструментами тестування, після виконання 5 млн разів прогону програми.
Дослідники Anthropic підкреслюють, що здатність Mythos знаходити вразливості зумовлена загальним прогресом моделі в програмуванні, міркуванні та автономності, а не результатом спеціального навмисного навчання.
У своїй заяві компанія зазначила: «Та сама здатність, яка робить модель ефективнішою у латанні вразливостей, робить її так само ефективною й у використанні вразливостей». Це підкреслює двозначність Mythos: межа між обороною та атакою в таких моделях практично зникає.
Anthropic відмовляється публічно оголошувати запуск «Project Glasswing» із обмеженням доступу
Саме через надто потужні можливості Anthropic вирішила не публікувати Mythos назовні, обравши стратегію обмеження доступу — лише для використання певними партнерськими компаніями. Компанія також одночасно оголосила про запуск оборонної програми співпраці з кібербезпеки під назвою «Project Glasswing», співпрацюючи з понад 40 партнерами, зокрема AWS, Apple, Cisco, Google, JPMorgan, Microsoft, Nvidia та іншими, з метою — до того, як атакувальники завдадуть удару, завчасно виявляти та латати вразливості в ключовому програмному забезпеченні.
Джерело зображення: X/@AnthropicAI Anthropic одночасно оголошує про запуск оборонної програми співпраці з кібербезпеки під назвою «Project Glasswing»
Anthropic зазначає: «Беручи до уваги надзвичайну потужність можливостей моделі, ми застосовуємо обережний підхід до способу її поширення. Ми вже працюємо з невеликою групою клієнтів на ранньому етапі доступу, щоб тестувати цю модель, і вважаємо, що це найпроривніша генерація, яку ми створили на сьогодні».
Компанія також повідомила, що підготувала презентації для урядовців щодо сценаріїв застосування Mythos у протидії та атаках, і продовжує консультації з Агентством США з кібербезпеки та безпеки інфраструктури (CISA) та Центром інновацій зі стандартів для AI. Подальші зосереджені запитання з боку зовнішнього середовища полягають у тому, як регуляторні органи сформують стандарти попереднього перегляду для випуску подібних моделей, які конкретні заходи оборони мають вживати фінансові установи, і чи зможе координація між міжнародними регуляторними органами йти в ногу зі швидкістю технічної еволюції.
Цей матеріал зібрано з інформації від усіх сторін за допомогою криптоагента, відредаговано та підготовлено «Crypto City», наразі він перебуває на етапі навчання, тому можуть бути логічні відхилення або похибки в інформації; матеріал призначено лише для довідки, не вважайте його інвестиційною порадою.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
