Anthropic вбудувала приблизно шість інженерів у Агентство національної безпеки (NSA), щоб розгорнути її модель Mythos AI для атакувальних кібероперацій, повідомляє Financial Times у четвер. Інженери налаштовують модель під конкретні застосування, потенційно включно з проникненням у мережі в Китаї та Ірані, згідно з одним джерелом, на яке посилається FT. Розгортання відбулося в той самий час, коли Anthropic одночасно опублікувала дослідження із закликом до узгодженого глобального механізму паузи в розвитку ШІ та подала заявку на IPO, яке може оцінити компанію понад $1 трильйон.
Anthropic Deploys Engineers at NSA for Mythos AI Operations
Anthropic розмістила близько шість інженерів у межах Агентства національної безпеки, щоб допомогти розгорнути Mythos — її найпотужнішу модель ШІ — для атакувальних кібероперацій, повідомляє Financial Times. Інженери є співробітниками, висланими на передову та які кастомізують модель під конкретні сценарії. Одне джерело розповіло FT, що модель може бути корисною для проникнення в мережі в таких країнах, як Китай і Іран.
Mythos — це та сама модель, від якої Anthropic відмовилася публічно надавати, посилаючись на ризик зловживання. Компанія обмежила її лише перевіреними партнерами через Project Glasswing — обмежену коаліцію, що включає Microsoft, Apple та Amazon. Чи залучені ці інженери до активних операцій, не підтверджено.
Anthropic Sues Pentagon Over Supply-Chain Risk Designation
Anthropic подає до суду на Пентагон після того, як міністр оборони Піт Гегсетт наприкінці лютого позначив компанію як ризик у ланцюгах постачання — ярлик, який історично застосовували до іноземних супротивників на кшталт Huawei. Позначення з’явилося після провалу контракту на $200 мільйонів. Слабке місце: Anthropic відмовилася дозволити Міністерству оборони використовувати Claude для повністю автономної зброї або для внутрішнього масового нагляду. Контракт NSA був звільнений від цієї заборони.
Суддя з Каліфорнії заблокував включення компанії до чорного списку як очевидну помсту у відповідь на Першу поправку. Апеляційний суд округу Колумбія відхилив клопотання Anthropic зупинити це позначення, поки триває судовий процес. За даними репортажу FT, протягом цього періоду NSA продовжувало використовувати Mythos. Дедлайн Пентагону прибрати Claude зі своїх систем — серпень.
Claude Writes Over 80% of Anthropic Production Code
У той самий день, коли вийшла історія про NSA, внутрішній дослідницький інститут Anthropic опублікував матеріал "When AI Builds Itself", який розглядає, як далеко Claude просунувся в автоматизації власної розробки. Тепер Claude пише понад 80% коду, який було об’єднано в базу виробничого коду Anthropic — це більше, ніж частки в однозначних відсотках до запуску Claude Code на початку 2025 року. Інженери постачають приблизно у вісім разів більше коду на день, ніж у 2024 році.
У квітні агентам Claude дали відкриту задачу з безпеки ШІ — чи може слабша модель надійно наглядати за сильнішою — і залишили розв’язувати її. Двоє людей-дослідників приблизно за тиждень відновили 23% розриву в продуктивності між моделями. Агенти відновили 97% за 800 сукупних годин обчислень. Люди поставили питання, а агенти спроєктували кожен експеримент. Автори звіту — керівниця Anthropic Institute Марина Фаваро та співзасновник Джек Кларк — описали це як перший опублікований випадок, коли Claude застосовує дослідницьке судження, а не просто виконує завдання, які хтось інший визначив.
Anthropic Proposes Verifiable Global AI Development Pause
У звіті обґрунтовується заклик до перевірюваної глобальної паузи — кілька фронтирних лабораторій зупиняються одночасно, а незалежна верифікація підтверджує, що насправді зупинився кожен. Anthropic заявила, що приєднається до такої паузи. Автори порівняли запропонований механізм із ядерними договорами часів холодної війни, які США та Росія укладали між собою.
Anthropic попередила, що траєкторія рухається в бік рекурсивного самовдосконалення: системи ШІ, які автономно проєктують, створюють і тренують власних наступників, тоді як людям дедалі менше відводиться роль на кожному кроці. Як зазначає звіт, коли ШІ вирішує, які експерименти варто виконувати — а не просто виконує їх — люди втрачають останню суттєву роль у циклі розробки. Невеликі розбіжності, видимі в нинішніх моделях, можуть накопичуватися впродовж самовдосконалюваних поколінь, доки ніхто не зможе їх виправити.
AI Safety Warnings Issued in 2023 Did Not Halt Development
У 2023 році понад сотня відомих імен у спільноті дослідників ШІ підписали відкритий лист із проханням до глобальних зусиль зменшити ризик вимирання, який властивий розвитку ШІ як інституційному явищу. За кілька місяців до цього інший відкритий лист вимагав, щоб OpenAI призупинила прогрес у ChatGPT через його небезпечну природу. Після відкритого листа 2023 року ніхто не зупинився. OpenAI не зупинилась. Anthropic — теж.
FAQ
What did Anthropic deploy at the NSA?
Anthropic вбудувала приблизно шість інженерів у Агентство національної безпеки, щоб розгорнути її модель Mythos AI для атакувальних кібероперацій, згідно з повідомленням Financial Times, опублікованим у четвер. Інженери налаштовують модель під конкретні застосування, потенційно включно з проникненням у мережі в Китаї та Ірані.
Why is Anthropic suing the Pentagon?
Anthropic подає до суду на Пентагон після того, як міністр оборони Піт Гегсетт наприкінці лютого позначив компанію як ризик у ланцюгах постачання після провалу контракту на $200 мільйонів. Anthropic відмовилася дозволити Міністерству оборони використовувати Claude для повністю автономної зброї або для внутрішнього масового нагляду. Суддя з Каліфорнії заблокував включення компанії до чорного списку як очевидну помсту у відповідь на Першу поправку, тоді як апеляційний суд округу Колумбія відхилив клопотання Anthropic зупинити це позначення під час триваючого судового розгляду.
How much code does Claude write for Anthropic?
Тепер Claude пише понад 80% коду, який було об’єднано в базу виробничого коду Anthropic — це більше, ніж частки в однозначних відсотках до запуску Claude Code на початку 2025 року. Інженери постачають приблизно у вісім разів більше коду на день, ніж у 2024 році, згідно з матеріалом Anthropic "When AI Builds Itself", опублікованим внутрішнім дослідницьким інститутом компанії.
