Офіційні особи США попереджають Волл-стріт про ризики ШІ Anthropic

Міфічна модель: прапорці ризику безпеки

Фокус зосереджено на моделі Mythos від компанії Anthropic, яка, як стверджується, виявляє й використовує вразливості в операційних системах та вебплатформах. Крім того, компанія визнала, що модель здатна імітувати атаки, коли її спровокувати за контрольованих умов. У зв’язку з цим органи влади вважають такі можливості потенційною загрозою, якщо їх зловживають люди з поганими намірами. Це посилило пильність у фінансовій та регуляторній сферах. Anthropic має обмежений доступ до Mythos і нарощує оборонні застосунки разом із Project Glasswing. Великі компанії на кшталт Amazon, Apple та JPMorgan Chase входять до ініціативи. Також у процесі взяли участь організації на кшталт Google, NVIDIA та Linux Foundation. Пропонуючи підвищити безпеку програмного забезпечення завдяки виявленню вразливостей на основі ШІ, ці групи переслідують цю мету.

Компанія вклала багато ресурсів у просування ініціативи та розширення оборонного охоплення. Anthropic надав до 100 мільйонів кредитів на використання та 4 мільйони у вигляді прямого фінансування. Крім того, понад 40 організацій, які контролюють критичну інфраструктуру, змогли отримати доступ до системи. Ця спільна робота має на меті виявлення й усунення дефектів із високим рівнем критичності в популярному програмному забезпеченні. Anthropic лишається цікавою на тлі змін у юридичних і регуляторних подіях. Адміністрація Трампа намагалася вжити заходів проти компанії в межах її класифікації, але цього вдалося уникнути завдяки федеральному суду в Сан-Франциско. Суддя Ріта Лінл наказала, що призначення не ґрунтувалося істотно на законодавчих підставах. Тому це рішення стало короткочасним полегшенням, адже компанії зі ШІ й надалі перебувають під мікроскопом.

Компанія зафіксувала потужне зростання фінансів, а її щорічні повторювані доходи різко зросли протягом останніх кількох місяців. Це підвищило інтерес і в технологічному, і у фінансовому середовищі. Крім того, аналітики ще оцінюють загальний вплив на компанії-конкуренти, зокрема Palantir Technologies. Учасники ринку стежать за тим, як упровадження ШІ впливає на конкуренцію в індустрії. Найновіші інновації в Anthropic спричинили зростання інтересу до безпеки ШІ, регуляторних вимог і ринкових наслідків. Це залишалося впливовим під час дискусій щодо політики та фінансової готовності.

Ця стаття була опублікована спочатку як US Officials Warn Wall Street About the Risks of Anthropic AI on Crypto Breaking News – ваш надійний для криптовиняток, новин про Bitcoin та оновлень про блокчейн.