Powell, Bessent advierten a los bancos sobre riesgos de seguridad derivados del AI Mythos de Anthropic: Bloomberg

En breve

• Según informa Bloomberg, funcionarios de EE. UU. advirtieron a los grandes bancos sobre riesgos de ciberseguridad vinculados al modelo de IA Mythos de Anthropic.
• Según se informa, el sistema puede identificar y explotar vulnerabilidades en sistemas operativos y navegadores.
• Anthropic tiene acceso limitado al modelo mientras evalúa posibles riesgos de seguridad.

Según se informa, el secretario del Tesoro de EE. UU., Scott Bessent, y la presidenta de la Reserva Federal, Jerome Powell, convocaron esta semana una reunión con los CEO de bancos de Wall Street para advertir sobre riesgos de ciberseguridad vinculados a un nuevo modelo de inteligencia artificial de Anthropic. De acuerdo con un informe de Bloomberg, a la reunión asistieron ejecutivos de Citigroup, Bank of America, Wells Fargo, Morgan Stanley y Goldman Sachs. Los funcionarios analizaron el nuevo modelo de IA de Anthropic, Mythos, que recientemente ha generado preocupación general por sus aparentemente avanzadas capacidades de ciberseguridad. Los funcionarios convocaron la reunión para garantizar que los bancos comprendan los riesgos que plantean los sistemas capaces de identificar y explotar vulnerabilidades de software en distintos sistemas operativos y navegadores web, y para alentar a las instituciones a reforzar sus defensas contra posibles ciberataques asistidos por IA que apunten a la infraestructura financiera.

Los investigadores de seguridad han advertido que las herramientas capaces de descubrir vulnerabilidades de forma automática podrían acelerar tanto el trabajo defensivo de seguridad como el hacking malicioso si se usan de manera indebida.  El modelo Mythos de Anthropic apareció por primera vez en línea en marzo, después de que se filtraran documentos de borrador sobre el sistema, revelando lo que la empresa describió como su modelo de IA más capaz hasta la fecha. En las pruebas, según se informa, el sistema encontró miles de vulnerabilidades de software previamente desconocidas, incluidas fallas de día cero en los principales sistemas operativos y navegadores web. Los investigadores de Anthropic dijeron en un informe a principios de esta semana que las capacidades de descubrimiento de vulnerabilidades de Mythos Preview no se entrenaron intencionalmente, sino que surgieron de mejoras más amplias en la codificación, el razonamiento y la autonomía del modelo.

“Las mismas mejoras que hacen que el modelo sea sustancialmente más eficaz para parchear vulnerabilidades también lo hacen sustancialmente más eficaz para explotarlas”, escribió la empresa. Debido a esas capacidades, Anthropic ha restringido el acceso a un pequeño grupo de organizaciones de ciberseguridad. “Dada la fortaleza de sus capacidades, estamos siendo deliberados sobre cómo lo lanzamos”, dijo Anthropic en un comunicado. “Como es práctica estándar en la industria, trabajamos con un pequeño grupo de clientes de acceso temprano para probar el modelo. Consideramos este modelo un cambio significativo y el más capaz que hemos construido hasta la fecha”. Para abordar ese riesgo, Anthropic está probando Mythos a través del Proyecto Glasswing, una colaboración con importantes empresas de tecnología y ciberseguridad que utiliza el modelo para identificar y parchear vulnerabilidades en software crítico antes de que los atacantes puedan explotarlas. “Project Glasswing es un punto de partida. Ninguna organización por sí sola puede resolver estos problemas de ciberseguridad”, dijo la compañía en un comunicado. “Los desarrolladores de IA de Frontier, otras empresas de software, los investigadores de seguridad, los mantenedores de código abierto y los gobiernos de todo el mundo tienen todos un papel esencial que desempeñar”. Anthropic no respondió de inmediato a la solicitud de comentarios de Decrypt.