Powell, Bessent advierten a los bancos sobre riesgos de seguridad derivados de la IA Mythos de Anthropic: Bloomberg

En breve

• Según Bloomberg, funcionarios estadounidenses advirtieron a los principales bancos sobre riesgos de ciberseguridad vinculados al modelo de IA Mythos de Anthropic.
• Según se informa, el sistema puede identificar y explotar vulnerabilidades en sistemas operativos y navegadores.
• Anthropic tiene acceso limitado al modelo mientras evalúa posibles riesgos de seguridad.

Se informa que el secretario del Tesoro de EE. UU. Scott Bessent y la presidenta de la Reserva Federal, Jerome Powell, convocaron esta semana una reunión con los CEO de bancos de Wall Street para advertir sobre riesgos de ciberseguridad vinculados a un nuevo modelo de inteligencia artificial de Anthropic. Según un informe de Bloomberg, en la reunión participaron ejecutivos de Citigroup, Bank of America, Wells Fargo, Morgan Stanley y Goldman Sachs. Los funcionarios analizaron el nuevo modelo de IA de Anthropic, Mythos, que recientemente ha generado una preocupación generalizada por sus capacidades avanzadas aparentes en materia de ciberseguridad. Los funcionarios convocaron la reunión para garantizar que los bancos comprendan los riesgos que plantean sistemas capaces de identificar y explotar vulnerabilidades de software en sistemas operativos y navegadores web, y para alentar a las instituciones a reforzar sus defensas contra posibles ciberataques asistidos por IA dirigidos a infraestructura financiera.

Los investigadores de seguridad han advertido que las herramientas capaces de descubrir vulnerabilidades de forma automática podrían acelerar tanto el trabajo defensivo como la piratería maliciosa si se usan indebidamente.  El modelo Mythos de Anthropic apareció por primera vez en línea en marzo, después de que materiales preliminares sobre el sistema se filtraran en internet, revelando lo que la empresa describió como su modelo de IA más capaz hasta la fecha. En pruebas, el sistema supuestamente encontró miles de vulnerabilidades de software previamente desconocidas, incluidas fallas de día cero en sistemas operativos y navegadores web importantes. Los investigadores de Anthropic dijeron en un informe a principios de esta semana que las capacidades de descubrimiento de vulnerabilidades de Mythos Preview no fueron entrenadas intencionalmente, sino que surgieron a partir de mejoras más amplias del modelo en su codificación, razonamiento y autonomía.

“La misma clase de mejoras que hacen que el modelo sea sustancialmente más eficaz para parchear vulnerabilidades también lo hacen sustancialmente más eficaz para explotarlas”, escribió la firma. Debido a esas capacidades, Anthropic ha restringido el acceso a un pequeño grupo de organizaciones de ciberseguridad. “Dada la solidez de sus capacidades, estamos siendo deliberados sobre cómo lo lanzamos”, dijo Anthropic en un comunicado. “Como es práctica estándar en la industria, estamos trabajando con un pequeño grupo de clientes de acceso temprano para probar el modelo. Consideramos este modelo un cambio significativo y el más capaz que hemos construido hasta la fecha”. Para abordar ese riesgo, Anthropic está probando Mythos a través de Project Glasswing, una colaboración con importantes empresas tecnológicas y de ciberseguridad que usa el modelo para identificar y parchear vulnerabilidades en software crítico antes de que los atacantes puedan explotarlas. “Project Glasswing es un punto de partida. Ninguna organización puede resolver estos problemas de ciberseguridad por sí sola”, dijo la empresa en un comunicado. “Los desarrolladores de Frontier AI, otras empresas de software, investigadores de seguridad, mantenedores de código abierto y gobiernos de todo el mundo tienen funciones esenciales que desempeñar”. Anthropic no respondió de inmediato a la solicitud de comentarios de Decrypt.