Funcionarios estadounidenses advierten a Wall Street sobre los riesgos de la IA de Anthropic

Riesgo de seguridad con indicadores del modelo Mythos

El foco está en el modelo Mythos de la empresa Anthropic, que supuestamente detecta y utiliza vulnerabilidades en sistemas operativos y plataformas web. Además, la empresa reconoció que el modelo es capaz de simular ataques cuando se le provoca bajo condiciones controladas. Como tal, las autoridades consideran estas capacidades como una posible amenaza cuando se abusan de ellas por personas con malas intenciones. Esto ha intensificado el escrutinio en los ámbitos financiero y regulatorio. Anthropic disfruta de acceso limitado a Mythos y está desarrollando aplicaciones defensivas con el Proyecto Glasswing. Grandes empresas como Amazon, Apple y JPMorgan Chase forman parte de la iniciativa. Además, se involucraron organizaciones como Google, NVIDIA y la Linux Foundation. Ofreciendo mejorar la seguridad del software mediante la detección de vulnerabilidades basada en IA, estos grupos persiguen este objetivo.

La empresa invirtió muchos recursos en impulsar la iniciativa y ampliar el alcance defensivo. Anthropic proporcionó hasta 100 millones en créditos de uso y 4 millones en financiación directa. Además, más de 40 organizaciones que controlan infraestructura crítica pudieron acceder al sistema. Este esfuerzo conjunto busca descubrir y resolver defectos de alta gravedad en software popular. Anthropic sigue siendo interesante con los cambios en el desarrollo legal y regulatorio. La administración Trump intentó tomar medidas contra la empresa en su clasificación, pero fue frenada por un tribunal federal en San Francisco. La jueza Rita Lin ordenó que la designación no se basaba sustancialmente en el marco legal. Por lo tanto, este fallo fue una tregua de corta duración, ya que las empresas de IA permanecen bajo el microscopio.

La empresa ha registrado un crecimiento financiero sólido, y sus ingresos recurrentes anuales han aumentado con fuerza durante los últimos meses. Esto ha incrementado el interés tanto en tecnología como en finanzas. Además, los analistas aún evalúan el efecto general en empresas rivales, como Palantir Technologies. Los actores del mercado están siguiendo la forma en que la implementación de la IA influye en la competencia dentro de la industria. Las innovaciones más recientes en Anthropic han propiciado un aumento del interés en la seguridad de la IA, los requisitos regulatorios y las consecuencias para el mercado. Estas cuestiones han seguido siendo influyentes en los debates sobre políticas y la preparación financiera.

Este artículo se publicó originalmente como US Officials Warn Wall Street About the Risks of Anthropic AI on Crypto Breaking News – su fuente de confianza para noticias de cripto, noticias de Bitcoin y actualizaciones de blockchain.