David Sacks critica as regras de proteção da IA dos EUA depois de a Kimi K3 corrigir falhas de segurança

David Sacks, o responsável de política de IA e criptomoeda da Casa Branca conhecido como o “crypto czar”, criticou, a 19 de julho, as salvaguardas de segurança para modelos de IA dos EUA através do X, citando o modelo de IA chinês Kimi K3 como exemplo. Sacks afirmou que o Kimi K3 corrigiu 15 falhas de segurança críticas que os modelos Codex e Fable, dos EUA, se recusaram a abordar devido a “cyber guardrails”, sustentando que não há razão para limitar os modelos americanos em tarefas que os modelos chineses executam sem problemas. A crítica evidencia o debate em curso sobre restrições de segurança em IA, já que especialistas em cibersegurança tinham alertado anteriormente, numa carta de junho ao Presidente Trump, que limitar o uso de IA por investigadores de segurança e organizações defensivas poderia enfraquecer as capacidades de defesa cibernética.

Sacks cita correções de falhas de segurança do Kimi K3 bloqueadas por modelos de IA dos EUA

Na sua publicação de 19 de julho no X, Sacks escreveu: “O Kimi K3 acabou de corrigir 15 falhas de segurança críticas que a Codex e a Fable recusaram porque tinham ‘cyber guardrails’. Não há razão para limitar modelos americanos em tarefas que os modelos chineses fazem sem problemas. Estamos apenas a tornar-nos menos competitivos.”

Os “cyber guardrails” aplicados à Codex e à Fable são mecanismos de segurança concebidos para restringir pedidos que poderiam ser explorados para fins maliciosos, como a criação de malware ou a intrusão em sistemas. No entanto, os críticos assinalaram que estas restrições também limitam a análise de vulnerabilidades de segurança e a investigação defensiva, reduzindo a utilidade prática dos modelos de IA dos EUA.

A Hugging Face mudou para o GLM 5,2 chinês após os guardrails do modelo dos EUA bloquearem a análise

Sacks apresentou outro exemplo numa publicação de acompanhamento: “A Hugging Face tentou usar modelos de fronteira americanos para analisar um ataque cibernético alimentado por IA. Mas os guardrails bloquearam pedidos com payloads reais de exploração, pelo que mudaram para o GLM 5,2 a correr localmente.”

Disse que “os guardrails, na prática, prejudicaram a segurança defensiva”, salientando que as restrições dificultaram a investigação legítima de segurança em vez de reforçarem a proteção.

Especialistas em cibersegurança alertaram Trump em junho sobre riscos de restrição da IA

De acordo com a Axios, especialistas em cibersegurança liderados por Alex Stamos, antigo Chief Security Officer da Facebook, enviaram uma carta aberta ao Presidente Trump em junho. A carta advertia que “restringir oportunidades de utilização da IA para instituições de investigação de segurança e organizações defensivas poderia, na prática, enfraquecer as capacidades de defesa cibernética”.

Os especialistas referiram que os modelos de IA mais recentes já estão a ser usados em toda a indústria de ativos digitais para melhorar os níveis de segurança através de monitorização de contratos inteligentes, análise de vulnerabilidades, revisão de código e testes de penetração.

FAQ

O que disse David Sacks sobre o modelo de IA chinês Kimi K3 a 19 de julho?

David Sacks afirmou no X que o Kimi K3 corrigiu 15 falhas de segurança críticas que os modelos de IA dos EUA Codex e Fable se recusaram a abordar devido a “cyber guardrails”. Defendeu que não há razão para limitar os modelos americanos em tarefas que os modelos chineses fazem sem problemas, argumentando que os EUA estão a tornar-se menos competitivos.

Porque é que a Hugging Face mudou dos modelos de IA dos EUA para o GLM 5,2 chinês?

A Hugging Face tentou usar modelos de IA de fronteira americanos para analisar um ataque cibernético alimentado por IA, mas os guardrails bloquearam pedidos com payloads reais de exploração. Como resultado, a equipa de investigação mudou para usar o modelo de IA chinês de código aberto GLM 5,2 a correr localmente.

O que é que os especialistas em cibersegurança alertaram o Presidente Trump em junho?

Especialistas em cibersegurança liderados pelo antigo CSO da Facebook Alex Stamos enviaram uma carta aberta ao Presidente Trump em junho, avisando que restringir o uso de IA por instituições de investigação de segurança e organizações defensivas poderia enfraquecer as capacidades de defesa cibernética. Referiram que os modelos de IA mais recentes estão a ser usados para monitorização de contratos inteligentes, análise de vulnerabilidades, revisão de código e testes de penetração na indústria de ativos digitais.