Octa, tecnologia de rastreamento em tempo real Shadow AI aberta... reforço total do controlo de segurança

No contexto em que o uso desordenado de inteligência artificial evolui para uma ameaça à segurança, a empresa de gestão de acesso à identidade Okta responde fortalecendo a deteção de agentes de IA não autorizados (conhecidos como “IA sombra”). No dia 12 (horário local), a Okta anunciou que adicionou à sua plataforma de gestão de postura de segurança de identidade uma funcionalidade capaz de identificar a IA sombra, rastrear e gerir seus privilégios.

A funcionalidade introduzida, denominada “detecção de agentes”, permite compreender sistematicamente os privilégios e o alcance de acesso a dados dos agentes de IA dentro da organização, ajudando a operar a IA de forma segura dentro do controlo de segurança. Esta funcionalidade é especialmente capaz de detectar agentes de IA gerados em plataformas não autorizadas e de rastrear em tempo real a transmissão de dados para fora da empresa através do fluxo de autorização OAuth.

Harish Peri, responsável pelo departamento de segurança de IA da Okta, destacou: “Os agentes de IA operam na camada de aplicação, não na camada de rede ou de dispositivos, exercendo privilégios contínuos e extensos através de identidades não humanas.” “Esta nova funcionalidade visa identificar o uso não autorizado de IA e desenvolver estratégias de resposta.”

As preocupações com a IA sombra também foram confirmadas num relatório recente da Gartner. O relatório indica que 69% das empresas estão a monitorizar vestígios do uso de ferramentas de IA generativa não autorizadas pelos funcionários, prevendo que até 2030 mais de 40% das empresas enfrentarão riscos de segurança ou conformidade devido à IA sombra. A Okta acredita que essa “falta de visibilidade de segurança” decorre da rápida disseminação de ferramentas de geração de agentes de IA e do aumento do uso de construtores de IA não devidamente validados.

Com esta atualização, a Okta oferece uma visão de segurança unificada através de infraestruturas de nuvem e ecossistemas SaaS como Oracle, Google, Microsoft e Salesforce, integrando a gestão de identidades não humanas. Isso permite aos administradores identificar os proprietários, os privilégios e os potenciais riscos de segurança de diversos agentes de IA, independentemente de terem sido aprovados ou não.

Além disso, a Okta planeia expandir a capacidade de deteção até ao primeiro trimestre do ano fiscal de 2027, incluindo plataformas principais de IA como Microsoft Copilot Studio e Salesforce Agentforce. Esta iniciativa visa reforçar o rastreamento dos privilégios e riscos associados a cada agente de IA.

Jenna Cline, vice-presidente sénior de negócios e tecnologia, afirmou: “A estratégia da Okta na aplicação de IA prioriza a governação em vez da expansão de funcionalidades”, reforçando uma abordagem contínua baseada em controlo.

A IA sombra pode evoluir facilmente para uma tecnologia fora de controlo durante a introdução ágil de IA nas empresas. Assim, a funcionalidade aprimorada de ISPM lançada pela Okta é vista como uma iniciativa que reflete a evolução da estratégia de segurança empresarial, equilibrando a inovação em IA com a manutenção da segurança e do controlo.