Por que a necessidade de segurança se torna mais evidente à medida que o uso da IA se amplia?

  • A Kaiyuan Securities considera que, à medida que grandes modelos e agentes passam a ser usados na administração pública, nas finanças, na indústria, na saúde e na gestão empresarial, os riscos de segurança também se estendem aos processos centrais dos negócios.
  • Além das ameaças cibernéticas existentes, novos riscos, como injeção de prompts, envenenamento de modelos e engano coordenado entre múltiplos agentes, exigem que as empresas protejam os próprios sistemas de IA. Anthropic e OpenAI já lançaram modelos de defesa de segurança de IA.
  • O Centro Nacional de Segurança Cibernética do Reino Unido prevê que, até 2028, seja altamente provável o uso de malware impulsionado por IA em ataques de ransomware contra a infraestrutura crítica britânica; nos próximos dois anos, a IA também poderá aumentar a escala e a eficiência de ataques de ransomware, engenharia social e exploração de vulnerabilidades.

Quais gastos sustentam o crescimento do mercado?

  • O Gartner prevê que o mercado global de segurança de IA alcance 4,783 bilhões de dólares em 2027, alta de 69% em relação a 2026, e suba ainda mais para cerca de 7,7 bilhões de dólares em 2028.
  • O crescimento da demanda vem dos esforços das empresas para proteger sistemas de IA, lidar com novas vulnerabilidades e reforçar as defesas contra ameaças cibernéticas complexas. Segundo a previsão do Gartner, a segurança de aplicações de IA continuará sendo a maior categoria de gastos em 2027, com quase 851 milhões de dólares; os gastos com controles de uso de IA serão de 749 milhões de dólares.

Como as empresas do setor usam IA nas operações de segurança?

  • A Sinosoft Technology criou o “Xiaosai Security Intelligence Brain” com tecnologia de IA para coordenar vários agentes na execução de tarefas complexas de operação e manutenção de segurança, com o objetivo de tornar as operações de segurança mais inteligentes e estruturadas em processos.
  • A Sangfor continua investindo em segurança de IA. Seu SangforAI obteve a primeira colocação mundial na avaliação do benchmark CyberGym em agosto de 2026.
  • O AI Fengyunwei da NSFOCUS já foi implantado em projetos de diversos setores, incluindo operadoras de telecomunicações, finanças, energia e governo; seu Centro de Operações de Segurança Hawkeye usa o produto para realizar monitoramento autônomo ao longo de todo o processo, conduzido por IA e supervisionado por especialistas.