Почему по мере расширения применения ИИ потребность в безопасности становится заметнее?

  • Kaiyuan Securities считает, что по мере внедрения больших моделей и агентов в государственное управление, финансы, промышленность, здравоохранение и управление предприятиями риски безопасности распространяются и на ключевые бизнес-процессы.
  • Помимо существующих киберугроз, новые риски, такие как внедрение вредоносных инструкций в промпты, отравление моделей и скоординированный обман с участием нескольких агентов, требуют от компаний защиты самих систем ИИ. Anthropic и OpenAI уже представили модели защиты безопасности ИИ.
  • Национальный центр кибербезопасности Великобритании прогнозирует, что к 2028 году вредоносное ПО на базе ИИ с высокой вероятностью будет использоваться в атаках с применением программ-вымогателей против критической инфраструктуры страны; в ближайшие два года ИИ также может повысить масштаб и эффективность атак с применением программ-вымогателей, социальной инженерии и эксплуатации уязвимостей.

Какие расходы поддерживают рост рынка?

  • Gartner прогнозирует, что мировой рынок безопасности ИИ достигнет 4,783 млрд долларов в 2027 году, увеличившись на 69% по сравнению с 2026 годом, а затем вырастет примерно до 7,7 млрд долларов в 2028 году.
  • Рост спроса связан с защитой компаниями систем ИИ, устранением новых уязвимостей и усилением защиты от сложных киберугроз. По прогнозу Gartner, безопасность приложений ИИ останется крупнейшей категорией расходов в 2027 году и составит почти 851 млн долларов; расходы на контроль использования ИИ составят 749 млн долларов.

Как компании отрасли применяют ИИ в операциях по обеспечению безопасности?

  • Sinosoft Technology создала на базе ИИ систему «Xiaosai Security Intelligence Brain», которая координирует работу нескольких агентов при выполнении сложных задач эксплуатации и обслуживания систем безопасности. Цель — сделать операции по обеспечению безопасности более интеллектуальными и упорядоченными.
  • Sangfor продолжает инвестировать в безопасность ИИ. Её SangforAI заняла первое место в мире по результатам оценки в тесте CyberGym в августе 2026 года.
  • AI Fengyunwei компании NSFOCUS уже внедрена в проектах в различных отраслях, включая телекоммуникационных операторов, финансы, энергетику и государственное управление; её Центр операций безопасности Hawkeye использует этот продукт для автономного мониторинга на всех этапах под управлением ИИ и контролем экспертов.