Mengapa semakin luasnya penggunaan AI membuat kebutuhan keamanan semakin menonjol?

  • Kaiyuan Securities menilai bahwa seiring masuknya model besar dan agen ke bidang pemerintahan, keuangan, industri, layanan kesehatan, dan manajemen perusahaan, risiko keamanan juga meluas ke proses inti bisnis.
  • Selain ancaman siber yang sudah ada, risiko baru seperti injeksi prompt, peracunan model, dan penipuan terkoordinasi oleh beberapa agen membuat perusahaan perlu melindungi sistem AI itu sendiri. Anthropic dan OpenAI sama-sama telah meluncurkan model pertahanan keamanan AI.
  • Pusat Keamanan Siber Nasional Inggris memperkirakan bahwa pada 2028, malware yang digerakkan AI sangat mungkin digunakan dalam serangan ransomware terhadap infrastruktur penting Inggris; dalam dua tahun mendatang, AI juga dapat meningkatkan skala dan efisiensi serangan ransomware, rekayasa sosial, dan eksploitasi kerentanan.

Belanja apa saja yang menopang pertumbuhan pasar?

  • Gartner memperkirakan pasar keamanan AI global mencapai 4,783 miliar dolar pada 2027, naik 69% dibandingkan 2026, lalu meningkat lebih lanjut menjadi sekitar 7,7 miliar dolar pada 2028.
  • Pertumbuhan permintaan berasal dari upaya perusahaan melindungi sistem AI, menangani kerentanan baru, dan memperkuat pertahanan terhadap ancaman siber yang kompleks. Menurut perkiraan Gartner, keamanan aplikasi AI tetap menjadi kategori belanja terbesar pada 2027, mendekati 851 juta dolar; belanja untuk pengendalian penggunaan AI sebesar 749 juta dolar.

Bagaimana perusahaan terkait menggunakan AI dalam operasi keamanan?

  • Sinosoft Technology membangun “Xiaosai Security Intelligence Brain” berbasis teknologi AI untuk mengoordinasikan beberapa agen dalam menjalankan tugas operasi dan pemeliharaan keamanan yang kompleks, dengan tujuan menjadikan operasi keamanan lebih cerdas dan berbasis proses.
  • Sangfor terus berinvestasi dalam keamanan AI. SangforAI miliknya meraih hasil evaluasi peringkat pertama secara global dalam pengujian tolok ukur CyberGym pada Agustus 2026.
  • AI Fengyunwei milik NSFOCUS telah diterapkan dalam proyek di berbagai sektor, termasuk operator telekomunikasi, keuangan, energi, dan pemerintahan; Pusat Operasi Keamanan Hawkeye miliknya menggunakan produk tersebut untuk menjalankan pemantauan otonom di seluruh proses, dipimpin AI dan diawasi oleh pakar.