Yapay zekâ kullanımı yaygınlaştıkça güvenlik ihtiyacı neden daha belirgin hâle geliyor?

  • Kaiyuan Securities, büyük modeller ve ajanlar kamu yönetimi, finans, sanayi, sağlık ve şirket yönetiminde kullanılmaya başladıkça güvenlik risklerinin de temel iş süreçlerine yayıldığını düşünüyor.
  • Mevcut siber tehditlere ek olarak istem enjeksiyonu, model zehirleme ve birden fazla ajanın eşgüdümlü aldatması gibi yeni riskler, şirketlerin yapay zekâ sistemlerinin kendisini korumasını gerektiriyor. Anthropic ve OpenAI, yapay zekâ güvenliği savunma modellerini kullanıma sundu.
  • Birleşik Krallık Ulusal Siber Güvenlik Merkezi, 2028 yılına kadar yapay zekâ destekli kötü amaçlı yazılımların ülkenin kritik altyapısına yönelik fidye yazılımı saldırılarında kullanılmasının çok muhtemel olduğunu öngörüyor; yapay zekâ, önümüzdeki iki yıl içinde fidye yazılımı, sosyal mühendislik ve güvenlik açığından yararlanma saldırılarının ölçeğini ve verimliliğini de artırabilir.

Pazarın büyümesini hangi harcamalar destekliyor?

  • Gartner, küresel yapay zekâ güvenliği pazarının 2027 yılında 4,783 milyar dolara ulaşarak 2026 yılına göre %69 büyüyeceğini ve 2028 yılında yaklaşık 7,7 milyar dolara yükseleceğini öngörüyor.
  • Artan talep, şirketlerin yapay zekâ sistemlerini korumasından, yeni güvenlik açıklarıyla mücadele etmesinden ve karmaşık siber tehditlere karşı savunmalarını güçlendirmesinden kaynaklanıyor. Gartner'ın tahminine göre yapay zekâ uygulama güvenliği, 2027 yılında yaklaşık 851 milyon dolar ile en büyük harcama kategorisi olmaya devam edecek; yapay zekâ kullanım kontrollerine yönelik harcama ise 749 milyon dolar olacak.

İlgili şirketler yapay zekâyı güvenlik operasyonlarında nasıl kullanıyor?

  • Sinosoft Technology, karmaşık güvenlik işletimi ve bakım görevlerini yerine getiren birden fazla ajanı koordine etmek için yapay zekâ teknolojisine dayalı “Xiaosai Security Intelligence Brain” sistemini geliştirdi. Şirket, güvenlik operasyonlarını daha akıllı ve süreç odaklı hâle getirmeyi amaçlıyor.
  • Sangfor, yapay zekâ güvenliğine yatırım yapmayı sürdürüyor. Şirketin SangforAI sistemi, Ağustos 2026 dönemindeki CyberGym karşılaştırma testinde dünya birincisi oldu.
  • NSFOCUS'un AI Fengyunwei ürünü, telekomünikasyon operatörleri, finans, enerji ve kamu dâhil çeşitli sektörlerdeki projelerde kullanıma alındı; şirketin Hawkeye Güvenlik Operasyon Merkezi, bu ürün sayesinde tüm süreç boyunca yapay zekâ öncülüğünde ve uzman gözetiminde otonom izleme yapıyor.