Salesforce EMEA Bölgesi Gelişen Pazarlar Başkan Yardımcısı Sinan Erkiner, otonom yapay zeka temsilcilerinin tehdit tespitini, müdahale sürelerini ve güvenlik ekiplerinin daha karmaşık sorunlara odaklanmasını sağladığına dikkat çekti. Ancak veri altyapısı ve yönetişimdeki eksikliklerin bu temsilcilerin veriyi koruma ve uyumluluğu sürdürme yeteneklerini sınırladığını vurguluyor.
Yapay zeka benimsenmesi hız kazanırken ve siber tehditler artarken, BT liderleri için güvenlik uygulamalarında dönüşüm ihtiyacı öne çıkıyor. World Economic Forum’un Küresel Siber Güvenlik raporuna göre, kuruluşların %66’sı yapay zekanın siber güvenlik üzerinde etkileri olmasını beklerken, %37’si yapay zeka araçlarının devreye alınmadan önce güvenlik değerlendirmesini yapacak süreçlere sahip.
Salesforce’un BT Durum Raporu, BT liderlerinin %48’inin veri altyapılarında “agentic AI”dan tam anlamıyla faydalanmaya hazır olmadığını; %55’inin ise mevcut güvenlik ve uyumluluk önlemlerine tam anlamıyla güven duymadığını ortaya koyuyor. Kötü niyetli aktörlerin eğitim verilerini kasıtlı olarak bozduğu “veri zehirleme” gibi tehditler, BT liderleri için endişe kaynağı haline geliyor.
Otonom yapay zeka temsilcileri tehdit tespitini iyileştirme, müdahale sürelerini hızlandırma ve güvenlik ekiplerinin daha karmaşık sorunlara odaklanmasını sağlama potansiyeline sahip. Ancak veri altyapısındaki ve yönetimindeki eksiklikler bu temsilcilerin veri koruma ve uyumluluğu sağlama kabiliyetini sınırlayabiliyor.
Güvenilir yapay zeka temsilcilerini devreye almak isteyen kuruluşlar, yönetişime sahip bir veri temeli kurmalı, güvenlik önlemleriyle donatılmış sistemler inşa etmeli ve yapay zeka yaşam döngüsü boyunca sürekli denetim sağlamalı. Etkili ve güvenilir yapay zekaya giden yol, veriden geçiyor.
Büyük ölçekli birçok kuruluşta veriler dağınık halde bulunuyor. Geleneksel yönetim politikaları, otonom yapay zeka temsilcilerinin ihtiyaç duyduğu erişimi sağlamada yetersiz kalıyor. Bu parçalanmış yapı, ölçeklenebilirliği engellerken, uyumluluğu zorlaştırıyor ve güvenlik risklerini artırıyor. Gartner, güçlü bir veri temeli olmadan yapay zeka projelerinin %60’ının başarısız olacağını öngörüyor.
Bu nedenle, veri yönetiminin temelden yeniden düşünülmesi gerekiyor. Tüm verilerin tek bir yerde toplanması yerine, verinin fiziksel konumundan bağımsız olarak tutarlı bir şekilde görülmesini sağlayan veri akışkanlığına dayalı bir çerçeve kurulmalı. Bu yaklaşım, veri güveninin tesisi için kritik önem taşıyor.
Veri yönetişiminin ötesinde, sağlam güvenlik önlemleri uygulamak önem taşıyor. Şirketler, yapay zeka temsilcilerini geliştirmek ve test etmek için güvenli ortamlar oluşturmalı. Korumalı ortamlar aracılığıyla ekipler, gerçekçi verilerle temsilci davranışlarını izole şekilde test edebilirler. Bu süreçte temsilcilere verilen açık talimatlar ve sınırlar sayesinde karar alma süreçleri kontrol altında tutulur. Talimatlara uyum testleri, temsilcinin istenmeyen davranışlarını önceden tespit etmeye yardımcı oluyor.
Temsilciler devreye alındığında, yerleşik güvenlik önlemleri ve sürekli izleme mekanizmaları kritik rol oynuyor. Bu kontroller, temsilcilerin belirlenen sınırlar içinde kalmasını sağlıyor, zararlı eylemleri önlüyor ve şüpheli davranışları tespit ediyor. Ayrıca, yönetişim katmanındaki gözlemlenebilirlik, sınıflandırmalar veya politikalar beklenmeyen sonuçlara yol açarsa sorunların çözümünü kolaylaştırıyor.
Dijital iş gücünden en etkili şekilde faydalanmanın yolu, bunu insanlar ve yapay zeka temsilcileri arasında bir iş birliği olarak kurgulamaktan geçiyor. Karmaşık senaryolar ortaya çıktığında temsilcilerin görevleri insanlara devredebileceği yapılar oluşturmak önem taşıyor. Bu yaklaşım, şirketlerin yapay zekayı güvenle devreye almasında önemli rol oynuyor. Ancak yapay zeka temsilcilerinin güvenilirliği, çalıştıkları verilerin güvenilirliğiyle sınırlı. Bu güveni inşa etmek için kuruluşların birleşik veri erişimini sağlaması, geliştirme araçları sunması ve yerleşik güvenlik ile yönetişimi tesis etmesi gerekiyor. “Agentic AI” çağında başarı, güvenilir, sorumlu ve iş değeri yaratan yapay zeka temsilcileri geliştirme yeteneğiyle ölçülüyor.
