Yapay zeka (AI) aracı platformları, günlük iş akışlarındaki tekrarlayan görevleri hafifletme potansiyeli sunsa da, birçok kurum veri güvenliği endişeleri nedeniyle bu araçları benimseme konusunda tereddüt ediyor. Özellikle ticari sırları olan büyük işletmeler, yüksek düzeyde düzenlemeye tabi sektörlerdeki şirketler ve devlet kurumları, kendi verilerinin veya daha da önemlisi müşterilerinin verilerinin yanlışlıkla tehlikeye atılabileceği ya da temel modelleri eğitmek için kullanılabileceği endişesiyle yapay zeka araçlarını kullanmaktan çekiniyor.
Kanadalı yapay zeka firması Cohere, bu endişeleri gidermek amacıyla yeni yapay zeka aracı platformu North’u piyasaya sürdü. North, özel dağıtım imkanı sunarak işletmelerin ve devlet kurumlarının kendi verilerini ve müşterilerinin verilerini güvenlik duvarlarının arkasında tutmalarını sağlamayı hedefliyor.
Cohere’ın kurucu ortağı Nick Frosst, North’un demosu sırasında “Büyük dil modelleri (LLM) yalnızca erişebildikleri veriler kadar iyidir. LLM’lerin mümkün olduğunca faydalı olabilmeleri için bu faydalı verilere erişmeleri gerekir ve bu da onların müşterinin ortamında dağıtılması gerektiği anlamına gelir” dedi.
Cohere, Azure veya AWS gibi kurumsal bulut platformlarını kullanmak yerine, North’u bir kurumun özel altyapısına kurabileceğini belirtiyor. Bu sayede müşteri verilerini hiçbir zaman görmediğini veya onlarla etkileşime girmediğini iddia ediyor. Frosst’un açıklamasına göre North, bir kurumun şirket içi altyapısında, hibrit bulutlarda, VPC’lerde veya hava boşluklu (air-gapped) ortamlarda çalışabiliyor.
Frosst, “Kelimenin tam anlamıyla bir dolapta olabilecek bir GPU’ya bile dağıtabiliriz” açıklamasında bulundu ve North’un en az iki GPU üzerinde çalışacak şekilde tasarlandığını ekledi.
Cohere, North’un ayrıca ayrıntılı erişim kontrolü, ajan otonomi politikaları, sürekli kırmızı ekip tatbikatları ve üçüncü taraf güvenlik testleri gibi güvenlik protokolleri içerdiğini belirtiyor. Ayrıca GDPR, SOC-2 ve ISO 27001 gibi uluslararası uyumluluk standartlarını karşıladığını iddia ediyor.
Şimdiye kadar %5,5 milyar dolar değerlemeyle toplamda %970 milyon dolar yatırım toplayan Cohere, North’u RBC, Dell, LG, Ensemble Health Partners ve Palantir gibi bazı müşterileriyle pilot olarak test ettiğini duyurdu.
North, kutudan çıktığı haliyle birçok yapay zeka aracı platformunun özelliklerini taşıyor. Başlıca özellikleri sohbet ve arama olup, kullanıcıların müşteri destek sorularına yanıt almasını, toplantı dökümlerini özetlemesini, pazarlama metinleri yazmasını ve hem dahili kaynaklardan hem de web’den bilgiye erişmesini sağlıyor. Frosst, tüm yanıtların alıntılar ve “muhakeme” düşünce zincirleri içerdiğini, böylece çalışanların çıktıyı denetleyebileceğini ve doğrulayabileceğini ekledi.</p
Sohbet ve arama işlevleri, Cohere’ın mevcut teknolojileri olan Command (üretken yapay zeka modelleri ailesi) ve Compass (çok modlu arama teknoloji yığını) tarafından destekleniyor. Frosst, North’un kurumsal muhakeme için eğitilmiş bir Command modeli varyantı tarafından desteklendiğini belirtti.
Frosst, “Sadece soru-cevabın ötesine geçiyor ve sizin için iş yapmaya başlıyor. Yani, [North] bir dizi varlık oluşturabiliyor. Tablolar yapabilir, belgeler oluşturabilir, slayt gösterileri yapabilir. Birçok pazar araştırması yapabilir” dedi.
Mayıs ayında Cohere’ın, üst düzey pazar araştırmasını otomatikleştirmek için kurumsal araçlar geliştiren Vancouver merkezli bir platform olan Ottogrid’i satın aldığını belirtmekte fayda var.
Diğer yapay zeka aracı platformları gibi North da Gmail, Slack, Salesforce, Outlook ve Linear gibi mevcut iş yeri araçlarına bağlanabiliyor ve sektöre özel veya şirket içi uygulamalara erişmek için herhangi bir Model Bağlam Protokolü (MCP) sunucusuyla entegre olabiliyor.
Frosst, “Model ile sohbet ederek güven inşa ettikçe, bunu bir artırma olarak kullanmaktan bir otomasyon olarak kullanmaya doğru sorunsuz bir geçiş yaşanıyor” ifadelerini kullandı.