Kasım 2022’de OpenAI tarafından ChatGPT’nin piyasaya sürülmesinden bu yana üretken yapay zeka araçlarına olan ilgi büyük oranda arttı. Bu araçların soruya veya isteğe göre yanıt oluşturabilme yeteneği, e-posta yazmaktan sohbet botlarını desteklemeye kadar birçok amaçla kullanılmasını sağladı.
Microsoft’un 31.000’den fazla çalışanla gerçekleştirdiği Work Trend Index raporuna göre, BT çalışanlarının %75’i işlerinde bir tür üretken yapay zeka aracı kullanıyor ve katılımcıların neredeyse yarısı bu araçları son altı ay içinde kullanmaya başlamış. Ancak üretken yapay zeka kullananların yaklaşık %80’i kişisel olarak kullandıkları yapay zeka araçlarını işte de kullanıyor ve bu oran küçük işletmelerde biraz daha yüksek. Genç kullanıcılar yeni teknolojilere daha eğilimli olsa da bu benimsenme her yaş grubundan kullanıcıyı kapsıyor.
Daha fazla bilginin üretilmesi ve işlenmesi gerektiğinde dijital borç dediğimiz bir sorunla karşılaşıyoruz. Bunun bir örneği, e-posta yükünün artması. Microsoft’un raporuna göre e-postaların yaklaşık %85’i 15 saniyeden kısa sürede okunuyor. Bu, insanların iş yaşamlarındaki sıradan görevleri kolaylaştıracak araçlara yönelmesinin sebebini açıklıyor.
Microsoft’un modern çalışma grubu kıdemli direktörü Nick Hedderman bu durumun altını şöyle çiziyor;
On yıllardır biriken bir dijital borç var ama pandemi sürecinde bu iyice hızlandı. Görüştüğümüz kişilerin %68’i iş hacmi ve hızıyla başa çıkmaya çalıştıklarını söyledi. Yaklaşık yarısı da tükenmiş hissettiklerini belirtti.
Çoğu profesyonel tarafından kullanılan üretken yapay zeka araçları, genellikle akıllı telefonlarda bulunan veya internette yer alan (örneğin ChatGPT) araçlar. Ne yazık ki bu araçlar açık kaynak olduğu için kurumsal denetim dışında kalıyor. Ücretsiz bir çevrim içi araç kullanıldığında kullanıcıların verilerinin başka kişiler tarafından kullanılabilir hale gelmesi de bir risk taşıyor.
Microsoft güvenlik sorumlusu Sarah Armstrong-Smith şu uyarılarda bulunuyor;
Ücretsizse, sosyal medya sitelerine benzer şekilde düşünmelisiniz. Hangi verilerle eğitildiği önemli. Siz artık bir ürün mü oldunuz? Veriler güvenli bir şekilde tutuluyor mu? Başka amaçlarla kullanılıyor mu?
Her zaman izinli ve izinsiz uygulamalar vardı. Veri paylaşımı konusunda her zaman bulut platformlarında zorluklar yaşandı. Eğer kurumsal bir sistemden bir şeyi alıp herhangi bir bulut uygulamasına yapıştırmak bu kadar kolaysa, bu bir veri yönetişimi ve veri sızıntısı sorunudur. Veri kontrolü, veri yönetişimi gibi temel sorunlar karşımızda duruyor.
Harici üretiken yapay zeka araçlarının kullanımının bir yapay zeka sorunu olmaktan ziyade veri yönetişimi sorunu olarak görülmesi gerekiyor. Çünkü bu durum BT departmanı tarafından denetlenmeyen bir gölge BT sistemine dayanıyor.
Veri yönetişimi
Harici üretken yapay zeka araçlarının veri yönetişimi sorunu iki yönü bulunuyor;
Bunlardan birincisi veri sızıntısı riski yaratması olarak biliniyor. Kullanıcılar potansiyel olarak gizli bilgileri kopyalayıp üzerinde kontrol sahibi olmadıkları bir çevrim içi araca yapıştırabilir. Bu veriler başkaları tarafından erişilebilir hale gelebilir ve yapay zeka araçlarının eğitiminde kullanılabilir.
İkinci olarak, doğrulanmamış ve teyit edilmemiş bilgilerin bir kuruluşun bilgi tabanına eklenmesi durumunda kuruluş içi bir sızıntı meydana gelebilir. Kullanıcılar çoğu zaman harici bir üretken yapay zeka aracının sağladığı bilgiyi doğru kabul etme eğilimde oluyor ve bunu doğrulama ihtiyacı duymadan kullanabiliyor.
Bu durum, şirket içi yapay zeka modellerini eğitmek için kullanılan veri setlerinin güvenilirliğini etkileyebilir ve yapay zekanın yanlış veya yanıltıcı bilgiler vermesine neden olabilir.
Kurumsal üretken yapay zeka aracı kullanmanın ana avantajı, veri yönetiminin geliştirme süreci boyunca sürdürülmesidir. Araç, ağ sınırları içinde tutulduğu için kurumsal veriler korunabilir. Bu durum doğal olarak harici araçların kullanılmasıyla oluşabilecek veri sızıntılarını azaltır.
Kullanıcı farkındalığı
Çalışanların kurum içi üretken yapay zeka araçlarını nasıl kullanacaklarını bilmeleri önemlidir. Bir farkındalık programı, çalışanların bu aracı nasıl ve ne amaçla kullanabileceklerini öğrenmelerine yardımcı olacaktır.
Yeni bir teknoloji olmasına rağmen üretken yapay zeka, veri koruma konusundaki kaygıları artırıyor. Dış araçların kullanımının risklerini anlamak ve kendi ağlarında uygun üretken yapay zeka araçlarını kullanmak kuruluşlar için kritik önem taşıyor.
