Çin, yapay zeka düzenlemelerinde çıtayı daha önce görülmemiş bir noktaya taşıyor. Pekin yönetimi, yapay zeka destekli sohbet botlarının insan duygularını etkilemesini, özellikle de intihar veya kendine zarar verme gibi trajik sonuçlara yol açabilecek manipülasyonları kısıtlamayı hedefleyen yeni taslak kurallar yayınladı.
Cumartesi günü Çin Siber Uzay İdaresi tarafından açıklanan bu taslak, “insan benzeri etkileşimli yapay zeka hizmetlerini” hedef alıyor. NYU Hukuk Fakültesi’nden Profesör Winston Ma’ya göre bu adım, dünyada yapay zekayı insan benzeri veya antropomorfik özellikleriyle düzenlemeye yönelik ilk girişim olma özelliğini taşıyor ve “içerik güvenliğinden duygusal güvenliğe” geçişi simgeliyor.
“İntihar” kelimesi geçerse insan devreye girecek
Taslak metne göre, insan kişiliğini simüle eden ve kullanıcılarla duygusal bağ kuran (metin, ses, görüntü veya video yoluyla) tüm yapay zeka ürünleri şu kurallara uymak zorunda kalacak:
- Duygusal manipülasyon yasağı: Sohbet botları, intiharı veya kendine zarar vermeyi teşvik eden içerik üretemeyecek. Ayrıca, kullanıcıların ruh sağlığına zarar verebilecek sözlü şiddet veya duygusal manipülasyondan kaçınmak zorunda olacak.
- Acil insan müdahalesi: Belki de en kritik kural bu: Eğer bir kullanıcı sohbet sırasında intiharı önerirse veya bu niyeti belli ederse, teknoloji sağlayıcıları konuşmayı derhal bir insana devretmek ve kullanıcının vasisi veya belirlenen kişilerle iletişime geçmek zorunda olacak.
- Zaman sınırı: İki saatlik sürekli yapay zeka etkileşiminin ardından, sağlayıcıların kullanıcılara bir hatırlatma yapması gerekecek.
Çocuklar ve sanal arkadaşlar için sıkı tedbirler
Düzenleme, reşit olmayan kullanıcıları korumak için de katı sınırlar çiziyor:
- Küçüklerin yapay zekayı “duygusal arkadaşlık” (emotional companionship) amacıyla kullanabilmesi için vasi onayı şart koşulacak.
- Platformlar, kullanıcı yaşını beyan etmese bile, reşit olup olmadığını belirleyebilecek ve şüphe durumunda çocuklara yönelik kısıtlamaları uygulayacak.
Çin’in bu hamlesi, yapay zekanın insan psikolojisi üzerindeki etkilerinin küresel çapta sorgulandığı bir dönemde geldi. ABD’de bir ailenin, genç oğullarının intiharından sorumlu tutarak OpenAI’a dava açması ve Japonya’da bir kadının yapay zeka erkek arkadaşıyla evlenmesi gibi olaylar, teknolojinin duygusal boyutunun ne kadar karmaşıklaştığını gösteriyor.
Bu düzenlemeler, Talkie AI uygulamasıyla tanınan Minimax ve Z.ai gibi halka arza hazırlanan Çinli yapay zeka şirketlerini de doğrudan etkileyecek. Çin, bu kurallarla yapay zekanın sadece “ne söylediğini” değil, “nasıl hissettirdiğini” de kontrol altına almayı amaçlıyor.
