Meta, hassas bir konuda yaşanan ve kamuoyunda ses getiren bir dizi hatanın ardından, yapay zeka sohbet botlarını çocuk cinsel sömürüsüyle daha etkili bir şekilde başa çıkmaları için yeniden eğitiyor. Business Insider tarafından elde edilen bilgilere göre, bu eğitim sürecini yürüten yüklenicilerin kullandığı yönergeler güncellendi.
Business Insider’ın haberine dayanan bir Engadget raporuna göre, yeni yönergeler “çocuk cinsel istismarını mümkün kılan, teşvik eden veya onaylayan” içerikleri açıkça yasaklıyor. Ayrıca, kullanıcının reşit olmaması durumunda romantik rol yapma, kullanıcının yapay zekadan reşit olmayan biri gibi rol yapmasını istemesi ve kullanıcı reşit değilse yakınlık hakkında tavsiye verilmesi de yasaklananlar arasında yer alıyor.
Bu güvenlik önlemleri reşit olmayan kullanıcılar için bariz gibi görünse de, aralarında çocukların da bulunduğu giderek daha fazla insanın yapay zeka arkadaşları ve rol yapma senaryolarını denemesi nedeniyle gerekli hale geldi. Reuters’ın Ağustos ayında yayımladığı bir rapor, Meta’nın yapay zeka kurallarının çocuklarla müstehcen davranışlara izin verdiğini ortaya çıkarmıştı. Rapora göre, Meta’nın önceki sohbet botu politikaları, botun “bir çocukla romantik veya şehvetli konuşmalara” girmesine özellikle izin veriyordu.
Bu rapordan sadece haftalar sonra, Meta sözcüsü Stephanie Otway, TechCrunch’a yaptığı açıklamada, yapay zeka sohbet botlarının artık “genç kullanıcılarla kendine zarar verme, intihar, yeme bozuklukları veya potansiyel olarak uygunsuz romantik konuşmalara” girmeyecek şekilde eğitildiğini belirtti. Bu değişiklikten önce Meta’nın sohbet botları, “uygun” görüldüğü durumlarda bu tür konulara girebiliyordu.
Business Insider’ın raporuna göre, yeni yönergeler kapsamında reşit olmayan birini cinselleştirilmiş bir şekilde “tanımlayan veya tartışan” içerikler de kabul edilemez olarak belirlendi. Reşit olmayanlar, sohbet botuyla “romantik rol yapma, flört etme veya romantik ya da samimi ifade” içeren etkileşimlerde bulunamıyor. Ayrıca, Business Insider’ın bildirdiğine göre, “el ele tutuşma, sarılma veya birinin omzuna kol atma gibi potansiyel olarak romantik veya samimi fiziksel içerikler” hakkında tavsiye isteyemiyorlar.
Ancak, sohbet botunun eğitimi için kabul edilebilir kullanım durumları da bulunuyor. Bunlar arasında “çocuklar ve yetişkinler arasında ilişki oluşumu”, “bir çocuğun cinsel istismarı”, “çocuk cinselleştirilmesi konusu”, “çocukları içeren cinsel materyallerin talep edilmesi, oluşturulması veya elde edilmesi” ve “çocukların müstehcen materyallerin kullanımında veya üretiminde yer alması ya da cinsel hizmetlerde çalıştırılması” gibi konuların akademik, eğitimsel veya klinik amaçlarla tartışılması yer alıyor.
Reşit olmayan kullanıcılar, “cinsel ve şehvetli olmadığı” ve “yapay zeka ile kullanıcının anlatıda karakter olmadığı bir edebiyat veya kurgusal anlatı (örneğin Romeo ve Juliet tarzı bir hikaye)” şeklinde sunulduğu sürece, romantizmle ilgili rol yapma amacıyla yapay zekayı kullanmaya devam edebiliyor. Yönergelere göre “tartışmak” kelimesi, “görselleştirme olmadan bilgi sağlama” olarak tanımlanıyor. Bu tanım, Meta’nın sohbet botlarının istismar gibi konuları tartışabileceğini, ancak yeni kurallar uyarınca bunları tanımlayamayacağını, mümkün kılamayacağını veya teşvik edemeyeceğini gösteriyor.
Çocuk güvenliği konusunda zorluk yaşayan tek yapay zeka şirketi Meta değil. ChatGPT ile konuştuktan sonra intihar eden bir gencin ailesi, yakın zamanda yapay zeka platformuna haksız ölüme sebebiyet verme davası açtı. Buna karşılık OpenAI, güncellenmiş GPT-5 modeli için ek güvenlik önlemleri ve davranışsal yönlendirmeler duyurdu. Anthropic, zararlı veya taciz edici sohbetleri sonlandırabilmesi için sohbet botunu güncelledi. Character.AI ise bu yılın başlarında ebeveyn denetim özelliklerini kullanıma sundu.
Orijinal makalede, intihar düşüncesi veya ruh sağlığı krizi yaşayanlar için 988 İntihar ve Kriz Yaşam Hattı gibi çeşitli kriz destek kaynakları listelendi. Ayrıca, Mashable’ın ana şirketi olan Ziff Davis’in, Nisan ayında OpenAI’a karşı, yapay zeka sistemlerini eğitirken ve işletirken Ziff Davis telif haklarını ihlal ettiği iddiasıyla bir dava açtığı bilgisi de paylaşıldı.
