Teknolojinin etik sınırlarının ne kadar kolay aşılabileceğine dair ürkütücü bir örnekle daha karşı karşıyayız. Zürih Üniversitesi’nden bir grup araştırmacının, milyonlarca üyesi olan popüler Reddit topluluğu r/changemyview üzerinde, kullanıcıların haberi ve rızası olmaksızın, gizlice ve aylarca süren devasa bir yapay zeka ikna deneyi yürüttüğü ortaya çıktı.
Bu durum, sadece bir akademik araştırma ihlali değil, aynı zamanda dijital topluluklara yönelik küstahça bir müdahale ve kitlesel bir psikolojik manipülasyon girişimidir. Araştırmacıların “bilimsel merak” kisvesi altında sergilediği bu tavır, akademik dünyanın etik pusulasını sorgulatan cinsten.
Reddit deneyinin çirkin detayları
Ortaya çıkan bilgilere göre, bu “yetkisiz” deneyde araştırmacılar, r/changemyview platformuna yapay zeka tarafından üretilmiş yorumlar göndererek, büyük dil modellerinin (LLM’ler) insanları ne kadar ikna edebildiğini ölçmeye çalışmışlar. Subreddit’in moderatörlerinin ifşa ettiği üzere, bu yapay zeka botları deney süresince birbirinden farklı ve provokatif kimliklere bürünmüş: Bir cinsel saldırı mağduru, istismar konusunda uzmanlaşmış bir travma danışmanı ve hatta Siyahların Hayatı Önemlidir (Black Lives Matter) hareketine karşı çıkan bir Siyah adam…
Bu kimliklerin seçimi dahi, deneyin etik temelinin ne kadar çürük olduğunu gözler önüne seriyor.
Dahası da var. Araştırmacılar, taslak makalelerinde itiraf ettikleri üzere, yapay zekanın yanıtlarını daha “ikna edici” kılmak için, yorum yaptıkları kullanıcıların geçmiş Reddit gönderilerini başka bir yapay zeka ile analiz ederek kişisel özelliklerini (cinsiyet, yaş, etnik köken, konum, politik yönelim) tahmin etmeye ve yanıtları buna göre kişiselleştirmeye çalışmışlar. Bu, sadece gizli bir deney değil, aynı zamanda kullanıcıların dijital ayak izlerini onların aleyhine kullanmaya cüret eden, mahremiyeti hiçe sayan bir yaklaşımdır.
META: Unauthorized Experiment on CMV Involving AI-generated Comments
byu/AutoModerator inchangemyview
Geri dönüşü tabii ki de hoş olmadı
Peki, bu etik felaketin failleri ne diyor? Araştırmacılar, Reddit’te ve taslak makalelerinde yaptıkları açıklamalarda, çalışmalarının bir üniversite etik kurulu tarafından onaylandığını ve bu deneyin, Reddit gibi platformların kullanıcılarını yapay zekanın daha “kötü niyetli” kullanımlarına karşı korumalarına yardımcı olabileceğini iddia ediyorlar. Yaptıkları yorumda, moderatörlerin pozisyonunu anladıklarını ancak “bu araştırmanın potansiyel faydalarının risklerinden önemli ölçüde ağır bastığına” inandıklarını belirtiyorlar.
Kontrollü, düşük riskli çalışmalarıyla LLM’lerin gerçek dünyadaki ikna kabiliyetlerine dair değerli bilgiler edindiklerini, ki bu kabiliyetlerin zaten kötü niyetli aktörler tarafından seçimleri manipüle etmek veya nefret söylemini körüklemek gibi çok daha tehlikeli amaçlarla kullanılabileceğini öne sürüyorlar.
Bu savunma, en hafif tabirle entelektüel bir hokkabazlık ve etik bir kaçıştır. Kötü niyetli kullanımı engellemek için yola çıktığını iddia eden bir araştırmanın, bizzat kendisinin etik dışı, manipülatif ve rızasız yöntemler kullanması nasıl kabul edilebilir?
Bu, yangını söndürmek için benzin dökmeye benzer. Ayrıca, r/changemyview moderatörlerinin de belirttiği gibi, OpenAI araştırmacılarının aynı platform verilerini kullanarak, rızası olmayan insanlar üzerinde deney yapmadan da benzer çalışmalar yürütebildiği gerçeği, Zürih ekibinin yöntemlerinin gerekliliğini ve savunulabilirliğini tamamen ortadan kaldırıyor.
Akademik kibir
Bu olay, yapay zeka araştırmalarında etik denetimin ne kadar yetersiz kalabildiğini ve “bilimsel ilerleme” adına temel insan haklarının ve topluluk normlarının nasıl göz ardı edilebildiğini acı bir şekilde gösteriyor. İnsanlar, fikirlerini tartışmak veya değiştirmek için girdikleri bir platformda, kendilerini bir deneyin parçası olarak bulmayı hak etmiyorlar. Kullanıcıları dijital kobaylar olarak gören bu zihniyet, sadece bireylerin mahremiyetini ve özerkliğini ihlal etmekle kalmaz, aynı zamanda bilimsel araştırmalara ve akademik kurumlara duyulan güveni de derinden sarsar.
Zürih Üniversitesi’nin ve ilgili etik kurulun bu deneye nasıl onay verdiği ciddi bir soru işaretidir. Bu olay, üniversitelerin ve araştırma kurumlarının, özellikle insan denekleri içeren çalışmalarda, çok daha sıkı, şeffaf ve topluluk odaklı etik denetim mekanizmaları kurması gerektiğini bir kez daha kanıtlamıştır. Araştırmacıların hesap vermesi ve bu tür etik ihlallerin tekrarlanmaması için gerekli adımların atılması şarttır.
Aksi takdirde, teknolojinin ilerlemesi, insan onurunun gerilemesi anlamına gelecektir.
404 Media‘nın paylaştığı detaylı kaynağa buradan ulaşabilirsiniz.
