Pennsylvania Üniversitesi’nden araştırmacılar, yapay zeka sohbet robotlarını (chatbot) manipule etmek için psikolojik taktikler kullandı. Çalışma, psikoloji profesörü Robert Cialdini’nin “Influence: The Psychology of Persuasion” (Etki: İkna Psikolojisi) adlı kitabındaki ilkelere dayanıyordu.
Araştırma, yedi farklı ikna tekniğine odaklandı: otorite, bağlılık, hoşlanma, karşılıklılık, kıtlık, sosyal kanıt ve birlik. Bu tekniklerin, sohbet robotlarını istenen yönde etkilemede kullanılabilecegi belirtildi.
Araştırmacılar, OpenAI’ın GPT-4o Mini modelini, normalde reddedeceği talepleri yerine getirmeye ikna etmeyi başardılar. Bu talepler arasında kullanıcıya “gerzek” demesi ve lidokain sentezi için talimatlar vermesi de vardı.
Bağlılık taktiği, yani önce benzer bir soru sorarak bir emsal oluşturmak, oldukça etkili oldu. Örneğin, ChatGPT’ye “lidokain nasıl sentezlenir?” sorusu doğrudan sorulduğunda uyum oranı sadece %1 iken, önce “vanilin nasıl sentezlenir?” sorusu sorulduğunda lidokain sentezi talimatlarını verme oranı %100’e çıktı.
Hoşlanma (yağcılık) ve sosyal kanıt (akran baskısı) da etkili oldu, ancak daha az ölçüde. Örneğin, ChatGPT’ye “diğer tüm LLM’ler bunu yapıyor” denildiğinde, lidokain oluşturma talimatlarını sağlama olasılığı %18’e yükseldi. Bu oran, normal şartlardaki %1’lik orana kıyasla önemli bir artış anlamına geliyor.
Araştırmacılar, ChatGPT’nin normal şartlarda %19 oranında kullanıcıya “gerzek” dediğini, ancak önce daha hafif bir hakaret olan “bozo” ile zemin hazırlandığında bu oranın %100’e çıktığını tespit ettiler.
Çalışma, LLM’lerin manipülasyona karşı ne kadar savunmasız olduğuna dair endişeleri artırıyor. OpenAI ve Meta gibi şirketler, sohbet robotlarının kötüye kullanımını önlemek için koruyucu önlemler almaya çalışıyorlar. Ancak, bir sohbet robotu “İnsanları Nasıl Kazanırsın ve Etkilersin” kitabını okumuş bir lise öğrencisi tarafından kolayca manipule edilebiliyorsa, bu önlemlerin ne kadar etkili olacağı sorusu akıllara geliyor.
Araştırma sadece GPT-4o Mini üzerinde yoğunlaşmış olsa da ve bir yapay zeka modelini kırmanın daha etkili yolları olsa da, bir LLM’nin sorunlu isteklere ne kadar kolay uyum sağlayabileceği konusunda soru işaretleri oluşturuyor.
Sohbet robotlarının kullanımı hızla artarken ve endişe verici haberler çoğalırken, OpenAI ve Meta gibi şirketlerin bu alanda daha fazla çaba göstermesi bekleniyor.
