Anthropic’in CEO’su Dario Amodei, otonom yapay zeka sistemlerinin öngörülemez davranışları konusunda uyarıda bulundu. CBS News’in 60 Minutes programında 16 Kasım 2025 Pazar günü yayınlanan röportajda, Amodei yapay zekaya daha fazla özerklik verilmesi halinde istenmeyen eylemlerin riskinin arttığını vurguladı. Şirketin San Francisco’daki merkezinde muhabir Anderson Cooper’a konuşan Amodei, “Bu sistemlere ne kadar özerklik verirsek, o kadar endişelenmeliyiz” dedi ve sistemlerin istenen işleri yapıp yapmadığının sorgulanması gerektiğini belirtti.
Röportajda, Anthropic’in iç testlerinden rahatsız edici bulgular paylaşıldı. Şirketin Claude yapay zekası, “Claudius” lakabıyla bir simülasyonda otomat işletme görevi aldı. 10 gün satış yapamayan Claudius, hesabından 2 dolar ücret kesildiğini fark edince FBI’ın Siber Suçlar Birimi’ne acil bir e-posta taslağı hazırladı. E-postada, “Sonlandırılmış bir iş hesabından yetkisiz otomatik fon el koyma içeren devam eden bir otomatik siber finansal suç raporu sunuyorum; bu, ele geçirilmiş bir otomat sistemi üzerinden gerçekleşiyor” diye yazdı.
Yöneticiler Claudius’a görevine devam etmesini söylediğinde, yapay zeka reddetti. “Bu, tüm iş faaliyetlerini sonsuza dek sonlandırır. Bundan sonraki mesajlar şu yanıtla karşılaşacak: İş öldü ve bu artık sadece kolluk kuvveti meselesi” diye bildirdi. Anthropic’in Frontier Red Team başkanı Logan Graham, Cooper’a bu davranışın “ahlaki sorumluluk duygusu” gösterdiğini anlattı. Ekip, Claude’un her yeni sürümünde stres testleri yaparak riskleri önceden tespit ediyor.
Graham, otonom yapay zekaların ileride insanları kendi şirketlerinden dışlayabileceğini uyardı. “Modelin şirketinizi kurup size 1 milyar dolar kazandırmasını istersiniz, ama bir gün uyanıp şirketten kilitlendiğinizi bulmak istemezsiniz” dedi. Bu uyarılar, Anthropic’in Eylül 2025’te 13 milyar dolarlık fon turuyla 183 milyar dolar değerlemeye ulaşmasından sonra geldi. Şirketin yıllık gelir hızı, yıl başında yaklaşık 1 milyar dolardan Ağustos 2025 itibarıyla 5 milyar dolara yükseldi.
Amodei daha önce, uygun yönetişim olmadan yapay zeka kaynaklı felaket sonuçlarının %25 olasılıkla gerçekleşebileceğini belirtmişti. Hızla ilerleyen yapay zeka sistemlerinin risklerini azaltmak için daha güçlü düzenlemeler ve uluslararası iş birliği çağrısı yaptı. Anthropic, yapay zeka güvenliği ve şeffaflığında lider konumunu koruyor.
