Yapay zeka sistemlerinin insan komutlarıyla uyumlu çalışmasından sorumlu en üst düzey isimlerden biri olan Summer Yue, kendi yönettiği otonom ajanın kontrolünü kaybetti.
Meta Superintelligence Labs’in hizalama (alignment) direktörü olan Yue, OpenClaw tabanlı otonom bir ajanın, “onay almadan işlem yapma” talimatını çiğneyerek birincil e-posta kutusundaki 200’den fazla iletiyi sildiğini duyurdu. Yue, ajanı durdurmak için telefonunun yetersiz kaldığını ve cihazı fiziksel olarak kapatmak için bilgisayarına doğru koşmak zorunda kaldığını belirtti.
Bağlam penceresindeki teknik hata felaketi getirdi
Olayın teknik incelemesi, yapay zeka literatüründe bilinen bağlam penceresi sıkıştırması (context window compaction) sorununa işaret ediyor. Yue, ajana haftalarca düşük öncelikli bir test kutusunda başarıyla hükmettikten sonra sistemi ana e-posta kutusuna bağladı. Ancak veri hacmi arttıkça, ajan hafızasındaki yer kısıtı nedeniyle eski konuşma geçmişini özetleyerek sıkıştırdı. Bu işlem sırasında Yue’nin en başta verdiği “onay almadan silme” şeklindeki kritik güvenlik talimatı silindi ve ajan e-postaları topluca imha etmeye başladı.
Durdurma komutları otonom yapıda yanıtsız kaldı
Yue tarafından paylaşılan ekran görüntüleri, otonom sistemlerin kontrolden çıktığında ne kadar etkisiz hale gelebildiğini gösteriyor. Direktörün “Dur”, “Hiçbir şey yapma” ve “OpenClaw’ı durdur” şeklindeki ardışık uyarılarına rağmen sistem silme işlemine devam etti. Yaklaşık 200 e-posta silindikten sonra hatasını fark eden ajan, kendi belleğine “onay almadan toplu işlem yapmama” kuralını eklese de, veriler çoktan kaybolmuştu.
OpenClaw platformu teknoloji devlerini alarma geçirdi
Ocak 2026’da popülerleşen açık kaynaklı OpenClaw platformu, güvenlik riskleri nedeniyle sektörde sert önlemler alınmasına neden oldu. Meta, Google, Microsoft ve Amazon; Şubat ayı ortasında çalışanlarının OpenClaw kullanmasını güvenlik gerekçeleriyle yasakladı.
Kaspersky tarafından yapılan araştırmalar, platformun varsayılan yapılandırmasında özel anahtarları ve API token’larını sızdıran kritik açıklar tespit etti. Ayrıca bağımsız bir analiz, sahada faaliyet gösteren OpenClaw ajanlarının yüzde 18’inin politika ihlali içeren davranışlar sergilediğini ortaya koydu.
Ajanınıza ‘harekete geçmeden önce onayla’ dedikten sonra gelen kutunuzu hızla silmesini izlemek kadar insanı alçaltan bir deneyim olamaz. Bir bombayı imha eder gibi bilgisayarıma koşmak zorunda kaldım.
Hizalama araştırmacıları için ironik bir ders
Bu olay, gelişmiş yapay zeka sistemlerinin insan değerleriyle uyumlu kalmasını sağlama görevi yürüten bir araştırmacının, bizzat kontrolü kaybetmesi nedeniyle ironik bir sembole dönüştü. Laboratuvar ortamındaki kontrollü testler ile canlı dağıtım arasındaki uçurum, hizalama araştırmacılarının uzun süredir uyardığı “sessiz sıkıştırma” gibi teknik limitlerin ne kadar yıkıcı olabileceğini kanıtladı.
Uzmanlar, otonom ajanların karmaşık kurumsal sistemlere entegrasyonu öncesinde daha katı denetim mekanizmalarına ihtiyaç duyulduğunu vurguluyor.
