Massachusetts Institute of Technology (MIT) araştırmacıları, yapay zeka alanında önemli bir gelişmeyi duyurdu. Kurum tarafından geliştirilen ve SEAL (Self-Adapting LLMs) olarak adlandırılan yeni teknik, büyük dil modellerinin (LLM) sentetik veriler üreterek kendi kendini yeniden eğitmesine olanak tanıyor. Bu yöntemle modeller, insan müdahalesine gerek duymadan performanslarını artırabiliyor.
SEAL konsepti ilk olarak Haziran ayında yayımlanan bir akademik makale ile tanıtılmıştı. Geçen ay ise makalenin önemli ölçüde genişletilmiş ve güncellenmiş bir versiyonu yayımlandı. Geliştirilen bu yöntem, aynı zamanda MIT lisansı altında GitHub’da açık kaynak olarak teknoloji topluluğunun kullanımına sunuldu. Bu gelişme, tekniğin daha geniş bir kitle tarafından incelenmesine ve geliştirilmesine imkan tanıyor.
Adam Zweiger, Jyothish Pari, Han Guo, Ekin Akyürek, Yoon Kim ve Pulkit Agrawal’dan oluşan araştırma ekibi, sistemi detaylandıran çalışmalarını NeurIPS 2025 konferansında sundu. Sunum, yöntemin teorik altyapısını ve pratik sonuçlarını akademik çevrelerle paylaştı.
Başlangıçta tamamen kavramsal bir çerçeve olan SEAL, yayınlanan yeni versiyonuyla pratik bir uygulama olduğunu kanıtladı. Yapılan testler, SEAL tekniğinin daha büyük modellerle daha etkili bir şekilde ölçeklendiğini gösteriyor. Bu durum, yöntemin gelecekte daha karmaşık ve büyük yapay zeka modellerine de başarıyla uygulanabileceğine işaret ediyor.
Sistem, yapay zeka modellerinin önemli sorunlarından biri olan “katastrofik unutmayı” (yeni bilgi öğrenirken eski bilgiyi unutma) azaltmak için pekiştirmeli öğrenmeyi (reinforcement learning) entegre ediyor. SEAL, çift döngülü bir mimari kullanıyor. Bu mimarinin iç döngüsünde denetimli ince ayar (supervised fine-tuning), dış döngüsünde ise pekiştirmeli öğrenme optimizasyonu yer alıyor. Bu yapı, modelin hem yeni bilgiyi verimli bir şekilde öğrenmesini hem de bu öğrenme sürecini optimize etmesini sağlıyor.
Güncellenen araştırma, çeşitli istem (prompt) formatlarıyla yapılan testleri, eğitim döngüleri boyunca artan kararlılığa dair kanıtları ve gerçek dünya dağıtım zorluklarına ilişkin tartışmaları içeriyor. Bu bulgular, SEAL’in pratik uygulanabilirliği konusunda önemli veriler sunuyor.
SEAL, “self-edit” olarak adlandırılan bir özellik sunuyor. Bu özellik sayesinde model, kendi ağırlık güncellemeleri için doğal dilde talimatlar üretiyor. Ardından bu talimatları kullanarak kendini yeniden eğitiyor. Pekiştirmeli öğrenme sürecinde kullanılan ödül sinyalleri ise modelin görev performansındaki artıştan elde ediliyor. Böylece model, hangi düzenlemelerin kendisine fayda sağladığını öğrenerek bu yönde gelişim gösteriyor.
Araştırma ekibi, SEAL’in performansını iki temel alanda test etti. Bilgi edinimi testlerinde, SQuAD (Stanford Question Answering Dataset) tarzı metin pasajları kullanıldı. Bu testlerde, modelin doğruluğu %33,5 seviyesinden %47’ye yükseldi. Elde edilen bu sonuç, GPT-4.1 gibi gelişmiş bir modelin performansını geride bıraktı.
Az örnekle öğrenme (few-shot learning) testlerinde ise ARC veri setinin bir alt kümesi üzerinde çalışıldı. Pekiştirmeli öğrenme döngüsü tamamlandıktan sonra, modelin doğruluk oranı %20’den %72,5’e sıçradı. Bu sonuç, modele yalnızca birkaç örnek gösterilerek öğrenmesini sağlayan bağlam içi öğrenme (context-based learning) sistemlerine kıyasla önemli bir başarıyı temsil ediyor.
SEAL’in kullandığı pekiştirmeli öğrenme algoritması ReSTEM olarak adlandırılıyor. ReSTEM, örnekleme ile filtrelenmiş davranış klonlamasını birleştiren bir yöntem kullanıyor. Bu algoritma, eğitim sürecinde yalnızca performans artışı sağlayan “self-edit” çıktılarını pekiştirerek modelin verimsiz veya hatalı düzenlemelerden kaçınmasını sağlıyor.
Verimliliği artırmak ve hesaplama maliyetlerini düşürmek amacıyla SEAL, tüm model parametrelerini güncelleyen yöntemler yerine LoRA (Low-Rank Adaptation) tabanlı ince ayar tekniğini kullanıyor. Bu yaklaşım, hem deneysel süreçleri hızlandırıyor hem de modellerin yeni bilgilere adaptasyon maliyetini önemli ölçüde düşürüyor.
Ancak sistemin bazı sınırlılıkları devam ediyor. SEAL, hala katastrofik unutma problemine karşı tam olarak dirençli değil. Yeni bilgiler eklenirken eski bilgilerde kayıplar yaşanabiliyor. Bir diğer zorluk ise hesaplama yükü. Her bir “self-edit” çıktısının değerlendirilmesi, modelin yeniden ince ayar yapmasını ve performansının test edilmesini gerektiriyor. Bu süreç, her bir düzenleme için yaklaşık 30–45 saniyelik bir işlem süresi anlamına geliyor.
AI topluluğu, SEAL’i sürekli olarak kendi kendini geliştiren modellere yönelik atılmış önemli bir adım olarak değerlendiriyor. Tekniğin, gelecekte otonom ajanları destekleme ve karmaşık görevlerde tekrarlanan insan denetimi ihtiyacını azaltma potansiyeli taşıdığı düşünülüyor.
Gelecekteki araştırma hedefleri arasında, SEAL’in sadece verileri değil, aynı zamanda kendi ödül fonksiyonlarını da öğrenmesini sağlamak yer alıyor. Diğer bir hedef ise modellerin her bir kullanıcı etkileşiminden sonra ağırlıklarını anında güncellemesine olanak tanımak ve tekniği veri kısıtlı veya özel uzmanlık gerektiren alanlara uygulamaktır.
