Beyaz Saray Bilim Danışmanı Michael Kratsios, Çinli Moonshot şirketinin Kimi K3 modelini geliştirirken Anthropic’in Fable modelinden yararlandığını öne sürdü. Kratsios, şirketin Çin’e ihracatı uygun bulunmayan gelişmiş çiplere de eriştiğini iddia etti.
Kratsios, Amerikan araştırmalarını zayıflatmaya yönelik büyük ölçekli ve gizli sanayi damıtmasının kabul edilemez olduğunu söyledi. Çin menşeli açık ağırlıklı modellerin yasaklanmasının tartışıldığı bir dönemde yapılan açıklamada iddiaları destekleyecek ayrıntılar paylaşılmadı. Moonshot da modelin eğitim süreciyle ilgili soruları yanıtlamadı.
ABD Maliye Bakanı Scott Bessent, birçok Çin modelinde Amerikan büyük dil modellerine ait su işaretleri tespit edildiğini savundu. Ancak bu su işaretlerinin niteliği açıklanmadı. Maliye Bakanlığı da olası bir soruşturmayla ilgili sorulara yanıt vermedi.
Bazı uzmanlar, Kimi K3’ün gelişmiş yeteneklerinin model damıtma yöntemleriyle elde edilmiş olabileceğini düşünüyor. Bu yöntemde hedef model sistematik biçimde sorgulanıyor ve verdiği yanıtlar başka bir modelin eğitiminde kullanılıyor.
Laude Enstitüsü araştırmacısı Braden Hancock ise Kimi K3’ün yalnızca Fable’dan damıtılarak bu kadar kısa sürede geliştirilemeyeceğini savundu. Fable’ın 1 Temmuz’da kullanıma açıldığını hatırlatan Hancock, 2 hafta içinde yeterli verinin toplanıp bu ölçekte bir modelin eğitilmesinin mümkün görünmediğini söyledi.
Allen Enstitüsünden yapay zeka araştırmacısı Nathan Lambert da modern modeller geliştikçe geleneksel damıtma yöntemlerinin etkisinin azaldığını belirtti. Lambert’a göre yalnızca damıtma verisi yeterli olsaydı diğer laboratuvarlar GLM veya Kimi K3 seviyesindeki modellere çok daha kolay ulaşabilirdi.
Damıtma sürecinde hedef modelden problemleri nasıl çözdüğünü açıklaması istenebiliyor veya verdiği yanıtlar denetimli ince ayar için kullanılabiliyor. Bu yöntem, ortaya çıkan modelin üçüncü bir tarafça bağımsız olarak geliştirilmiş gibi görünmesine yol açabiliyor.
Lambert, Fable seviyesindeki yetenekleri aktarmanın daha karmaşık pekiştirme öğrenme teknikleri gerektirebileceğini söyledi. Bu tür çalışmalarda daha büyük bir model, küçük modelin yanıtlarını puanlıyor ve eğitim bu değerlendirmelere göre ilerliyor. Büyük ölçekli pekiştirme öğrenme süreçleri ise geniş hesaplama altyapısı ve milyonlarca ajan çalıştırılmasını gerektirebiliyor.
Anthropic daha önce Moonshot, DeepSeek ve MiniMax’ı modellerini sistematik biçimde damıtmakla suçlamıştı. Şirket, bu firmalarla bağlantılı kullanıcıların modellerle milyonlarca kez etkileşime girdiğini ve kullanım biçiminin normal kullanıcı davranışından farklı olduğunu açıklamıştı. Anthropic, Fable’ın Kimi K3 için kullanıldığı iddiasına ilişkin yorum yapmadı.
Model damıtma yalnızca Çinli şirketlerin başvurduğu bir yöntem değil. Elon Musk da daha önce Grok’un geliştirilmesinde OpenAI modellerinden yararlanıldığını söylemişti. Hancock, ABD’de Çinli araştırma ekiplerinin teknik kapasitesinin küçümsendiğini belirterek Moonshot çalışanlarının deneyimli araştırmacı ve mühendislerden oluştuğunu vurguladı.
Moonshot’ın pekiştirme öğrenme çalışmalarında kullanmak üzere yasaklı çiplere veya GB300 donanımlı sunuculara erişip erişmediği henüz doğrulanmadı. Şirketin Grace Blackwell 300 çiplerine ve Tayland’daki GB300 sunucularına eriştiği öne sürülüyor.
Georgetown Güvenlik ve Gelişen Teknolojiler Merkezinden Sam Bresnick, gelişmiş yapay zeka çipleri için bir karaborsa oluştuğunu söyledi. Bresnick, büyük eğitim çalışmaları yürüten şirketlere donanım kiralayan veri merkezlerinin müşterilerinin kimliğini ve faaliyetlerini bildirmesini zorunlu kılan kurallar getirilmesini desteklediğini belirtti.
Biden yönetimi, 2024’te veri merkezlerine yönelik federal müşteri tanıma kuralları önermişti. Donald Trump döneminde ise bu düzenlemeler konusunda ilerleme sağlanmadı.
