OpenAI, Çarşamba günü, Broadcom ile işbirliği içinde tasarlayıp ürettiği ilk özel yapım çıkarım işlemcisi Jalapeño’yu tanıttı. Bu yeni işlemci, OpenAI’nin çıkarım sistemlerinin benzersiz ihtiyaçları göz önünde bulundurularak tasarlandı.
Şirketin açıklamasına göre, çipin geliştirilmesinde OpenAI’ın kendi yapay zeka modelleri de yardımcı oldu. Çip hala test aşamasında olsa da, erken sonuçların mevcut en ileri alternatiflere kıyasla watt başına performansta önemli ölçüde daha iyi sonuçlar gösterdiği belirtiliyor.
Ortaklık resmi olarak Ekim ayında duyuruldu. Ancak, OpenAI’ın çip planları uzun süredir Nvidia’nın GPU’larına bağımlılığını azaltmaya yönelik bir yöntem olarak konuşuluyordu. Google ve Amazon da benzer bir amacı gerçekleştirmek için, genellikle “yapay zeka hızlandırıcıları” olarak adlandırılan özel çipler geliştirdi.
OpenAI başkanı Greg Brockman, Broadcom ile yapılan ortaklık duyurulmasının hemen ardından şirketin çip geliştirme yaklaşımını kendi podcast’inde anlattı. Brockman, “Çalışma yüküne derin bir anlayışa sahibiz. Gerçekten de yeterince hizmet verilmeyen belirli iş yüklerini arıyorduk ve bu potansiyeli artırmak için nasıl bir şey inşa edebiliriz?” diye ifade etti.
Jalapeño, kullanıcı komutlarına yanıt olarak önceden oluşturulmuş yapay zeka modellerinin çalıştırılması süreci için özel olarak tasarlandı. Açıklamada, OpenAI’nın çipinin gerçek zamanlı kodlama modellerini çalıştırırken düşük işletim maliyetine sahip olduğuna vurgu yapıldı. Daha fazla performans gerektiren görevlerin, örneğin ön eğitim işlemlerinin, hala Nvidia donanımına bağımlı kalması muhtemel olsa da, çıkarım maliyetlerindeki küçük azalmaların şirketin kârını önemli ölçüde artırabileceği ifade edildi.
Bu çıkarım sisteminin optimize edilmesinin, yapay zeka ekonomisi açısından önemli bir faktör olabileceği düşünülüyor. OpenAI, şu anda Codex ve bu modelleri çalıştıran ürünler gibi agentik ürünler inşa ediyor; ayrıca bu modelleri çalıştırmak için veri merkezleri geliştiriyor. Amaç odaklı çiplere geçiş yapma süreci, şirketin bu alandaki ilerlemesini hızlandıracak.
OpenAI, yalnızca yeni nesil modeller geliştirmekle kalmayıp, bu modellerin altında yatan altyapıyı da tasarladığını belirtiyor: çip mimarisi, çekirdekler, bellek sistemleri, ağ yapısı, zamanlama, dağıtım sistemleri ve ürün deneyimi. Şirketin her katmanda optimize etme çalışmaları, modellerinin daha hızlı, daha güvenilir ve kullanıcılar için daha uygun maliyetli hale getirilmesi amacına yöneliktir.
