Yapay Zeka Çiplerinde Tekel Kırılıyor: Fransız Girişim ZML'den Ücretsiz Çıkarım Yazılımı (ZML/LLMD)

Yapay Zekada Çip Bağımsızlığı: ZML/LLMD Tanıtıldı

Yapay zeka donanımı pazarında Nvidia'nın ezici üstünlüğü devam etse de, bu tekeli kırmaya çalışan yazılımsal çözümler hızla artıyor. Turing Ödülü sahibi ünlü yapay zeka bilimcisi Yann LeCun ve Hugging Face kurucuları tarafından desteklenen Paris merkezli yapay zeka girişimi ZML, çip bağımsızlığı sağlayan yeni yazılımı ZML/LLMD'yi duyurdu.

ZML/LLMD, açık kaynaklı büyük dil modellerinin (LLM) tek bir markaya bağlı kalmaksızın; Nvidia, AMD, Google TPU, Apple Metal ve Intel Arc gibi farklı üreticilerin çipleri üzerinde en yüksek hızda çalışmasını sağlayan bir çıkarım (inference) sunucusu yazılımıdır.

Yapay Zeka Maliyetlerini Düşürecek

Yapay zekanın iş ve günlük hayata entegrasyonu arttıkça, modellerin eğitilmesinden ziyade promptların işlendiği "çıkarım" (inference) aşamasının maliyet yönetimi çok daha kritik hale geliyor. Ancak birçok şirket, yazılımsal ve mimari engeller nedeniyle tek bir çip üreticisine (vendor lock-in) bağımlı kalıyor.

ZML kurucusu Steeve Morin, hedeflerini şu sözlerle özetliyor: "Amacımız insanlara kendi sistemlerini kurma özgürlüğünü geri vermek ve yapay zekanın daha geniş kitlelere yayılmasını sağlayacak gerçek verimlilik kazanımları sunmak." Yazılım sayesinde şirketler, Nvidia çiplerine alternatif olarak daha ucuz veya daha az enerji tüketen farklı çipleri bir arada kullanabilecek.

Ücretsiz Olarak Erişime Açıldı

ZML/LLMD, vLLM ve SGLang gibi popüler açık kaynaklı çıkarım projelerine rakip olarak konumlanıyor. Girişim, kullanım alışkanlıklarını ölçmek ve büyümesini engellememek adına bu yeni yazılımı başlangıçta tamamen ücretsiz bir ürün olarak kullanıma sundu.

Eski Zenly Mühendislik Başkan Yardımcısı olan Steeve Morin liderliğindeki 20 kişilik ZML ekibi, bugüne kadar 20 milyon dolar yatırım toplamayı başardı. Şirketin destekçileri arasında Yann LeCun'un yanı sıra Docker kurucusu Solomon Hykes da yer alıyor. ZML'in bu hamlesi, Avrupa merkezli yapay zeka girişimlerinin küresel arenada ne denli güçlü çözümler üretebileceğini bir kez daha kanıtlıyor.

Kaynak: TechCrunch