LongCat-2.0: 1.6 Trilyon Parametreli Dev MoE Yapay Zeka Modeli Tanıtıldı

LongCat-2.0: 1.6 Trilyon Parametreli Dev MoE Yapay Zeka Modeli Tanıtıldı

Yapay zeka dünyasına yeni bir dev model katıldı: LongCat-2.0. Bu model, toplam 1.6 trilyon parametreye sahip olup bunların 48 milyarı aktif olarak (active parameters) kullanılıyor. Model, Uzman Karışımı (MoE — Mixture of Experts) mimarisini benimsiyor. Hacker News'te 164 puan ve 46 yorum toplayarak büyük ilgi gördü.

MoE Mimarisi Nedir?

Mixture of Experts (Uzman Karışımı), büyük dil modellerinin verimli çalışmasını sağlayan bir mimaridir. Bu yapıda model, her token için tüm ağırlıkları değil, yalnızca belirli "uzman" alt ağların bir kısmını aktive eder. Böylece:

• Toplam parametre sayısı çok yüksek tutulabilir (kapasiteli model)
• Aynı anda kullanılan parametre sayısı düşük kalır (verimli hesaplama)
• Daha az hesaplama maliyetiyle daha güçlü çıktı elde edilir

LongCat-2.0 Teknik Özellikleri

LongCat'in Uzun Bağlam Odağı

Modelin adı da zaten amacını ele veriyor: LongCat, uzun bağlam (long context) işleme kapasitesine odaklanıyor. Standart LLM'lerin binlerce token ile sınırlı olduğu durumlarda LongCat-2.0, çok daha uzun belge, kod tabanı veya konuşma geçmişlerini tek bir bağlamda (context window) işleyebiliyor. Bu özellik; hukuk belgeleri analizi, büyük kod tabanı refaktörü ve uzun teknik raporların özetlenmesi gibi görevler için kritik önem taşıyor.

GPT-4o ve Claude ile Karşılaştırma

LongCat-2.0'ın 48B aktif parametresiyle GPT-4o ve Claude 3.5 Sonnet ile benzer bir çalışma verimliliğine ulaşması hedefleniyor. Ancak 1.6T toplam parametrenin özellikle nadir ve uzmanlık gerektiren bilgi alanlarında rakiplerini geçmesi bekleniyor.

Model, Hacker News topluluğunda hem heyecanla hem de şüpheyle karşılandı. Özellikle eğitim verisi şeffaflığı ve bağımsız benchmark (kıyaslama) sonuçları konusunda merak ve sorular yoğunlaştı.

Kaynak: Hacker News (Öne Çıkanlar)