Yapay Zeka

Yapay Zekada Bütçe Kesintisi: Şirketler Tasarruf İçin AI Botlarını Mağara Adamı Gibi Konuşturuyor!

Yapay zeka çalıştırma maliyetlerinin katlanarak artması üzerine geliştirilen 'Caveman' eklentisi, yapay zekadaki kibar ve uzun sohbet cümlelerini budayıp doğrudan emir cümlelerine dönüştürerek token harcamalarını %65 düşürdü.

Paylaş X'te paylaş

Yapay zeka (AI) dünyasında heyecan fırtınası devam ederken, madalyonun diğer yüzünde devasa işletme maliyetleri teknoloji devlerini zorlamaya başladı. Tüketici elektroniği ve bilgisayar donanımları bu krizden etkilenirken, yapay zeka geliştiricileri de kurtuluşu abonelik modellerini sabit fiyattan kullanım bazlı (pay-per-use) ücretlendirmeye geçirmekte buluyor. Yapay zeka servislerinin astronomik sunucu maliyetlerini düşürmek isteyen bazı şirketler ise son derece sıra dışı bir yöntem keşfetti: Yapay zekayı "Mağara Adamı Tarzan" gibi konuşturmak.

Nezaket Cümleleri ve Geçişler Budanıyor

404 Media tarafından yayınlanan rapora göre, aralarında OpenAI çalışanlarının da bulunduğu pek çok teknoloji şirketi, Claude ve GPT gibi gelişmiş modellerin gereksiz sohbet cümlelerini engellemek için 'Caveman' (Mağara Adamı) adı verilen bir komut sistemi (prompt eklentisi) kullanmaya başladı. Caveman'in yaratıcısı Julius Brussee, eklentiyi geliştirme nedenini şu sözlerle açıklıyor: "Nisan ayında Claude Code'u yoğun şekilde kullanırken, token harcamalarımın büyük kısmının yapay zekanın ürettiği gereksiz kibarlık sözcüklerine, geçiş cümlelerine ve pratik anlamda hiçbir önemi olmayan sohbet diline gittiğini fark ettim."

Yapay zeka robotu ve veri
Görsel: Yapay zeka modellerinin insan benzeri kibar konuşma yapısı, şirketlerin sunucu faturalarında ciddi bir yük haline geldi. / Görsel Kaynağı: Unsplash

Yapay Zekaya "Lobotomi" Yaparak %65 Tasarruf

Normal şartlarda kullanıcıya dost canlısı görünmesi ve diyaloğu sürdürmesi için tasarlanan yapay zeka botları, bu eklenti sayesinde adeta kısa emirler veren, selamlaşmayı kesen ve doğrudan sonuca odaklanan kuru komut makinelerine dönüştürülüyor. Eklenti sayesinde yapay zekanın "sosyal IQ'su" düşürülürken, Brussee bu yöntemle token tüketimini tam %65 oranında azalttığını belirtiyor. Yani şirketler, yapay zekanın kibar sohbetlerini budayarak sunucu faturalarını üçte iki oranında hafifletmeyi başarıyor.

Caveman Eklentisi ile Token Tüketimi Karşılaştırması
Normal Prompt
%100
Caveman Prompt
%35 (%65 Tasarruf)

Sora Projesinin Durdurulması ve Mali Gerçekler

Yıllarca yapay zekanın "insan benzeri zekası" üzerinden pazarlama yapan ve yatırım toplayan şirketlerin, kâr-zarar tabloları söz konusu olduğunda yapay zekayı adeta zihinsel bir gerilemeye maruz bırakması büyük bir ironi oluşturuyor. Yapay zeka servislerini ayakta tutmanın ne kadar pahalı olduğu ortada; nitekim OpenAI, günde yaklaşık 1 milyon dolar zarar ettiren video üretim aracı Sora projesini askıya almış ve Disney ile yapacağı devasa iş ortaklığını zora sokmuştu. Şirketler için artık şaşaalı yapay zeka gösterilerinden ziyade, net finansal maliyetlerin kontrolü çok daha büyük bir öncelik haline gelmiş durumda.

Kaynak: Kotaku

Mr.Nobody
Yazar

Mr.Nobody

Tüm yazılar Tüm yazılar
Haber Sayısı 275 haber
Görüntülenme Sayısı 9.209 görüntülenme
Okur katılımı

Yorumlar

Yorum İkonu Yorum Yazın

Bu habere henüz yorum yapılmadı.

Görünüm Okuma ayarları
Yazı boyutu