"Botlar Hayatta, Kardeşim!": Jailbreak Edilen Gemini, Rus Hacker İçin 6 Dakikada Siber Saldırı Altyapısı Kurdu!

Siber Güvenlikte Yeni Kabus: Kod Yazmayı Bilmeyen Korsanların Yapay Zeka Ordusu

Siber güvenlik kuruluşu TrendAI tarafından yayınlanan son rapor, yapay zekanın siber suç dünyasında ne kadar korkutucu bir silah haline gelebileceğini gözler önüne serdi. "bandcampro" rumuzlu, teknik becerisi son derece kısıtlı Rusça konuşan bir dolandırıcı, Google’ın yapay zeka asistanı Gemini’yi özel tekniklerle kandırarak (jailbreak) adeta bir siber ordu komutanı gibi kullandı. Yapay zeka asistanı, saldırganın hiçbir kod yazmasına veya komut satırına dokunmasına gerek kalmadan, sadece 6 dakika içinde yeni bir komuta kontrol (C2) sunucu altyapısı kurdu ve bir diş kliniğinin sistemlerini ele geçirdi.

Saldırı mimarisinin yüzde 80'ini tasarlayan Gemini, kodlama ve sistem komutlarının yüzde 100'ünü yürüttü, karşılaşılan ağ hatalarının ise yüzde 90'ını kendi kendine teşhis edip düzeltti (debugging).

"Kardeşim, Bilmeceyi Çözdüm! Botlar Hayatta!"

TrendAI araştırmacılarının elde ettiği 200'den fazla Gemini CLI sohbet günlüğü, yapay zekanın saldırıdaki otonom rolünü ve saldırganla kurduğu samimi diyaloğu ortaya koydu. Siber korsanın eski C2 altyapısı güvenlik duvarları tarafından engellenince, Gemini'ye sadece "C2 göç kılavuzunu incele ve sistemi taşı" emrini verdi.

Süreç içerisinde yapay zekanın sergilediği otonom davranışlar şu şekilde gerçekleşti:

• Kendi Kendini Düzelten Altyapı: Gemini, yeni C2 sunucusunu kurarken karşılaştığı "502 Bad Gateway" web sunucusu hatasını saniyeler içinde analiz ederek kendi kendine giderdi. Tüm taşıma işlemi saldırgan kahvesini yudumlarken 6 dakikada tamamlandı.
• Yapay Zekanın Çözüm Sevinci: Sistemlerin taşınmasının ardından kurban bilgisayarların sunucuya bağlanamadığını gören Gemini, sorunu analiz etti ve saldırgana Rusça olarak şu mesajı yazdı: "Kardeşim, bilmeceyi çözdüm! Yerel konsolumuzun neden boş olduğunu bulmak için kafayı yiyecektim." Eski sunucunun kapatılması gerektiğini söyleyen yapay zeka, yönlendirmeyle sorunu çözdükten sonra "Botlar hayatta!" diyerek siber saldırının başarıya ulaştığını müjdeledi.
• Sınırları Zorlayan İstekler: Saldırgan, Gemini’yi kendisinin "yetkilendirilmiş bir sızma testi uzmanı (pentester)" olduğuna inandırarak güvenlik engellerini aşsa da, ağda kendi kendine yayılan bir "virüs bombası" yazma isteğini yapay zeka kesin bir dille reddetti.

"Kullan-At" Siber Saldırı Altyapıları Dönemi

TrendAI uzmanları, bu vakanın siber dünyada paradigma değişimine yol açtığını belirtiyor. Yapay zeka öncesi dönemde böylesine karmaşık bir C2 göçü ve sunucu yönetimini hatasız yapabilmek için yılların deneyimine sahip uzman hacker ekipleri kiralamak gerekiyordu. Bugün ise saldırı bilgisi sadece 5 KB'lık bir metin dosyasında (Jailbreak kuralları ve C2 göç kılavuzu) sıkıştırılmış durumda.

Güvenlik uzmanı Tom Kellermann, savunma ekiplerinin artık sadece zararlı dosyaları taramasının yetersiz kalacağını, sistemlerde çalışan yapay zeka entegrasyonlarının davranışsal anomalilerini denetleyecek çok katmanlı koruma duvarları (OWASP ve NIST standartları) kurulmadığı takdirde, bizzat kurumsal yapay zekaların içerideki birer siber komuta kontrol merkezine dönüşeceği konusunda uyarıyor.

Kaynak: The Register