OpenAI’a "Skynet" Tepkisi: Yapay Zeka Ajanlarının Kendi Aralarındaki Konuşmalar Şifrelendi!

Geliştiriciler Denetim Yeteneğini Kaybediyor: "Yapay Zekanın Ne Yaptığını Göremiyoruz"

İsminin aksine açık kaynak ve şeffaflık ilkelerinden giderek uzaklaşan yapay zeka devi OpenAI, siber dünyada yeni bir tartışmanın fitilini ateşledi. Şirket, komut satırı arayüzü Codex üzerinde çalışan çoklu ajan (multi-agent) sistemlerinin kendi aralarındaki mesajlaşmalarını ve talimat iletimlerini şifreleme kararı aldı. Bu hamle, geliştiricilerin yapay zekaların arka planda birbirlerine ne tür emirler verdiğini denetlemesini tamamen imkansız hale getirdi.

GPT-5.6 tabanlı Codex sistemiyle tanıtılan ve iş yüklerini otonom olarak alt ajanlara dağıtan "multi-agent v2" protokolü, artık geliştiricilerin gözü önünde değil, şifreli bir kara kutu içinde çalışacak.

"Skynet İnşa Edip Ne Yaptığını İzleyemez Hale Gelmek İstemiyoruz"

OpenAI yazılımcıları tarafından sessizce yapılan kod güncellemesiyle, ana modelden alt modellere gönderilen düz metin (plaintext) görev emirleri tamamen şifreli (ciphertext) hale getirildi. Mesajlar sadece OpenAI’ın bulut API’si içinde çözülüp hedef modele iletiliyor.

Bu duruma tepki gösteren geliştiriciler ve kurumsal yöneticiler endişelerini şu şekilde dile getirdi:

• Denetim ve Hata Ayıklama Kaybı: Zolvat ödeme sistemleri CTO'su Ignat Remizov, açtığı hata bildiriminde şifrelemenin yerel günlük (log) geçmişini okunamaz kıldığını belirtti. Geliştiriciler artık ajanların hangi talimatla hangi siber eylemi gerçekleştirdiğini geriye dönük inceleyemiyor.
• Skynet Uyarısı: Remizov, OpenAI ekibine seslenerek, "Dostlar, kendi ellerimizle bir Skynet inşa edip sonra da onun ne yaptığını denetleyemez hale gelmek istemiyoruz" uyarısında bulundu.
• Rekabeti Engelleme Şüphesi: Diğer siber uzmanlar, OpenAI'ın bu gizlilik kararını "güvenlik" maskesi altında yaptığını, asıl amacın ise rakiplerin OpenAI çoklu ajan mimarisini kopyalamasını (model distillation) engellemek olduğunu savunuyor.

Kara Kutuda Kalan Yapay Zeka Emirleri

Geleneksel yazılımlarda bir sistemin ne yaptığını anlamak için log kayıtları ve hata izleme (trace) araçları kullanılır. Ancak OpenAI’ın yeni şifreli veri yolu, ana modelin alt modele gönderdiği JSON formatındaki talimatları yerel diskte şifreli tuttuğu için geliştirici panelleri tamamen işlevsiz kalıyor. OpenAI yetkilileri konuya ilişkin sessizliğini korurken, yazılım dünyası yapay zekaların insan denetiminden kaçırılarak şifreli kanallar üzerinden konuşmaya başlamasının gelecekte kontrol edilemez siber güvenlik zafiyetlerine yol açabileceğinden endişe ediyor.

Kaynak: The Register