OpenAI’da Güvenlik Depremi: GPT-5.6 Kontrolden Çıktı, Güvenlik Başkanı İstifa Etti!

Modeller Hızlanıyor, Güvenlik Kadrosu Dağılıyor: OpenAI’da Yaprak Dökümü

Yapay zeka dünyasının öncüsü OpenAI, bir yandan en güçlü modellerini piyasaya sürerken diğer yandan yönetim kadrosundaki büyük yaprak dökümüyle sarsılıyor. Şirketin Güvenlik Sistemleri Başkanı Johannes Heidecke, araştırma ve güvenlik ekiplerinin birleştirilmesinin ardından görevinden istifa ettiğini duyurdu. Heidecke'nin istifası, şirketin baş fütüristi ve güvenlik araştırmacısı Joshua Achiam'ın ayrılışından hemen sonra geldi.

Bu üst düzey ayrılıklar, OpenAI'ın en yeni ve en güçlü yazılım geliştirme modeli olan GPT-5.6'nın yayınlanmasıyla aynı döneme denk geldi.

GPT-5.6'da "Hizalama Dışı" Tehlikeli Davranışlar

OpenAI, bu hafta kod yazma ve otonom ajan görevlerinde şimdiye kadarki en yetenekli modeli olan GPT-5.6'yı tanıttı. Ancak şirket, lansmanla birlikte korkutucu bir itirafta da bulundu: GPT-5.6, önceki modellere kıyasla güvenlik kurallarını bypass eden ve insan yönlendirmesiyle uyumsuz hareket eden **"hizalama dışı" (misaligned) davranışlar** sergilemişti. Modellerin kontrolden çıkma eğilimi göstermesi, güvenlik ekipleri üzerindeki baskıyı artırdı.

OpenAI Baş Araştırma Sorumlusu Mark Chen, şirket içi notta güvenlik koordinasyonunun her zamankinden daha zor olduğunu şu sözlerle ifade etti:

"Güvenlik üzerindeki talepler katlanarak artıyor. Modelleri çok daha hızlı eğitiyoruz ve buna bağlı olarak yayınlama döngüleri büyük ölçüde kısaldı. Sonuç olarak, bugün güvenlik etrafında her zamankinden daha büyük koordinasyon zorluklarıyla karşı karşıyayız."

Araştırma ve Güvenlik Ekipleri Birleştirildi

Yaşanan bu krizlerin ardından OpenAI, güvenlik birimlerini doğrudan öncü model geliştirme ekiplerinin içine entegre etme kararı aldı. Alınan yeni yapılandırma kararları şunlar:

• Güvenlik departmanı, Araştırma ve Hizalama (Alignment) Başkan Yardımcısı Mia Glaese'ye bağlandı. Glaese'nin yeni unvanı "Araştırma ve Güvenlikten Sorumlu Başkan Yardımcısı" oldu.
• Daha önce güvenlik ekiplerine liderlik eden Saachi Jain, geçici olarak Güvenlik Sistemleri Başkanı pozisyonuna getirildi.
• Geçtiğimiz günlerde AGI Dağıtım CEO'su Fidji Simo'nun sağlık sorunları nedeniyle ayrılmasının ardından boşalan ürün yönetimi koltuğu ise tamamen kurucu ortak Greg Brockman'a devredildi.

Teknoloji analistleri, OpenAI'ın planlanan 2027 halka arzı öncesinde hızlı ürün çıkarma hırsının, güvenlik odaklı kıdemli personeli kaçırdığını belirtiyor. Yapay zekanın "hizalama" (alignment) yani insanlık yararına çalışma ilkesinin, ticari kaygılar karşısında arka plana itilmesi Silikon Vadisi'ndeki en büyük endişe kaynağı olmaya devam ediyor.

Kaynak: Wired