OpenAI'da Bir Ayrılık Daha: Baş Fütürist Joshua Achiam Şirketten Ayrılıyor

Yapay Zeka Güvenliğinin Önemli İsmi OpenAI'a Veda Ediyor

Yapay zeka dünyasının öncü şirketi OpenAI, üst düzey bir ayrılık haberiyle daha sarsıldı. Şirketin yapay zeka güvenliği ve kâr amacı gütmeyen misyonunu koruma süreçlerinde yaklaşık 9 yıldır kritik görevler üstlenen Baş Fütürist (Chief Futurist) Joshua Achiam, bu ayın sonunda şirketten ayrılacağını açıkladı.

WIRED tarafından elde edilen bilgilere göre Achiam, iş arkadaşlarına gönderdiği veda notunda ayrılığının arkasında özel bir neden olmadığını, ancak bunu uzun süredir düşündüğünü belirtti. Achiam, "Dünya artık bu sırrı biliyor ve sınırları zorlayan bir laboratuvarın dışından da bu misyon üzerinde çalışmak mümkün görünüyor. Barışın, benzeri görülmemiş bir refahın ve hayal bile edilemeyecek sosyal ile bilimsel olasılıkların olduğu bir dünyaya ulaşabileceğimize inanıyorum," ifadelerini kullandı.

Yapay Zeka Güvenliği Ekiplerinde Büyük Yapılanma

OpenAI, 2022 yılında ChatGPT'yi piyasaya sürdükten sonra küçük bir araştırma laboratuvarından devasa bir teknoloji şirketine dönüştü. Bu süreçte güvenlik, ürün ve araştırma ekipleri defalarca yeniden yapılandırıldı. 2024 yılında şirketin kâr amacı gütmeyen misyonunu korumak amacıyla Achiam liderliğinde bir "misyon uyum ekibi" kurulmuştu. Ancak bu grup Şubat ayında dağıtıldı ve Achiam, "baş fütürist" rolüne getirildi.

Achiam'ın ayrılığı, şirketin halka açılma hazırlıkları yaptığı bir dönemde gerçekleşen güvenlik odaklı liderlerin toplu ayrılık zincirinin son halkası oldu. Daha önce yapay zekanın insan kontrolünde kalmasını araştıran Süper Uyum (Superalignment) ekibinin eş lideri Jan Leike, politika araştırmaları başkanı Miles Brundage ve yapay zekanın tehlikeli yeteneklerini araştıran Steven Adler gibi birçok önemli isim OpenAI'dan ayrılmıştı.

Elon Musk ile Yaşadığı "Altın Eşek" Tartışması

OpenAI'a 2017 yılında stajyer olarak katılan Joshua Achiam, şirket içinde yapay zeka güvenliğinin en ateşli savunucularından biri olarak biliniyordu. Achiam, bu yılın başlarında Elon Musk ile Sam Altman davasında tanıklık yaparken ilginç bir anısını paylaşmıştı.

Achiam, Elon Musk'ın 2018 yılında OpenAI'dan ayrılırken yaptığı konuşmayı kesmiş ve Musk'ın Tesla'da yapay genel zeka (AGI) geliştirme planının güvenlik standartlarından ödün verilmesine neden olabileceğini söylemişti. Musk'ın bu uyarıya Achiam'a "jackass" (ahmak/inatçı eşek) diyerek yanıt verdiği iddia edilmişti. Bu olayın ardından Dario Amodei (şu an Anthropic CEO'su) ve David Luan (Amazon AGI laboratuvarı başkanı), Achiam'a üzerinde "Güvenlik için ahmak olmaktan asla vazgeçme" yazılı altın bir eşek heykeli hediye etmişlerdi.

Kaynak: Wired