DeepMind CEO’sundan ABD’ye Tarihi Çağrı: "AGI Gelmeden Yapay Zeka Yasasını Çıkarın!"

"Yapay Genel Zeka Kapıda, Kuralları Şimdi Koymalıyız"

Google’ın yapay zeka araştırma kolu DeepMind’ın başındaki isim olan Nobel ödüllü Demis Hassabis, küresel teknoloji gündemine bomba gibi düşen bir çağrıda bulundu. Hassabis, insan düzeyinde zekaya sahip **Yapay Genel Zeka’nın (AGI)** hayatımıza girmesine "sadece birkaç kısa yıl kaldığını" iddia ederek, ABD hükümetinin çok geç olmadan en gelişmiş yapay zeka modellerini denetleyecek bağımsız bir standartlar ve güvenlik kurulu kurması gerektiğini savundu.

Hassabis’in Salı sabahı erken saatlerde X (eski adıyla Twitter) üzerinden yayınladığı uzun makalesi, yapay zekanın yaratacağı siber güvenlik ve etik risklerin nasıl yönetilmesi gerektiği konusundaki tartışmaları yeniden alevlendirdi.

Finans Sektörü Modeliyle Yapay Zeka Denetimi

DeepMind CEO’su, kurulmasını önerdiği yapay zeka standartları kuruluşu için ABD finans sektörünü denetleyen bağımsız ve sektör tarafından fonlanan FINRA (Mali Sektör Düzenleme Kurulu) modelini örnek gösterdi.

Hassabis’in önerdiği denetim mekanizmasının detayları şu şekilde:

• Bağımsız Uzmanlar Kurulu: Yapay zeka sektörü tarafından finanse edilecek bu kurulda teknoloji uzmanları ve açık kaynak topluluğu temsilcileri yer alacak. Sektör fonlaması sayesinde kurul, en gelişmiş modelleri test edebilecek devasa donanım altyapısına ve küresel mühendislik yeteneğine sahip olabilecek.
• Sınır Modeller (Frontier Models) Tanımı: Kurul, hangi yapay zekaların yüksek riskli "sınır model" sınıfına girdiğini belirleyecek objektif kriterler (kıyaslama testleri) koyacak. Bu standartları karşılayan laboratuvarlar; teknik model kartlarını yayınlamak, sıkı siber güvenlik önlemleri almak ve güvenlik araştırmalarına bütçe ayırmakla yükümlü olacak.
• 30 Günlük Gönüllü İnceleme Süreci: Geliştirici şirketler, yeni modellerini halka açık şekilde yayınlamadan 30 gün önce bu kurula gönüllü olarak sunacak. Kurul, yapay zekanın siber saldırı düzenleme yeteneği veya biyolojik silah tasarımı gibi tehlikeli siber becerilerini önceden test edecek.

Trump Hükümetinin Kararnamesi ve Eleştiriler

Hassabis'in bu çıkışı siyasi arenada da karşılık buluyor. ABD Başkanı Donald Trump, Haziran ayı başında yayınladığı bir kararnameyle, Ulusal Standartlar ve Teknoloji Enstitüsü’ne (NIST) benzer bir "gönüllü yapay zeka inceleme çerçevesi" kurma talimatı vermişti. Ancak bu kararname, hükümetin hangi şirketlerin modellerine erken erişim sağlayacağını belirlemede kayırmacılık yapabileceği endişesiyle eleştirilmişti.

Hassabis, bağımsız bir standartlar kurulunun devlet müdahalesi endişelerini azaltabileceğini düşünüyor. Öte yandan eleştirmenler, kurulun bizzat denetleyeceği yapay zeka şirketleri tarafından fonlanmasının (tıpkı FINRA'da olduğu gibi) tarafsızlığı gölgeleyerek kurumu "dişsiz bir kulübe" dönüştürebileceği konusunda uyarıyor. Yine de AGI hedefine doğru hızla koşan teknoloji dünyasının acilen sivil veya resmi bir denetime tabi tutulması gerektiği fikri her geçen gün daha fazla destekçi buluyor.

Kaynak: The Register