Validen Yapay Zekâ İçin Kritik Hamle: “Acil Kapatma” Kararı

Kaliforniya’dan Yapay Zekâ İçin Kritik Hamle: “Acil Kapatma Tuşu” Gündemde

Kaliforniya Valisi Gavin Newsom, yapay zekâ şirketlerinin bağımsız denetimini güçlendirmeyi ve gelişmiş yapay zekâ modelleri için “acil kapatma tuşu” sisteminin geliştirilmesini hızlandırmayı amaçlayan kararnameyi imzaladı. Karar, yapay zekâ güvenliği ve olası risklere karşı daha sıkı denetim mekanizmalarının oluşturulmasını hedefliyor.

Kaliforniya Valiliği tarafından yapılan açıklamaya göre yeni kararname, özellikle ileri seviye yapay zekâ sistemlerinin güvenlik ve risk değerlendirmelerinin bağımsız kuruluşlar tarafından daha kapsamlı biçimde denetlenmesine yönelik adımları içeriyor. Bu kapsamda yapay zekâ şirketlerinin güvenlik planları, şeffaflık raporları ve risk analizlerinin bağımsız doğrulama kuruluşları tarafından incelenmesi gündemde.

Yapay zekâ için “acil kapatma tuşu” planı

Kararnamenin dikkat çeken başlıklarından biri, gelişmiş yapay zekâ modellerinin ciddi bir güvenlik riski oluşturması durumunda devre dışı bırakılmasına imkân tanıyabilecek “kill switch” yani acil kapatma mekanizması oldu.

Plan kapsamında bu sistemin etkinliğinin yalnızca şirketler tarafından değil, bağımsız kuruluşlar tarafından da düzenli şekilde doğrulanması üzerinde çalışılacak. Ancak mevcut aşamada söz konusu düzenleme doğrudan tüm yapay zekâ şirketlerine zorunlu bir kapatma düğmesi getirmiş değil; uzmanların hazırlayacağı tavsiyeler doğrultusunda yeni yasal düzenlemeler gündeme gelebilecek.

Uzmanlara iki aylık süre

Newsom’un kararnamesiyle, yapay zekâ güvenliği alanında uzman isimlerden oluşacak bir grubun eyaletteki mevcut düzenlemelerin nasıl güçlendirilebileceğine ilişkin öneriler hazırlaması istendi. Kaliforniya yönetimi, tavsiyelerin yaklaşık iki ay içinde sunulmasını bekliyor.

Newsom, yapay zekânın hızla gelişmesi nedeniyle güvenlik ve denetim çalışmalarının ertelenmemesi gerektiğini savunarak eyalet yönetiminin bu alandaki çalışmalarını hızlandıracağını açıkladı.

Anthropic CEO’sundan “yavaşlama” çağrısı

Yapay zekâ sektörünün önde gelen isimleri de son dönemde güvenlik tartışmalarını gündeme taşıyor. Anthropic CEO’su Dario Amodei, yapay zekâ modellerinin yeteneklerinin çok hızlı ilerlediğini belirterek güvenlik önlemleri ve bağımsız denetim sistemlerinin bu gelişime yetişebilmesi için sektörün model geliştirme hızını azaltması gerektiğini savundu.

Amodei’nin önerileri arasında yapay zekâ şirketlerinde bağımsız güvenlik değerlendiricilerinin görev yapması, şirketler arasında ortak güvenlik standartlarının geliştirilmesi ve uluslararası iş birliğinin artırılması da bulunuyor.

Kaliforniya’nın attığı son adım, gelişmiş yapay zekâ sistemlerinin kontrolü, bağımsız denetimi ve olası güvenlik risklerine karşı alınabilecek önlemler konusundaki küresel tartışmaları yeniden gündeme taşıdı.