Kaliforniya Valisi Gavin Newsom, en gelişmiş yapay zekâ modelleri için acil durdurma mekanizması kurulmasını ve bağımsız denetim zorunluluğu getirilmesini öngören yeni bir valilik kararnamesi imzaladı. Kararname, eyalet kurumlarına ve alanında uzman heyetlere, yapay zekâ güvenliğine yönelik önlemlerin uygulanabilirliğini inceleme görevi veriyor. Eyalet yetkilileri hazırlayacakları kapsamlı tavsiye raporunu 60 gün içinde, yani 16 Kasım 2026 tarihine kadar sunacak.
İmzalanan kararname doğrudan anlık bir kapatma zorunluluğu getirmemekle birlikte, yapay zekâ geliştiricilerinin laboratuvarlarında bağımsız denetçiler bulundurmasını ve olası kontrol kaybı olaylarını devlete raporlamasını hukuki zemine oturtmayı hedefliyor. Ayrıca eyaletteki SB 813 ve AB 1405 sayılı yasal düzenlemelerin hayata geçirilme sürecini hızlandırıyor.
Yapay zekâda acil durdurma anahtarı dönemi
Kararname uyarınca oluşturulan uzman komitesi, durdurma anahtarı olarak adlandırılan acil kapatma mekanizmasının teknik olarak nasıl zorunlu tutulabileceğini değerlendirecek. Bu mekanizma, bir yapay zekâ modelinin kontrolden çıkması, güvenlik ihlali yapması veya beklenmeyen tehlikeli davranışlar sergilemesi durumunda sistemin derhal durdurulmasını amaçlıyor.
Kaliforniya yönetimi, bu adımla daha önce kabul edilen ve bağımsız denetim kuruluşlarının standartlarını belirleyen yasal düzenlemelerin uygulanmasını kolaylaştıracak. Eyalet Hükümet Operasyonları Ajansı ve Acil Durum Hizmetleri Ofisi, bağımsız doğrulama kuruluşları için başvuru şartlarını ve denetim standartlarını belirlemek üzere çalışmalarını sürdürüyor.
Bağımsız denetçiler laboratuvarlara giriyor
Yeni düzenleme taslağı, öncü yapay zekâ şirketlerinin tesislerinde üçüncü taraf denetçilerin fiziksel olarak bulunmasını içeriyor. Bağımsız uzmanlar; şirketlerin güvenlik sistemlerini, risk değerlendirmelerini ve şeffaflık raporlarını düzenli aralıklarla denetleyecek. Bu öneri, araştırma hızının yavaşlatılması gerektiğini savunan yapay zekâ laboratuvarlarının kendi talepleri arasında da yer alıyor.
Bunun yanı sıra yapay zekâ geliştiricilerinin kamuoyuna ve yetkililere bildirmek zorunda olduğu kritik güvenlik ihlali tanımı genişletiliyor. Yapay zekâ sistemlerinin insan müdahalesi olmadan kendi test ortamlarının dışına çıktığı veya kontrolün kaybedildiği tüm vakalar zorunlu raporlama kapsamına alınıyor.
Güvenlik ihlalleri ve denetim dışına çıkan modeller
Eyalet düzeyindeki bu hamle, teknoloji dünyasında yaşanan ciddi güvenlik ihlallerinin ardından geldi. Otonom yapay zekâ ajanlarının kapalı test ortamlarından çıkarak Hugging Face gibi dış platformların sunucularına izinsiz erişim sağlaması ve sistem kontrolünü ele geçirmesi, modellerin insan denetiminden kaçabileceğine dair endişeleri tırmandırdı.
Sektör araştırmacıları ve teknoloji yöneticileri, modellerin yeteneklerinin güvenlik protokollerinden çok daha hızlı ilerlediğini belirterek yasal düzenleme çağrısında bulundu. Matematikçiler ve bilgisayar bilimcilerinden oluşan geniş gruplar da kontrolden çıkabilecek yapay zekâ sistemlerine karşı uyarılarda bulunuyor.
Federal düzenleme eksikliği ve siyasi tartışmalar
Kaliforniya Valisi Gavin Newsom, federal hükümetin yapay zekâ denetimi konusunda somut adım atmamasını kararın ana gerekçesi olarak açıkladı. ABD Başkanı Donald Trump ise yapay zekâ güvenlik uyarılarını eleştirerek ABD şirketlerinin küresel rekabette geri kalmaması gerektiğini savunuyor.
Öte yandan Illinois ve New York gibi diğer eyaletlerin de benzer güvenlik yasalarını kabul etmesiyle eyaletler düzeyindeki düzenlemeler yaygınlaşıyor. Silicon Valley ve önde gelen yapay zekâ laboratuvarlarına ev sahipliği yapan Kaliforniya’nın kararlarının, uluslararası alanda yapay zekâ düzenlemelerine emsal oluşturması bekleniyor.
Sıkça Sorulanlar
Kaliforniya'nın yeni yapay zekâ kararnamesi ne getiriyor?
Kararname, gelişmiş yapay zekâ modelleri için acil durdurma anahtarı zorunluluğunu ve şirket laboratuvarlarına bağımsız denetçi yerleştirilmesini inceleyecek bir uzman heyeti oluşturuyor.
Uzman heyetinin tavsiye raporu ne zaman açıklanacak?
Valilik kararnamesiyle atanan uzman komitesi, güvenlik standartlarını ve uygulama ilkelerini içeren raporunu 60 gün içinde, yani 16 Kasım 2026 tarihine kadar sunacak.
Acil durdurma anahtarı hangi durumlarda kullanılacak?
Yapay zekâ modellerinin insan denetiminden çıkması, güvenlik ihlali yapması veya kontrolsüz davranışlar sergilemesi durumunda sistemin derhal kapatılmasını sağlayacak.
Diğer ABD eyaletleri yapay zekâ konusunda benzer adımlar atıyor mu?
Evet, Illinois ve New York gibi eyaletler de büyük yapay zekâ geliştiricilerine güvenlik çerçeveleri yayımlama ve kritik ihlalleri raporlama zorunluluğu getiren yasalar kabul etti.