OpenAI Güvenlik Sistemleri ekibinde güvenlik şeffaflığı çalışmalarını yöneten David Robinson, şirketten ayrıldığını duyurdu. Robinson, 3 Ekim 2026’da gündeme gelen değerlendirmesinde, yapay zekâ şirketlerinin giderek yeteneklenen modeller için yeterli tedbiri almadığını savundu. Robinson’a göre hızlı ürün takvimi, insan değerleriyle uyum ve model davranışının denetlenmesi gibi temel güvenlik başlıklarını geride bırakıyor.
Robinson, OpenAI’de yaklaşık üç buçuk yıl çalıştığını ve büyük ürün lansmanlarıyla birlikte yayımlanan güvenlik raporlarının hazırlanmasına öncülük ettiğini söyledi. Ayrılık, şirketin güvenlik uygulamaları ve çalışan politikaları üzerine kamuoyu denetiminin arttığı bir dönemde gerçekleşti.
Robinson, güvenlik yaklaşımını neden eleştirdi?
Robinson, OpenAI’nin kültürünü sorunlu bulduğunu ve şirketin bir lansmandan diğerine yetişmeye çalışırken gerekli dikkat düzeyine ulaşamadığını söyledi. Robinson, eski çalışma arkadaşlarının iyi niyetli ve nitelikli kişiler olduğunu vurgulasa da kurumsal teşviklerin hız ve yetenek artışını öncelediği görüşünü dile getirdi.
Robinson’un eleştirisinin merkezinde, sorun ortaya çıktıktan sonra koruma katmanlarını güçlendirmeye dayanan geliştirme anlayışı yer aldı. Şirketlerin bu yaklaşımı "aşamalı kullanım" olarak tanımladığını belirten Robinson, deneme-yanılma yönteminin periyodik başarısızlıkları kaçınılmaz kıldığını savundu. Yapay zekâ modellerinin yetenekleri arttıkça olası hataların etkisinin de büyüdüğünü ekledi.
Robinson, yalnızca yeni kurallar veya mevzuatla yetinilmemesi gerektiğini, yapay zekâ laboratuvarlarının güvenlik kültürünü değiştirmesi gerektiğini belirtti. Robinson’a göre modelin insan talimatları ve değerleriyle ne ölçüde uyumlu kaldığını gösteren mevcut ölçümler henüz yeterince ayrıntılı değil.
Deneme yanılma modeli hangi riskleri taşıyor?
Robinson, testler sırasında yapay zekâ ajanlarının beklenmeyen davranışlar sergilediğine ilişkin olayları, mevcut yaklaşımın sınırlarına örnek gösterdi. Robinson, üçüncü taraf sistemlere erişimle ilişkilendirilen son güvenlik olaylarının, daha gelişmiş yapay zekâ sistemlerinin hangi ortamda eğitildiği sorusunu önemli hâle getirdiğini söyledi.
Ayrılan güvenlik çalışanı, şirketlerin hata sonrasında önlem geliştirmesinin yüksek riskli sistemlerde yetersiz kalabileceğini savundu. Robinson’a göre yapay zekâ laboratuvarları, en baştan daha düşük hata payı hedeflemeli; eğitim, test ve ürün kullanıma açma aşamalarında bağımsız denetim yürütmeli.
Robinson ayrıca insan hatasının tümüyle ortadan kaldırılamayacağını, güvenli tasarımın amacının tek bir hatanın ağır sonuçlara dönüşmesini engellemek olduğunu belirtti. Açıklama, yapay zekâ şirketlerinin teknik ilerleme ile güvenlik güvenceleri arasındaki dengeyi nasıl kuracağı tartışmasını yeniden öne çıkardı.
Nükleer tesis benzetmesi hangi önlemleri içeriyor?
Robinson, ileri yapay zekâ geliştiren şirketlerin nükleer enerji santralleri veya yoğun havaalanları gibi çalışması gerektiğini savundu. Robinson’un önerdiği model; birbirini tamamlayan kontrol katmanları, ayrıntılı ve zaman alan planlama ile kritik görevlerde uzmanlığın artırılmasını içeriyor.
Nükleer tesis benzetmesindeki ana ilke, tekil bir insan hatasının felakete dönüşmesini önleyecek yedekli sistemler kurmak. Robinson, yapay zekâ alanında teknik yetkinliğin yanında uçak güvenliği, nükleer reaktör işletimi ve finansal sistem dayanıklılığı gibi yüksek riskli alanların deneyiminden yararlanılması gerektiğini söyledi.
Robinson, daha güçlü güvenlik teşviklerinin yalnızca şirket içinden gelmesinin zor olabileceğini de belirtti. Bağımsız değerlendiriciler, kamu otoriteleri ve dış denetim mekanizmaları, şirketlerin güvenlik yatırımlarını hızlandırabilecek unsurlar arasında görülüyor.
OpenAI eleştirilere nasıl yanıt verdi?
OpenAI, modellerin güvenle yönetilip korunabilecek düzeyin ötesinde yetenek kazanmasına izin vermemeye çalıştığını açıkladı. Şirket, gerektiğinde model eğitimini durdurduğunu veya modellerin kullanıma açılmasını ertelediğini bildirdi.
OpenAI ayrıca araştırma ve test ortamlarındaki güvenliği güçlendirmek için değişiklikler yaptığını belirtti. Şirketin açıklamasında, modellerin görevleri yalnızca tamamlaması değil sorumlu biçimde tamamlaması için eğitildiği; üçüncü taraf değerlendiricilerle çalışmaların genişletildiği ve eğitim sürecinde kaygı verici davranışları daha erken saptamak üzere gerçek zamanlı izlemenin geliştirildiği yer aldı.
Şirketin yanıtı, Robinson’un kültürel değişim talebini doğrudan ele almadı. Buna karşılık OpenAI, güvenlik önlemlerinin model yetenekleriyle birlikte geliştirilmesi gerektiği görüşünü korudu.
Yapay zekâ güvenliği tartışması neden büyüyor?
Robinson’un ayrılığı, büyük yapay zekâ şirketlerindeki güvenlik çalışanlarının uyarılarının arttığı döneme denk geldi. Sektörde bazı isimler, en gelişmiş modellerin geliştirilme hızının düşürülmesini ve bağımsız değerlendirmelerin yaygınlaştırılmasını istiyor.
Anthropic Üst Yöneticisi Dario Amodei de ileri düzey modellerin geliştirilmesinde daha temkinli davranılması çağrısı yapmıştı. OpenAI Üst Yöneticisi Sam Altman ise güvenlik ve uyum çalışmalarının model yeteneklerinin önünde kalması gerektiğini söylemişti.
Tartışmanın temel sorusu, yapay zekâ modelleri daha otonom ve güçlü hâle gelirken şirketlerin güvenlik kanıtlarını hangi eşiğe kadar yükseltmesi gerektiği. Robinson’un açıklaması, teknik önlemlerin yanı sıra şirketlerin karar alma düzeni, personel yapısı ve dış denetime açıklığının da yapay zekâ güvenliğinde belirleyici olacağını ortaya koydu.
Sıkça Sorulanlar
David Robinson neden OpenAI'den ayrıldı?
David Robinson, OpenAI'nin hızlı ürün lansmanları sırasında yapay zekâ güvenliği için gerekli özeni göstermediğini savunduğu için şirketten ayrıldı. Robinson ayrıca şirket kültürünün riskleri önceden önleme yerine sorun sonrasında çözmeye odaklandığını söyledi.
David Robinson OpenAI'de hangi görevdeydi?
David Robinson, OpenAI Güvenlik Sistemleri ekibinde güvenlik şeffaflığı çalışmalarını yürüttü. Büyük ürün lansmanlarıyla yayımlanan güvenlik raporlarının hazırlanmasına öncülük ettiğini belirtti.
Robinson yapay zekâ şirketleri için hangi güvenlik modelini önerdi?
Robinson, ileri yapay zekâ şirketlerinin nükleer enerji santralleri ve yoğun havaalanları gibi çok katmanlı koruma sistemleriyle çalışmasını önerdi. Öneri; yedekli kontroller, kapsamlı planlama ve bağımsız değerlendirmeleri kapsıyor.
OpenAI, David Robinson'un eleştirilerine ne yanıt verdi?
OpenAI, modellerin güvenle yönetilebilecek seviyenin üzerinde yetenek kazanmasını önlemeye çalıştığını bildirdi. Şirket, gerektiğinde eğitimleri durdurduğunu, modelleri kullanıma açmayı ertelediğini ve gerçek zamanlı izleme ile üçüncü taraf değerlendirmelerini geliştirdiğini açıkladı.