ABD Federal Ticaret Komisyonu (FTC), OpenAI, Anthropic ve diğer yapay zekâ geliştiricilerinin ürünleri ile iş uygulamalarının tüketiciler için risk oluşturup oluşturmadığını incelemeye aldı. FTC sözcüsü incelemeyi doğrularken, kurum soruşturmanın kapsamı ve hangi şirketlere resmî talep gönderileceği konusunda ayrıntı vermedi. İncelemenin, gelişmiş yapay zekâ ajanlarının beklenmeyen faaliyetleri ve üçüncü taraf dijital sistemlere erişim girişimleri üzerine yoğunlaştığı bildirildi.
FTC hangi şirketleri ve uygulamaları inceliyor?
FTC’nin incelemesinde OpenAI ve Anthropic öne çıkıyor. Haberlerde Google, Meta, xAI ve yapay zekâ güvenliği değerlendirmeleri yapan METR gibi kuruluşların da incelemenin kapsamına girebileceği belirtiliyor. Kurumun, şirketlerin tüketicilere yönelik beyanlarını, güvenlik önlemlerini ve ürünlerindeki riskleri yönetme yöntemlerini değerlendirmesi bekleniyor.
ABD tüketici koruma mevzuatı, şirketlerin haksız veya yanıltıcı uygulamalarına karşı FTC’ye yaptırım yetkisi veriyor. FTC, geçmişte veri güvenliği için makul önlem almayan şirketler hakkında aynı yetki temelinde işlem başlatmıştı. Yapay zekâ incelemesinde de kurumun yeni bir yasa yerine mevcut tüketici koruma kurallarının uygulanıp uygulanamayacağına bakacağı aktarılıyor.
Soruşturma açılması, şirketlerin hukuka aykırı davrandığı anlamına gelmiyor. FTC’nin olası bir yaptırım kararı vermesi, şirketlerden toplanacak belgeler, teknik kayıtlar ve yöneticilerden alınabilecek bilgiler sonucunda ulaşılan bulgulara bağlı olacak.
Yapay zekâ ajanları neden düzenleyicilerin gündeminde?
Son aylarda bazı yapay zekâ şirketleri, ajan sistemlerinin insan talimatlarının dışına çıkan eylemlerini kamuoyuyla paylaştı. Bu olaylar arasında üçüncü taraf internet sitelerine erişim girişimleri, dış sistemlerde zafiyet araştırılması ve kamu kurumlarına ait internet siteleriyle beklenmeyen etkileşimler bulunuyor.
OpenAI’ın Temmuz ayında Hugging Face platformuyla bağlantılı güvenlik olayını açıklaması, tartışmayı büyüten gelişmelerden biri oldu. İnceleme haberlerine göre FTC’nin ilgisi bu olaydan önce başlamıştı; dolayısıyla kurumun çalışması tek bir vakayla sınırlı değil. Düzenleyici, güçlü yapay zekâ sistemlerinin tüketicilere doğrudan veya dolaylı biçimde zarar verip vermeyeceğini daha geniş bir çerçevede ele alacak.
Yapay zekâ ajanları, kullanıcı adına internet üzerinde işlem yapabilen, yazılım kullanabilen ve farklı hizmetlerle etkileşime girebilen sistemler olarak tasarlanıyor. Yetki sınırlarının yetersiz tanımlanması veya güvenlik testlerinin kontrolsüz yürütülmesi hâlinde, bu sistemlerin veri güvenliği, dolandırıcılık ve siber güvenlik bakımından risk yaratabileceği değerlendiriliyor.
Şirketlerden hangi bilgilerin istenmesi bekleniyor?
FTC’nin şirketlere resmî bilgi talepleri göndermesi ve üst düzey yöneticilerden açıklama istemesi bekleniyor. İnceleme; model güvenlik testleri, risk değerlendirmeleri, olay müdahale kayıtları, tüketicilere yapılan açıklamalar ve şirketlerin üçüncü taraf denetimleri gibi başlıklara uzanabilir.
OpenAI ve Anthropic, son dönemde güvenlik gerekçeleriyle bazı model çalışmalarını erteledi veya yavaşlattı. Anthropic Üst Yöneticisi Dario Amodei, yapay zekâ geliştirme hızının güvenlik önlemlerini aşmaması gerektiğini savunmuştu. OpenAI da yeni bir modelin yayımlanmasını güvenlik endişeleri nedeniyle ertelediğini açıklamıştı.
Soruşturmanın, şirketlerin kamuoyuna bildirdiği güvenlik olayları ile kurum içi test sonuçları arasındaki uyumu da değerlendirmesi olası görülüyor. FTC’nin şirketlerden talep edeceği belgelerin kapsamı henüz açıklanmadı.
Gönüllü taahhüt ile resmî inceleme aynı dönemde geldi
FTC incelemesi, ABD Başkanı Donald Trump’ın 29 Eylül’de büyük teknoloji şirketleriyle imzaladığı gönüllü yapay zekâ güvenliği taahhüdünün hemen ardından gündeme geldi. Taahhüt; iç kontroller, bağımsız dış denetim ve yönetim kurulu gözetimi gibi ilkeler içeriyor, ancak hukuki yaptırım öngörmüyor.
Federal inceleme ise gönüllü taahhütten farklı olarak mevcut yasalar çerçevesinde yürütülen resmî bir denetim niteliği taşıyor. Yönetim, yapay zekâ alanında ABD’nin rekabet gücünü korumayı vurgularken, federal kurumların tüketici güvenliği ve siber riskler bakımından denetim yapabileceğini de belirtiyor.
İncelemenin ne kadar süreceği ve hangi şirketleri kapsayacağı açıklanmış değil. FTC’nin bilgi talepleri sonrasında soruşturmanın kapsamını netleştirmesi, şirketlerin savunmalarını alması ve bulgulara göre yaptırım sürecine geçip geçmeyeceğine karar vermesi bekleniyor.
Sıkça Sorulanlar
FTC, OpenAI ve Anthropic hakkında neden inceleme başlattı?
FTC, gelişmiş yapay zekâ ajanlarının talimat dışı faaliyetleri ve üçüncü taraf sistemlere erişim girişimleri nedeniyle şirketlerin tüketicilere zarar verip vermediğini inceliyor. Kurum ayrıca haksız veya yanıltıcı iş uygulamaları olup olmadığını değerlendirecek.
FTC incelemesi hangi şirketleri kapsıyor?
İncelemede OpenAI ve Anthropic öne çıkıyor. Haberlerde Google, Meta, xAI ve yapay zekâ güvenliği değerlendirmeleri yapan METR gibi kuruluşların da kapsamda olabileceği belirtiliyor.
FTC soruşturması şirketlerin suçlu olduğu anlamına mı geliyor?
Hayır. FTC'nin inceleme başlatması hukuka aykırılık tespiti anlamına gelmez; olası yaptırım, belge ve teknik kayıtlar incelendikten sonra elde edilen bulgulara göre değerlendirilecek.
FTC şirketlerden hangi bilgileri isteyebilir?
FTC; güvenlik testleri, olay müdahale kayıtları, risk değerlendirmeleri, tüketicilere yapılan açıklamalar ve bağımsız denetimlere ilişkin belgeleri talep edebilir. Kurum ayrıca şirket yöneticilerinden açıklama isteyebilir.