Bağımsız geliştiriciler, NVIDIA GeForce RTX 20, RTX 30 ve RTX 40 serisi ekran kartlarında yapay zekâ işlemlerini sınırlayan bazı yazılımsal kısıtları aşan deneysel araçlar yayımladı. Test sonuçları, belirli Tensor Core işlemlerinde teorik hesaplama gücünün iki kata yaklaşabildiğini gösteriyor. Ancak günlük uygulamalardaki artış, iş yükünün türüne, güç sınırına ve bellek bant genişliğine göre belirgin biçimde değişiyor.
Araçlar, kalıcı video BIOS güncellemesi gerektirmeden çalışacak şekilde tasarlandı. Yine de kurulum önyükleme aşamasına müdahale ediyor, donanım garantisini geçersiz kılabiliyor ve sistem kararsızlığı ile veri kaybı riski taşıyor. Projeler ağırlıkla Linux için hazırlanırken Windows tarafındaki uygulamalar sınırlı sayıda kartla yapılan deneysel denemelerden oluşuyor.
Hangi RTX kartları ve hesaplamalar etkileniyor
Çalışmalar, Turing mimarili RTX 20, Ampere mimarili RTX 30 ve Ada Lovelace mimarili RTX 40 serilerindeki bazı modelleri kapsıyor. RTX 30 serisinde GA102, GA103, GA104 ve GA106 grafik işlemcileri için destek bildirildi. RTX 40 serisinde RTX 4090 için sonuçlar bulunurken AD102, AD103 ve AD106 tabanlı başka kartlarda destek ile uyumluluk düzeyi henüz her model için doğrulanmadı.
RTX 20 tarafında en ayrıntılı sonuçlar RTX 2080 Ti üzerinde yer alıyor. Bazı test kartları bellek kapasitesi değiştirilmiş modeller olduğundan, sonuçlar standart perakende ürünlerine doğrudan genellenemiyor. RTX 50 serisi için ise mevcut projelerde destek bulunmuyor.
Hız artışı, FP16 ve BF16 Tensor Core işlemlerinde FP32 biriktirme kullanılan matris çarpımı senaryolarına odaklanıyor. Tüketici kartlarında profesyonel sınıf kartlara kıyasla düşük çalışan komut verme hızı, deneysel araçlarla daha yüksek düzeye çıkarılıyor. Araçlar ek CUDA çekirdeği, daha geniş bellek veri yolu veya daha fazla ekran kartı belleği sağlamıyor.
Ölçümlerde iki kata yaklaşan artış görüldü
RTX 4090, FP16 Tensor Core testinde saniyede 165,6 trilyon işlemden 331,6 trilyon işleme ulaştı. Aynı kartta BF16 sonucu da yaklaşık 165,5 terafloptan 330,6 teraflopa yükseldi. Sayılar, tepe düzeydeki sentetik hesaplama kapasitesini gösteriyor; uygulama hızının her durumda aynı oranda yükselmesi beklenmiyor.
RTX 3090 Ti için 450 watt güç sınırında yapılan yoğun matris çarpımı testinde FP16 performansı yüzde 35, BF16 performansı yüzde 80 ve TF32 performansı yüzde 94 arttı. RTX 3090, RTX 3080, RTX 3070 ve RTX 3060 modelleri için kullanıcıların bildirdiği BF16 artışları ise yüzde 25 ile yüzde 81 arasında değişti.
Sonuçlardaki farkın temel nedenleri kartın güç limiti, soğutması, kullanılan işletim sistemi ve test edilen modelin işlem türü olarak öne çıkıyor. Bazı kartlarda kilit açma işlemi başarıyla tamamlandığı hâlde beklenen BF16 artışı görülmedi. Bu nedenle uyumluluk listeleri kesin performans taahhüdü sayılmıyor.
Yerel yapay zekâ uygulamalarında kazanç sınırlı kalabilir
En büyük yarar, yerel büyük dil modeli çalıştırma, görüntü üretimi, yapay zekâ destekli görüntü işleme ve yoğun matris hesaplamalarında bekleniyor. Bir RTX 3090 kullanıcısının ölçümünde büyük dil modeli için istem işleme hızı yüzde 33 yükseldi. Aynı çalışmada yeni token üretim hızı neredeyse değişmedi.
Farkın nedeni, dil modellerinde token üretiminin çoğu zaman ekran kartı belleği bant genişliğiyle sınırlanması. Hesaplama gücü artmasına rağmen bellekten veri taşıma hızı değişmediği için sohbet botlarının yanıt üretiminde sınırlı kazanım görülebiliyor. Görüntü üretiminde yapılan bazı BF16 testleri ise yüzde 56 ile yüzde 59 arasında daha yüksek iş hacmi bildirdi.
Araçların oyun performansına veya kare hızına doğrudan katkı sunduğuna ilişkin doğrulanmış kanıt bulunmuyor. DLSS Tensor Core kullanmasına karşın, mevcut testler kilit açma işleminin oyunlardaki DLSS süresini kayda değer biçimde azalttığını göstermiyor. INT8 kullanan iş yüklerinde de artış çok düşük kalabiliyor.
Kurulum donanım ve garanti riski taşıyor
Deneysel modüller, resmi ekran kartı sürücüsünden önce yükleniyor. Modül ilgili ayarları değiştirdikten sonra PCIe işlev düzeyi sıfırlaması yapılıyor ve standart sürücü kartı yeniden tanıyor. Yöntem, kalıcı BIOS yazımı gerektirmediği için geri alınabilir görünse de önyükleme zincirine müdahale edilmesi teknik bilgi gerektiriyor.
Proje belgeleri, ekran kartının veya bilgisayarın kilitlenebileceği, sistemin açılmayabileceği, verilerin bozulabileceği ve donanımın zarar görebileceği uyarısını içeriyor. Üretici garantisinin de geçersiz kalma riski var. Güç tüketimi ve ısı üretimi, kartın varsayılan güç sınırı korunuyorsa değişmeyebilir; ancak farklı güç ayarları kararlılığı ve sıcaklıkları etkileyebilir.
Yerel yapay zekâ için eski nesil ekran kartı arayan kullanıcıların ilgisi ikinci el piyasasını etkileyebilir. Buna karşın sınırlı kart desteği, Linux gereksinimi, değişken uygulama sonuçları ve donanım riski, araçların genel kullanıcılar için hazır bir performans yükseltmesi olmadığını gösteriyor.
Sıkça Sorulanlar
NVIDIA RTX kartlarındaki deneysel kilit açma işlemi ne sağlıyor?
Deneysel araçlar, RTX 20, RTX 30 ve RTX 40 serilerinde FP16 ve BF16 tabanlı bazı matris hesaplamalarının komut verme hızını yükseltiyor. En yüksek tepe performans artışı RTX 4090 testinde iki kata yaklaştı.
RTX 4090’ın test sonuçları ne oldu?
RTX 4090, FP16 Tensor Core testinde 165,6 terafloptan 331,6 teraflopa çıktı. Gerçek uygulamalardaki hızlanma aynı oranda gerçekleşmeyebilir; test edilen iş yükü ve bellek bant genişliği sonucu belirliyor.
Kilit açma işlemi oyunlarda FPS artışı sağlar mı?
Mevcut testler, kilit açma işleminin oyun kare hızını veya DLSS çalışma süresini anlamlı biçimde artırdığını göstermiyor. Kazançlar ağırlıkla yerel yapay zekâ, görüntü üretimi ve matris hesaplama işlerinde görülüyor.
Araçlar hangi işletim sisteminde çalışıyor?
Projelerin ana uygulamaları Linux tabanlı sistemler için geliştirildi. Windows için bazı deneysel uygulamalar bulunsa da kart desteği sınırlı ve genel kullanıma hazır değil.
RTX ekran kartı kilidini açmanın riskleri nelerdir?
İşlem üretici garantisini geçersiz kılabilir; ekran kartı veya bilgisayar kilitlenebilir, sistem açılmayabilir, veriler bozulabilir ve donanım zarar görebilir. Araçlar yalnızca teknik riskleri değerlendirebilen kullanıcılar için deneysel nitelik taşıyor.