NVIDIA'nın Blackwell GB300 platformu, ajan AI iş yüklerini ölçen yeni AA-AgentPerf benchmarkında olağanüstü bir performans sergiledi. Şirket, GB300 NVL72 sisteminin MW başına 60.000 eşzamanlı ajan destekleyerek, önceki nesil Hopper H200 platformuna kıyasla 20 kat daha iyi bir enerji verimliliği sunduğunu duyurdu.
AA-AgentPerf benchmarkı, gerçek dünya ajan AI senaryolarını simüle ederek üç temel metriği ölçüyor: İlk Token Süresi (TTFT), Çıktı Hızı ve Sistem Çıktı Verimi. Bu metrikler, modern AI dağıtımlarının temelini oluşturuyor ve NVIDIA'nın GB300'ü bu alanlarda üstün performans gösteriyor.
NVIDIA, benchmark testlerinde DeepSeek V4 Pro modelini kullanarak GB300 NVL72'nin GPU başına 57,5 eşzamanlı ajan destekleyebildiğini gösterdi. Bu, H200'ün GPU başına 1,4 ajanlık performansına kıyasla büyük bir sıçrama anlamına geliyor. Şirket, bu başarının Blackwell mimarisinin büyük ölçekli ajan kodlama iş yüklerini verimli bir şekilde yönetme yeteneğini kanıtladığını belirtiyor.
Geleceğe bakıldığında, NVIDIA'nın Rubin mimarisi yolda ve bu performansı daha da ileriye taşıması bekleniyor. Rubin, NVFP4 ile 50 PFLOPs bilgi işlem gücü sunacak ve Vera CPU ile birlikte LLM araç çağrıları ile uçtan uca performansta önemli kazanımlar sağlayacak. Bu gelişmeler, ajan AI'nın gelecekteki potansiyelini gözler önüne seriyor.