NVIDIA, son duyurusunda, yapay zeka odaklı yeni bir çip olan “Blackwell B200 GPU”yu tanıttı. Şirket, bu çipin dünyanın önde gelen yapay zeka geliştirme çiplerinden biri olacağını iddia ediyor. Blackwell B200 GPU’nun geliştiricilere sunduğu özellikler nelerdir?
NVIDIA, son etkinliğinde, yapay zeka odaklı yeni bir çip olan Blackwell B200 GPU’yu tanıttı. Bu çip, NVIDIA’ya göre, firmanın başarısında önemli bir rol oynayan H100’den çok daha gelişmiş bir yapıya sahip. Şirket, yeni çiplerinin dünyanın en üstün yapay zeka odaklı çipi olduğunu duyurdu. Peki, NVIDIA’nın yeni çipleri, yapay zeka geliştiricilerine hangi avantajları sunuyor?
Blackwell B200 GPU, NVIDIA’nın ifadesine göre tam 208 milyar transistör ile donatılmış durumda. Bu, çipin 20 petaflop güç üretebildiği anlamına geliyor. Şirketin belirttiğine göre, bu çipte kullanılan yeni nesil transistör teknolojisi, her nöron için 4 bitlik bir sistem kullanıyor. Bu da işlem gücünü, bant genişliğini ve model boyutunu ikiye katlıyor.
Soldaki Blackwell B200 GP, sağ taraftaki H100
NVIDIA, son açıklamasına göre, iki Blackwell B200 GPU’nun bir Grace CPU ile birleştirilmesiyle “GB200” adı verilen bir yonga kümesi oluşturdu. Şirketin belirttiğine göre, bu yonga kümesi H100’den 30 kat daha yüksek performans sunuyor ve aynı zamanda çok daha verimli çalışıyor. NVIDIA’ya göre, maliyet ve enerji tüketimi açısından, H100’e kıyasla %25’e kadar azalma sağlanacak.
Varsayalım ki, 18 trilyon parametreli bir yapay zeka modelini eğitmek için NVIDIA’ya göre 8.000 Hopper GPU ve 15 megawatt enerji gerekiyor. Ancak aynı eğitim işlemi, 2.000 Blackwell B200 GPU ve 4 megawatt enerji kullanarak da gerçekleştirilebilir. Bu bilgi, yeni çipin ne kadar verimli olduğunu açıkça ortaya koyuyor.
NVIDIA G200 yonga kümesi
NVIDIA’nın ifadesine göre, geçmişte üretilen 16 GPU’lu yapay zeka yonga kümesi, zamanının büyük bir kısmını iletişim için yüzde 60’ını harcıyordu, yüzde 40’ını ise bilgi işlemi için kullanıyordu. Ancak yeni yonga kümesi, bu durumu ortadan kaldırıyor. Şirket, GB200’de birbirine bağlanan 576 GPU için saniyede 1,8 terabayt çift yönlü bant genişliğine sahip yeni bir bağlantı sistemi oluşturduğunu açıkladı.
NVIDIA GB200 NVL72
NVIDIA’ya göre, yapay zeka geliştiren büyük şirketler, tek bir Blackwell B200 GPU satın almak yerine 36 CPU ve 72 GPU’yu içeren farklı seçeneklere yönelecekler. Bu bağlamda, NVIDIA GB200 NVL72 gibi seçenekler oluşturuldu. Bu sistem, kendinden sıvı soğutmalı bir paket olarak sunulmakta olup toplamda 720 petaflop güç üretebilmektedir. Sistemde kullanılan 5.000 kablo, toplamda 3,22 kilometre uzunluğunda. Geliştiriciler, bu sistemi 27 trilyon parametreli bir model için kullanabilecekler.
NVIDIA, GB200 NVL72’nin satışını zaten gerçekleştirmiş durumda. Yeni sistemin alıcılarının Oracle, Microsoft ve Google gibi büyük teknoloji şirketleri oldu, ancak NVIDIA henüz kaç NVL72 sattığını açıklamadı. Ayrıca, NVIDIA, bu sistemin daha gelişmiş versiyonlarını da piyasaya sürecek. Çünkü şirket, GB200’ü on binlerce birimlik bağlantılarla kullanılmak üzere tasarladı.
