Nvidia, H100 GPU ve Hopper Mimarisini Tanıttı

Nvidia, yıllık GTC konferansında bir dizi yeni AI odaklı ürün tanıttı. Tanıtılan ürünler arasında Hopper mimarisinin detayları, bu mimari kullanılarak oluşturulan ilk veri merkezi GPU'su olan H100, yeni bir Grace CPU “süper çip” ve şirketin Eos adlı dünyanın en hızlı AI süper bilgisayarı olacağını iddia ettiği şeyi inşa etmek için yapacağı planlar yer aldı.

Nvidia, popüler, derin öğrenme yöntemleri için mükemmel bir eşleşme olduğunu kanıtlayan GPU'ları ile son on yılın AI patlamasından büyük ölçüde yararlanıyor. Yapay zekâ sektörünün veri hesaplama talebi arttıkça, Nvidia daha fazla güç elde etmek istediğini söylüyor.

Şirket tanıtımda özellikle Transformer olarak bilinen bir tür makine öğrenimi sisteminin popülaritesini vurguladı. OpenAI'nin GPT-3'ü gibi dil modellerinden DeepMind's AlphaFold gibi tıbbi sistemlere kadar her şeye güç sağlayan bu yöntem inanılmaz derecede verimli olmuştu.

AI Daha Güçlü Bilgisayar İstediğinde Nvidia Bunu Sunmak İstiyor

Nvidia, yeni Hopper mimarisinin bu zorlukların giderilmesinde yardımcı olacağını iddia ediyor. Öncü bilgisayar bilimcisi ve ABD Donanması Tuğamiral Grace Hopper'ın adını taşıyan mimari, Transformer modellerinin H100 GPU'larda çalışmasını önceki nesil yongalara kıyasla altı kat hızlandırmak için uzmanlaşmışken, yeni dördüncü nesil Nvida NVlink 256 adede kadar bağlanabilir. H100 GPU'lar, önceki nesle göre dokuz kat daha yüksek bant genişliğine sahiptir.

H100 GPU'nun kendisi 80 milyar transistör içerir ve PCle Gen5'i destekleyen ve HBM3'ü kullanan 3 TB/sn'lik bellek bant genişliği sağlayan ilk GPU'dur. Nvidia, bir H100 GPU'nun FP16, FP32 ve FP64 hesaplamada önceki nesil A100'den üç kat daha hızlı olduğunu ve 8 bit kayan nokta matematiğinde altı kat daha hızlı olduğunu söylüyor.

Şirket ayrıca yeni bir düşük gecikmeli NVLink-C2C aracılığıyla doğrudan bağlanan iki CPU'dan oluşan Grace CPU Superchip adlı yeni bir veri merkezi CPU'sunu duyurdu. Çip, yeni Hopper tabanlı GPU'ların yanı sıra "dev ölçekli HPC ve AI uygulamalarına hizmet etmek" için tasarlandı ve yalnızca CPU sistemleri veya GPU hızlandırmalı sunucular için kullanılabilir. 144 Kol çekirdeğine ve 1 TB/s bellek bant genişliğine sahiptir.

İlginizi Çekebilir: SoftBank ve Nvidia, Arm Anlaşmasını İptal Etti

Nvidia Yeni Güncellemeler de Duyurdu

Nvidia, donanım ve altyapı haberlerine ek olarak, Maxine (sanal avatarlar gibi şeyleri güçlendirmeyi amaçlayan ses ve video geliştirmeleri sağlayan bir SDK) ve Riva (her iki konuşma tanıma için kullanılan bir SDK) dahil olmak üzere çeşitli kurumsal AI yazılım hizmetlerinde güncellemeler duyurdu.

Şirket ayrıca, konuşlandırıldığında dünyanın en hızlısı olacağını iddia ettiği yeni bir AI süper bilgisayarı inşa ettiğini de açıkladı. Eos adlı süper bilgisayar, Hopper mimarisi kullanılarak oluşturulacak ve 18.4 exaflop "AI performansı" sunmak için yaklaşık 4.600 H100 GPU içerecek. Sistem yalnızca Nvidia'nın dahili araştırmaları için kullanılacak ve şirket, birkaç ay içinde hayata geçeceğini söyledi.