Jensen Huang istiyor Nvidia’nın kurucu ortağı ve CEO’su bugün Taipei’de düzenlenen Computex sırasında üretken yapay zekayı her veri merkezine getirmek için dedi. Huang’ın neredeyse dört yıldır halka açık ilk konuşması olan konuşma sırasında, çip çıkış tarihleri, DGX GH200 süper bilgisayarı ve büyük şirketlerle ortaklıklar dahil olmak üzere bir dizi duyuru yaptığını söyledi. İşte iki saatlik açılış konuşmasından tüm haberler.
1. Nvidia’nın oyunculara yönelik GForce RTX 4080 Ti GPU’su şu anda tam üretim aşamasında ve Tayvan’daki ortaklarla “büyük miktarlarda” üretiliyor.
2. Huang, oyun geliştiricileri için önceden eğitilmiş modellere sahip özelleştirilebilir bir yapay zeka modeli dökümhane hizmeti olan Oyunlar için Nvidia Avatar Cloud Engine’i (ACE) duyurdu. AI destekli dil etkileşimleri yoluyla NPC’lere daha fazla karakter kazandıracak.
3. Nvidia Cuda bilgi işlem modeli şu anda dört milyon geliştiriciye ve 3.000’den fazla uygulamaya hizmet veriyor. Cuda, yalnızca geçen yıl 25 milyon olmak üzere 40 milyon indirme gördü.
4. Huang, GPU sunucusu HGX H100’ün tam hacimli üretiminin başladığını ve “Tayvan’ın her yerindeki şirketler” tarafından üretildiğini söyledi. Dünyanın içinde trafo motoru bulunan ilk bilgisayarı olduğunu sözlerine ekledi.
5. Huang, Nvidia’nın 2019’da süper bilgisayar çip üreticisi Mellanox’u 6,9 milyar dolara satın almasını “şimdiye kadar aldığı en büyük stratejik kararlardan biri” olarak nitelendirdi.
6. Yeni nesil Hopper GPU’ların üretimi, ilk neslin üretime başlamasından tam iki yıl sonra, Ağustos 2024’te başlayacak.
7. Nvidia’nın GH200 Grace Hopper’ı artık tam üretimde. Süper çip, çipten çipe bağlantıyla bağlanan 4 PetaFIOPS TE, 72 Arm CPU’yu, 96 GB HBM3’ü ve 576 GPU belleği destekler. Huang, aynı zamanda dev bir belleğe sahip dünyanın ilk hızlandırılmış bilgi işlem işlemcisi olarak tanımladı: “Bu bir bilgisayar, çip değil.” Yüksek dirençli veri merkezi uygulamaları için tasarlanmıştır.
8. Grace Hopper’ın belleği yeterli değilse, Nvidia’nın çözümü DGX GH200’dür. Önce sekiz Grace Hopper’ı üç NVLINK Anahtarıyla birbirine bağlayarak, ardından bölmeleri 900 GB’de birbirine bağlayarak yapılır. Son olarak, toplam 256 Grace Hopper yongasını bağlamak için 32 başka bir anahtar katmanıyla birleştirilir. Ortaya çıkan ExaFLOPS Transformer Engine, 144 TB GPU belleğe sahiptir ve dev bir GPU olarak işlev görür. Huang, Grace Hopper’ın yazılımda 5G yığınını çalıştırabilecek kadar hızlı olduğunu söyledi. Google Cloud, Meta ve Microsoft, DGX GH200’e erişimi olan ilk şirketler olacak ve yetenekleri hakkında araştırma yapacak.
9. Nvidia ve SoftBank, Grace Hopper süper çipini SoftBank’ın Japonya’daki yeni dağıtılmış veri merkezlerine tanıtmak için bir ortaklık kurdu. Üretken yapay zeka ve kablosuz uygulamaları çok kiracılı bir ortak sunucu platformunda barındırarak maliyetleri ve enerjiyi azaltabilecekler.
10. SoftBank-Nvidia ortaklığı, şu anda Tayvan’daki şirketlerle ortaklaşa kullanılan Nvidia MGX referans mimarisine dayalı olacaktır. Sistem üreticilerine yapay zeka, hızlandırılmış bilgi işlem ve çoklu evren kullanımları için 100’den fazla sunucu varyasyonu oluşturmalarına yardımcı olacak modüler bir referans mimarisi sunar. Ortaklıktaki şirketler arasında ASRock Rack, Asus, Gigabyte, Pegatron, QCT ve Supermicro yer alıyor.
11. Huang, Ethernet tabanlı bulutların hızını artırmak için Spectrum-X hızlandırılmış ağ platformunu duyurdu. Saniyede 400 GB ve saniyede 51,2 T olmak üzere 128 bağlantı noktasına sahip Spectrum 4 anahtarını içerir. Huang, anahtarın yeni bir Ethernet türünü etkinleştirmek için tasarlandığını ve uyarlanabilir yönlendirme yapmak, performansı izole etmek ve yapı içi bilgi işlem yapmak için uçtan uca tasarlandığını söyledi. Ayrıca tıkanıklık kontrolü gerçekleştirmek için Spectrum 4 anahtarına bağlanan Bluefield 3 Smart Nic’i de içerir.
12. Dünyanın en büyük reklam ajansı olan WPP, Nvidia Omniverse tabanlı bir içerik motoru geliştirmek için Nvidia ile ortaklık kurdu. Reklamlarda kullanılmak üzere fotoğraf ve video içerikleri üretebilecektir.
13. Robot platformu Nvidia Isaac ARM artık robot yapmak isteyen herkes için mevcut ve çiplerden sensörlere kadar tam yığın. Huang, Isaac ARM’in Nova Orin adlı bir çiple başladığını ve ilk robotik tam referans yığını olduğunu söyledi.
Yapay zeka bilgi işlemindeki önemi sayesinde, Nvidia’nın hissesi geçen yıl hızla arttı ve şu anda yaklaşık 960 milyar dolarlık bir piyasa değerine sahip, bu da onu dünyanın en değerli şirketlerinden biri yapıyor (yalnızca Apple, Microsoft, Suudi Arabistan). Aramco, Alphabet ve Amazon daha üst sıralardadır).
Çin işi çıkmazda
Çin’in yapay zeka firmaları, Nvidia’nın masaya getirdiği son teknoloji ürünü silikonu yakından izlediğine şüphe yok. Bu arada, muhtemelen, önceki nesil yapay zekaya göre çok daha fazla bilgi işlem gücü ve veri gerektiren üretken yapay zekadaki ilerlemelerini baltalamakla tehdit eden başka bir ABD çip yasakları turundan korkuyorlar.
ABD hükümeti geçen yıl Nvidia’nın A100 ve H100 grafik işlem birimlerini Çin’e satmasını kısıtladı. Her iki çip de OpenAI’nin GPT-4’ü gibi büyük dil modellerini eğitmek için kullanılıyor. Yerleşik Transformer Engine ile Nvidia Hopper GPU bilgi işlem mimarisine dayanan en yeni nesil çipi olan H100, özellikle güçlü bir talep görüyor. A100 ile karşılaştırıldığında H100, LLM’lerde 9 kat daha hızlı AI eğitimi ve 30 kata kadar daha hızlı AI çıkarımı sunabilir.
Çin açıkça gözden kaçırılamayacak kadar büyük bir pazar. Çip ihracat yasağı, Nvidia’ya yalnızca geçen yılın üçüncü çeyreğinde tahmini 400 milyon dolarlık potansiyel satışa mal olacak. Nvidia bu nedenle Çin’e ABD ihracat kontrol kurallarını karşılayan daha yavaş bir çip satmaya başvurdu. Ancak uzun vadede Çin muhtemelen daha sağlam alternatifler arayacaktır ve yasak, Çin’in kilit teknoloji sektörlerinde kendine güven kazanması için dokunaklı bir hatırlatma işlevi görüyor.
Huang’ın kısa süre önce Financial Times’a verdiği bir röportajda söylediği gibi: “Eğer [China] Amerika Birleşik Devletleri’nden satın alamazlar, sadece kendileri inşa ederler. Bu yüzden ABD dikkatli olmalı. Çin, teknoloji endüstrisi için çok önemli bir pazar.”
