Nvidia (NVDA) dün üretici yapay zekâ teknolojisin arkasındaki modelleri eğitmek ve dağıtmak için tasarlanan yeni grafik işlem birimi (GPU) H200’ü tanıttı.
Yeni GPU, yaygın sohbet robotu OpenAI’ın en gelişmiş büyük dil modeli GPT-4’ü eğitmek için kullandığı çip olan H100’ün bir güncellemesi de diyebiliriz. Büyük şirketler, startup’lar ve devlet kurumları sınırlı sayıdaki bu çiplerden satın almak için adeta bir yarış halinde.
Raymond James’in tahminine göre H100 çiplerinin maliyeti 25 bin ile 40 bin dolar aralığında ve eğitim sürecinde en büyük modelleri oluşturmak için binlercesinin birlikte çalışması gerekiyor.
🔎 Yeni Çipin Özellikleri
H200’deki en önemli gelişme, çipin “çıkarım” yapmasına veya metin, görüntü veya tahmin üretmek için eğitildikten sonra büyük bir model kullanmasına yardımcı olacak 141 GB yeni nesil “HBM3” bellek içermesi.
Nvidia, H200’ün H100’den neredeyse iki kat daha hızlı çıktı üreteceğini açıkladı. Bu açıklama Meta Platforms’un (META) Llama 2 LLM’sini kullanan bir teste dayanıyor.
2024 yılının ikinci çeyreğinde piyasaya sürülmesi beklenen H200, AMD’nin (AMD) MI300X GPU’su ile rekabet edecek. AMD’nin H200’e benzer çipi, öncekilere göre ek bir belleğe sahip ve bu da çıkarım yapmak için donanıma büyük modeller sığdırmaya yardımcı oluyor.
Nvidia, H200’ün H100 ile uyumlu olacağını, yani önceki modelle hâlihazırda eğitim alan yapay zekâ şirketlerinin yeni sürümü kullanmak için sunucu sistemlerini veya yazılımlarını değiştirmeleri gerekmeyeceğini belirtti.
Şirketin yapay zekâ GPU’larına duyulan heyecan, 2023’te şu ana kadar 230%’dan fazla artış gösteren şirketin hisselerine oldukça olumlu yansıdı. Bu güçlü artışa paralel, Nvidia üçüncü mali çeyrek için bir yıl öncesine göre 170% artışla yaklaşık 16 milyar dolar gelir bekliyor.
Burada yer alan bilgiler yatırım tavsiyesi içermez. Bilgi için: Midas Sorumluluk Beyanı
Bu içerik hazırlanırken faydalanılan kaynak: CNBC
