Elon Musk’ın 100.000 GPU’lu Harika Bilgisayarı Birinci Sefer Görüntülendi [Video]

0

BEĞENDİM

ABONE OL

News

0

Elon Musk’ın yeni projesi xAI Colossus harika bilgisayarı, 100,000 GPU ile donatılmış devasa bir yapay zeka bilgisayarı olarak birinci kere ayrıntılı bir formda kameraların önüne çıkarıldı. YouTuber ServeTheHome, muhteşem bilgisayarın Süpermikro sunucularını inceleyerek bu projenin çeşitli taraflarını gözler önüne serdi. Colossus, 122 günlük bir montaj sürecinin akabinde iki aydır çevrimiçi durumda. Görüntüde birtakım ayrıntılar kapalı tutulsa da, harika bilgisayarın en kıymetli bileşenleri büyük ölçüde paylaşıldı.

xAI Colossus’un temel yapı taşı, her biri sekiz H100 GPU içeren NVIDIA HGX H100 sunucuları. Bu sunucular, Supermicro’nun sıvı soğutmalı 4U Universal GPU sisteminde yer alıyor. Her bir ünite, her biri sekiz sunucu taşıyan yapıların içinde 64 GPU barındırıyor. Her ünitenin alt kısmında yedekli bir pompa sistemi ve izleme aygıtı bulunan bir Supermicro 4U ünitesi bulunuyor. Tüm bu sistem, toplamda 1,500’den fazla GPU ünitesinden oluşan devasa bir yapıyı oluşturuyor.

Yüksek bant genişliği ihtiyaçlarına sahip olan bu muhteşem bilgisayar, ağ irtibatları için de inanılmaz bir yapı sunuyor. Her bir GPU, 400GbE suratında özel bir ağ arayüzüne sahip ve bu da toplamda 3.6 Terabit/saniye ethernet bağlantısı sağlıyor. Tüm yapı, muhteşem bilgisayarlarda standart olan InfiniBand yerine Ethernet ile çalışıyor. Bu yapı, yapay zeka modellerinin daima olarak eğitilmesi için gerekli olan yüksek data akışını sağlıyor.

Colossus’un ana kullanım alanı, Elon Musk’ın “anti-woke” yapay zeka dayanaklı sohbet botu Grok üzere X (eski ismiyle Twitter) platformundaki AI modellerinin eğitimini üstlenmek. NVIDIA’ya nazaran, Colossus şu anda dünyanın en büyük AI üstün bilgisayarı. Ayrıyeten, projenin birinci kademesi tamamlanmışken, Musk’ın 50,000 yeni H200 GPU ile mevcut kapasitesini iki katına çıkarmayı hedeflediği bir güncelleme planı da bulunuyor. Lakin bu durum, güç tüketiminin de iki katına çıkacağı manasına geliyor.

xAI Colossus’un görüntülendiği görüntüyü aşağıdan izleyebilirsiniz