Elon Musk uruchomił Colossus — obecnie najpotężniejszy system szkoleniowy AI — ustanawiając nowy punkt odniesienia w wyścigu AI dzięki klastrowi szkoleniowemu H100 składającemu się ze 100 000 komputerów, którego wielkość wkrótce się podwoi.

Nie jest tajemnicą, że trwa wyścig o stworzenie najpotężniejszych modeli sztucznej inteligencji, a w weekend miliarder Elon Musk, właściciel platformy mediów społecznościowych X, wysunął się na prowadzenie.

2 września Musk opublikował informację, że jego zespół w xAI — jego firmie zajmującej się rozwojem i badaniami AI — uruchomił klaster szkoleniowy Colossus 100 000 H100.

Musk powiedział, że jego zespołowi zajęło 122 dni ukończenie procesu uruchamiania Colossusa, a w ciągu kilku najbliższych miesięcy jego liczba wzrośnie dwukrotnie, osiągając 200 000.

Mega model Muska

Colossus jest obecnie uważany za najpotężniejszy dostępny system szkoleniowy AI. Liczba ta opiera się na liczbie jednostek przetwarzania grafiki (GPU) zasilających model.

Jeden użytkownik X zwrócił uwagę na rzeczywistą skalę tego rozwoju, przewyższającą każdy główny model wydany do tej pory. Dla porównania, najpotężniejszy model OpenAI wykorzystuje 80 000 GPU.

Model został opracowany we współpracy z firmą Nvidia, wiodącym na świecie producentem układów półprzewodnikowych. H200 firmy Nvidia jest jednym z najbardziej pożądanych półprzewodników na rynku, chociaż niedawno został prześcignięty przez najnowszy układ Blackwell firmy, zaprezentowany w marcu 2024 r.

Dla porównania, H200 jest wyposażony w 141 gigabajtów pamięci HBM3E i 4,8 terabajta przepustowości na sekundę. Maksymalna pojemność Blackwell jest o 36,2% wyższa niż H200 i o 66,7% wyższa pod względem całkowitej przepustowości.

Firma Nvidia odpowiedziała na odsłonięcie Colossusa, składając gratulacje Muskowi i zespołowi xAI. Podkreśliła również, że będzie on najpotężniejszy i będzie miał „wyjątkowe zyski” w zakresie efektywności energetycznej.

Na platformach społecznościowych użytkownicy z branży wyrazili przytłaczającą reakcję, nazywając to „ogromnym” osiągnięciem w dziedzinie AI.