Графичният процесор H100 AI на Nvidia я превърна в компания, която струва повече от Alphabet и Amazon. Конкурентите все още се опитват да я настигнат, но Nvidia може би е на път да увеличи преднината си още повече с новия графичен процесор Blackwell B200 и „суперчипа“ GB200. 

Те бяха представени по време на конференцията за разработчици, организирана от компанията в Сан Хосе, Калифорния, съобщава The Verge. 

Новият GPU B200 предлага до 20 петафлопа FP4 мощност от своите 208 милиарда транзистора. Освен това картата GB200, която комбинира два от тези графични процесори с един Grace CPU, може да предложи 30 пъти по-висока производителност за работни натоварвания плюс значително по-добра ефективност. Тя намалява разходите и консумацията на енергия до 25 пъти спрямо H100, твърдят от Nvidia.

Обучението на модел с 1.8 трилиона параметъра преди това би отнело 8000 графични процесора Hopper и 15 мегавата мощност. Днес главният изпълнителен директор на Nvidia Дженсън Хуанг казва, че 2000 графични процесора Blackwell могат да го направят, като консумират само четири мегавата.

На AI модела GPT-3, използван като бенчмарк със 175 милиарда параметъра, Nvidia казва, че GB200 има седем пъти по-висока производителност от H100, както и четири пъти по-висока скорост на обучение. 

Според компанията, едно от ключовите подобрения е трансформаторна машина от второ поколение, която удвоява изчислителната мощ, честотната лента и размера на модела, като използва четири бита за всеки неврон вместо осем. Втората ключова разлика се вижда, когато се свържат огромен брой от тези графични процесори и е свързана с превключвателя NVLink от следващо поколение, който позволява на 576 графични процесора да общуват помежду си, с 1.8 терабайта в секунда двупосочна честотна лента.

Преди това, според Nvidia, един примерен клъстър от едва 16 графични процесора е прекарвал 60% от времето си в комуникация и само 40% в реални изчисления.

Nvidia разчита на компаниите да купуват големи количества от новите графични процесори и ги опакова в по-големи дизайни, като GB200 NVL72, който включва 36 процесора и 72 видеокарти в един "шкаф" с течно охлаждане за общо 720 петафлопа ефективност на AI обучението на AI или 1440 петафлопа изходна мощност. Кабелите в устройството са с дължина около 3 километра. 

Компанията казва, че Amazon, Google, Microsoft и Oracle вече планират да предложат стелажите NVL72 в своите поделения за облачни услуги. Системите на Nvidia могат да се мащабират до десетки хиляди суперчипове GB200, свързани заедно с 800 гигабитова мрежа.

Засега от компанията не разкриват нищо за следващите си графични процесори за игри днес, но архитектурата на Blackwell вероятно ще задвижва и бъдеща серия RTX 50 на настолните графични карти.

Новините на Darik Business Review във Facebook , Instagram , LinkedIn и Twitter !