Ouvrir le menu principal

MacGeneration

Recherche

Nvidia lance une carte avec 188 Go de RAM pour accélérer les IA conversationnelles

Pierre Dandumont

vendredi 24 mars 2023 à 13:30 • 23

Matériel

Vous avez dû le voir, les IA conversationnelles comme ChatGPT — la version 4 est arrivée récemment — demandent une très grande puissance de calcul lors de l'entraînement initial. Et surtout, le nombre de paramètres (175 milliards pour les modèles GPT-3) nécessite une quantité de mémoire très élevée. Pour ce type d'usage, Nvidia a donc annoncé la H100 NVL, en indiquant que cette génération est jusqu'à 12x plus rapide que la précédente sur les tâches liées à l'IA.

Le GPU Hopper, présent en double dans la carte.

Une sorte de GPU mais sans sortie vidéo

Techniquement, les cartes de la famille H100 sont des GPU, mais pensés uniquement pour du calcul, sans réelles possibilités d'affichage. La nouvelle carte est un véritable monstre : elle prend quatre emplacements (au sens physique du terme, c'est-à-dire la place de quatre cartes classiques) et nécessite deux emplacements PCI-Express, donc deux connecteurs. En effet, cette carte contient littéralement deux cartes PCI-Express reliées par la technologie NVLink 4, qui offre une bande passante de 600 Go/s.

Tous les détails ne sont pas connus, mais les GPU devraient utiliser la majorité des unités — donc 2x 16 896 — pour une puissance maximale de l'ordre de 135 téraflops (2x 67 téraflops). Elle impressionne surtout sur la mémoire : alors que les autres H100 sont bridées au niveau de la mémoire HBM3, cette version NVL propose (presque) le maximum possible.

188 Go de RAM

Les versions disponibles actuellement se limitent à 80 Go sur un bus 5 120 bits, avec une puce désactivée — sur les six possibles — pour augmenter le rendement. La H100 NVL, elle, contient 2x 94 Go de RAM sur un bus 6 144 bits, pour une bande passante de 3,9 To/s par carte. La raison de la perte de 2 Go sur le maximum théorique n'est pas connue, mais la valeur impressionne tout de même. Le lien NVLink 4 autorise l'unification de la mémoire du point de vue du logiciel, ce qui permet au système de voir une carte avec 188 Go de RAM au total, avec une bande passante cumulée de 7,8 To/s.

On peut évidemment en mettre plusieurs par serveurs.

Le TDP des cartes est élevé et configurable, en fonction de la possibilité de refroidissement du serveur : 350 W ou 400 W par carte, donc jusqu'à 800 W au total.

Ce type de cartes vise évidemment un public très particulier, et si le prix n'est pas connu, il est probablement très élevé compte tenu des choix techniques. La version PCI-Express classique, dotée de 80 Go de RAM dans une variante deux fois moins rapide que la HBM3 choisie ici, se négocie par exemple aux alentours de 28 000 $. Notons enfin que les pénuries de GPU attendues à cause de l'essor des IA ne devraient pas se régler avec ce type de cartes, étant donné la cible et les prix attendus…

L

L'essor des IA pourrait créer une nouvelle pénurie de GPU

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

Tentant d’éviter les taxes, Sonos mise sur le mauvais cheval

03/04/2025 à 22:30

• 9


Racheter TikTok, un cadeau empoisonné ?

03/04/2025 à 21:20

• 2


Test d'une prison pour smartphone, pour ceux qui n'arrivent pas à abandonner leur iPhone

03/04/2025 à 20:30

• 6


Orange Téléphone donne maintenant le nom du spammeur qui vous appelle

03/04/2025 à 20:15

• 17


Tim Cook encaisse 24,19 millions de dollars d’actions restreintes

03/04/2025 à 20:00

• 13


La Switch 2 est déjà disponible en précommande chez certains revendeurs, avec des promos

03/04/2025 à 19:42

• 50


RED et SFR augmentent à leur tour les frais de résiliation de leurs box Internet

03/04/2025 à 18:15

• 4


Pages, Numbers et Keynote passent à Apple Intelligence

03/04/2025 à 17:45

• 15


L'Arcep observe une inflation des appels indésirables et abusifs chez les abonnés

03/04/2025 à 17:30

• 39


Guerre commerciale : le cours de l’action Apple en compote

03/04/2025 à 17:00

• 100


Promo Fnac : 100 € en cagnotte pour un MacBook Air M4 ou iPhone 16 Pro et 50 € pour les autres 🆕

03/04/2025 à 16:27

• 1


Les droits de douane décrétés par Donald Trump pourraient frapper Apple et ses clients tous azimuts

03/04/2025 à 15:35

• 52


Apple appelle Samsung à l’aide pour l’OLED de l’iPad mini

03/04/2025 à 14:45

• 12


Guerre commerciale : l’Union européenne prête à taxer Apple, Google et les services numériques américains

03/04/2025 à 14:00

• 160


Avec Thundermail, Mozilla veut répondre à Gmail, Proton Mail et les autres

03/04/2025 à 13:15

• 12


macOS Sequoia : le panneau de Mise à jour a été revu en surface

03/04/2025 à 12:15

• 3