H200
Un GPU de centre de données Nvidia haut de gamme utilisé pour la formation et l'exécution de modèles d'IA, le successeur du H100 avec une mémoire améliorée.
Le H200 est l’un des processeurs graphiques pour centres de données de Nvidia, du type qui réside dans un rack de serveur plutôt que dans un ordinateur de bureau. Il s’agit du successeur du H100, largement utilisé, la principale mise à niveau étant une mémoire considérablement plus grande et plus rapide, ce qui est important car un grand modèle doit tenir dans la mémoire pour fonctionner.
Vous le verrez cité comme unité de mesure. Lorsqu’un laboratoire affirme qu’un modèle transcrit trois heures d’audio par seconde “sur un seul H200”, c’est un raccourci pour un matériel spécifique et coûteux, et il convient de s’en souvenir avant de supposer la même vitesse sur votre propre machine.