MLPerf Storage v3.0 ajoute une couche de données S3 au cadre POSIX existant, ainsi que de nouvelles charges de travail de cache KV et de base de données vectorielle,l'alignement étroit des critères de référence sur les exigences des systèmes de données d'IA modernes;.
Développé par MLCommons, le benchmark MLPerf Storage évaluait à l'origine les performances de stockage pour les charges de travail de formation à l'apprentissage automatique, y compris Unet3D, Cosmoflow et Resnet50,utilisant le matériel NVIDIA A100 et H100 GPULa version 3.0 comporte une restructuration complète des tests, centrée sur quatre scénarios de charge de travail de base.
Le cadre de test mis à jour comprend une formation en IA basée sur Unet3D et RetinaNet, qui mesure l'évolutivité maximale de l'accélérateur tout en maintenant une utilisation supérieure à 90%.simulé sur des GPU NVIDIA B200 ou AMD MI355Il couvre également la vérification des modèles de style Llama 3 allant de 8B à 1,25T, en donnant la priorité à une faible latence pour 10 tours d'écriture et de lecture itératives.La suite intègre des tests de base de données vectorielles sur un million de, ensemble de données Milvus de dimension 1536 pour maximiser le débit de requête tout en suivant les taux de latence et de rappel, ainsi que les tests de cache KV pour évaluer la capacité maximale de support de conversation simultanée.
Brian Belgodere, co-président du groupe de travail MLPerf Storage, a déclaré que le nouveau portefeuille de tests enrichit la couverture de référence pour les demandes de stockage d'inférence d'IA courantes.La suite mise à jour équilibre la formation axée sur la formation et les tests de checkpointing avec des évaluations du cache KV et des bases de données vectorielles axées sur l'inférenceEn décomposant les systèmes d'IA intégrés en évaluations ciblées de la charge de travail de stockage, y compris le contrôle des points de contrôle, la mise en cache KV et le traitement des requêtes vectorielles,l'indice de référence permet aux professionnels de l'industrie d'optimiser mieux les configurations de l'infrastructure d'IA et d'éliminer les goulets d'étranglement liés aux performances du stockage;.
La couche de stockage d'objets S3 nouvellement ajoutée prend en charge les tests de formation, de checkpointing et de base de données vectorielle partielle, avec environ un sixième de toutes les soumissions v3.0 adoptant un accès de stockage basé sur S3.
Curtis Anderson, un autre coprésident du groupe de travail, a noté qu'au fur et à mesure que le contexte de l'IA évolue à des milliards de jetons, le stockage d'objets émerge comme un moyen viable,même une alternative préférable au stockage traditionnel des systèmes de fichiersLe support natif de S3 dans la version 3.0 fournit des données de performance transparentes pour guider les décisions de déploiement de stockage d'entreprise.
Un total de 19 fournisseurs ont présenté des résultats pour ce cycle de référence.VAST Data et WEKA étaient absents de la liste de soumissionLes fonctionnaires de MLPerf ont commenté que les fournisseurs traditionnels de NAS ont une participation limitée, la plupart des acteurs établis restant à l'écart du dernier tour.
Compte tenu de la diversité du paysage de stockage de l'IA, la version 3.0 ne publie pas un classement global unique, mais fournit des résultats indépendants pour les quatre catégories de charges de travail avec des mesures multidimensionnelles.L'ensemble complet de données sur les résultats couvre environ 145 lignes et 55 colonnes, totalisant près de 8 000 cellules de données, avec 12 colonnes dédiées exclusivement aux métriques de performance du cache KV.largeur de bande de lecture/écriture et latence P95 dans les architectures de stockage uniquement et de stockage+mémoire pour les charges de travail des modèles Llama 8B et 70B.
MLCommons recommande également une évaluation standardisée des performances basée sur la densité par rack et l'efficacité énergétique par watt pour mesurer l'efficacité opérationnelle globale de l'infrastructure.
La suite de benchmarks mise à jour comporte une logique d'évaluation très complexe, permettant aux fournisseurs de soumettre sélectivement des résultats pour des charges de travail ciblées.Suzhou Zishan et TTA ont présenté les résultats des essais dans la base de données des vecteurs.
Everpure a rapporté des performances de haut niveau pour son FlashBlade//EXA à travers les tests de contrôle et de cache KV pour les modèles de paramètres 405B et 1.25T. Déployé sur 30 nœuds de données pour prendre en charge 1,024 accélérateurs simulés, la plate-forme a atteint une bande passante d'écriture de 877,52 GiB/s (17,74s d'achèvement) et une bande passante de lecture de 588,28 GiB/s (28,99s d'achèvement) pour le checkpointing du modèle de 1,25T. Sa performance a augmenté linéairement de 327.65 GiB/s de débit d'écriture sur 10 nœuds jusqu'à un résultat maximal de 30 nœuds.
Les données complémentaires montrent que les soumissions d'écriture sur les points de contrôle sur place ont donné une efficacité énergétique médiane de 14 GB/s par watt, avec un pic de 201 GB/s par watt.Les tests de lecture UNet3D ont enregistré un rendement médian de 34 GB/s par watt et un maximum de 277 GB/s par watt..
La Commission a examiné les informations fournies par les autorités chinoises.
Sandy Yang, directeur de la stratégie mondiale
WhatsApp ou WeChat: +86 13426366826
Le courrier électronique: yangyd@qianxingdata.com
Le site Web est le suivant: www.qianxingdata.com/www.storagesserver.com
En ce qui concerne les affaires
Distribution de produits TIC/Intégration des systèmes et services/Solutions d'infrastructure
Avec plus de 20 ans d'expérience dans la distribution informatique, nous travaillons en partenariat avec des marques mondiales de premier plan pour fournir des produits fiables et des services professionnels.
Utiliser la technologie pour bâtir un monde intelligentVotre fournisseur de services de produits TIC de confiance!
Votre message doit contenir entre 20 et 3 000 caractères!
French
