Spécifications du DapuStor J5060

Performances du DapuStor J5060

Checkpointing

Pour évaluer les performances réelles du SSD DapuStor J5060 dans les environnements d'entraînement IA, nous avons utilisé l'outil de benchmark Data and Learning Input/Output (DLIO). Développé par le Laboratoire National d'Argonne, DLIO est spécifiquement conçu pour tester les modèles d'E/S dans les charges de travail d'apprentissage profond. Il fournit des informations sur la manière dont les systèmes de stockage gèrent des défis tels que le checkpointing, l'ingestion de données et l'entraînement de modèles. Le graphique ci-dessous illustre la manière dont les deux disques gèrent le processus sur 99 points de contrôle. Lors de l'entraînement de modèles d'apprentissage automatique, les points de contrôle sont essentiels pour sauvegarder périodiquement l'état du modèle, évitant ainsi la perte de progression lors d'interruptions ou de pannes de courant. Cette demande de stockage nécessite des performances robustes, en particulier sous des charges de travail soutenues ou intensives.

La plateforme choisie pour ce travail était notre Dell PowerEdge R760 fonctionnant sous Ubuntu 22.04.02 LTS. Nous avons utilisé la version 2.0 du benchmark DLIO de la version du 13 août 2024. Notre configuration système est décrite ci-dessous :

• 2 x Intel Xeon Gold 6430 (32 cœurs, 2,1 GHz)
• 16 x 64 Go DDR5-4400
• 480 Go Dell BOSS SSD
• Câbles série Gen5 JBOF
  • 61,44 To Dapustor J5060
  • 61,44 To Solidigm D5-P5336

Pour garantir que nos benchmarks reflètent des scénarios réels, nous avons basé nos tests sur l'architecture du modèle LLAMA 3.1 405B. Nous avons implémenté le checkpointing à l'aide de torch.save() pour capturer les paramètres du modèle, les états de l'optimiseur et les états des couches. Notre configuration a simulé un système à 8 GPU, mettant en œuvre une stratégie de parallélisme hybride avec un parallélisme tensoriel à 4 voies et un traitement parallèle de pipeline à 2 voies répartis sur les huit GPU. Cette configuration a abouti à des tailles de points de contrôle de 1 636 Go, représentatives des exigences modernes d'entraînement de grands modèles linguistiques.

Dans l'ensemble, le Dapustor J5060 a démontré une solide cohérence lors de la phase initiale des tests, avec des temps oscillant autour de 575,66 secondes pour les 33 premiers points de contrôle. Le 5060J a été capable de maintenir des performances plus élevées avant que le disque ne soit rempli pour la première fois. D'autre part, le Solidigm P5336, bien qu'initialement plus lent que le J5060, a démontré des performances constantes au fur et à mesure que les tests se poursuivaient.

Lorsque nous considérons les moyennes globales, le Dapustor J5060 a enregistré un temps de 769,44 secondes, tandis que le Solidigm P5336 a terminé en 640,17 secondes. Cela place le Solidigm P5336 en tête en termes de sauvegarde plus rapide des points de contrôle.

Dans l'ensemble, le Dapustor J5060 gère bien les opérations courtes mais peine avec les écritures soutenues au-delà de 30 minutes. Pendant ce temps, le Solidigm P5336 est le meilleur disque pour des performances constantes tout au long des tâches prolongées. Ces performances d'écriture plus faibles du Dapustor J5060 sont évidentes lorsque sa vitesse de checkpointing se détériore au fur et à mesure que le test se poursuit.

GPU Direct Storage

GPU Direct Storage est une technologie qui permet le transfert direct de données entre les périphédies de stockage et les GPU, en contournant le CPU et la mémoire système. Dans le transfert de données traditionnel, les données sont lues depuis le stockage vers la mémoire du CPU, puis copiées dans la mémoire du GPU. Ce processus implique plusieurs copies de données, entraînant une latence accrue et une réduction des performances. Le CPU agit comme un goulot d'étranglement, car il doit gérer le transfert de données entre le stockage et le GPU. GDS élimine ce goulot d'étranglement en permettant directement aux périphédies de stockage de transférer des données vers et depuis la mémoire du GPU.

Nous avons testé systématiquement toutes les combinaisons des paramètres suivants dans les charges de travail en lecture et en écriture :

• Tailles de bloc : 1M, 128K, 16K
• Profondeur d'E/S : 128, 64, 32, 16, 8, 4, 1

En examinant nos résultats GDSIO, nous analysons les performances en lecture et en écriture du Dapustor J5060 et du Solidigm P5336 de 61,44 To.

Performances en lecture séquentielle GDSIO

Le Dapustor J5060 atteint un débit de lecture maximal de 4,2 Gio/s avec une taille de bloc de 1 Mo et des profondeurs d'E/S de 64 et 128. À la plus petite taille de bloc (16 Ko), les performances varient de 0,1 Gio/s à 0,8 Gio/s à mesure que la profondeur d'E/S augmente. Cela montre une nette préférence pour les grandes tailles de bloc avec des profondeurs d'E/S élevées pour un débit optimal. Les performances maximales sont atteintes avec de grandes tailles de bloc, indiquant l'efficacité du disque dans la gestion des transferts de données en masse.

À titre de comparaison, le Solidigm P5336 a atteint un débit maximal similaire de 4,3 Gio/s avec la même taille de bloc (1 Mo) mais a atteint cette performance plus tôt à une profondeur d'E/S de 32 et l'a maintenue de manière constante à des profondeurs d'E/S plus élevées. Cela suggère une efficacité légèrement meilleure dans la gestion des grandes tailles de bloc sur une gamme plus large de profondeurs d'E/S pour le Solidigm P5336.

Pour offrir une meilleure vue comparative, nous avons un graphique différentiel comparant les deux disques. Une teinte plus verte indique un avantage du SSD Dapustor, tandis qu'un bloc se déplaçant vers le rouge indique une faiblesse. Ici, le J5060 surpasse le P5336 dans la taille de bloc de 128 Ko, à l'exception des profondeurs d'E/S de 4 à 8. Cependant, des baisses de débit sont notées à des profondeurs d'E/S plus élevées avec des tailles de bloc de 16 Ko et 1 Mo, indiquant une efficacité moindre dans ces scénarios.

Dans la comparaison de la latence séquentielle en lecture, le Solidigm P5336 maintient constamment une latence plus faible que le Dapustor J5060 sur presque toutes les tailles de bloc et profondeurs d'E/S. À une taille de bloc de 16 Ko, l'écart devient plus prononcé à mesure que la profondeur de la file d'attente augmente : le J5060 atteint un pic de 2 329 µs à une profondeur de 128, tandis que le P5336 reste plus bas à 1 365 µs. À 128 Ko, Solidigm mène à nouveau sur la plupart des profondeurs, à l'exception des charges élevées (4 080 µs sur le J5060 contre 5 539 µs sur le P5336) à la profondeur 128. À la taille de bloc de 1 Mo, les deux disques connaissent une augmentation de la latence comme prévu, mais le P5336 reste légèrement mieux contrôlé, avec 29 138 µs contre 29 512 µs à la profondeur de file d'attente la plus élevée.

Performances en écriture séquentielle GDSIO

Le Dapustor J5060 affiche un débit d'écriture constant de 2,7 à 2,8 Gio/s pour les tailles de bloc 128 Ko et 1 Mo sur toutes les profondeurs d'E/S (sauf 128 Ko, 1 taille de profondeur d'E/S, qui a affiché 2,2 Gio/s. Pour les tailles de bloc 16 Ko, les performances varient de 0,5 Gio/s à 1,4 Gio/s, en fonction de la profondeur d'E/S, atteignant un pic de 1,4 Gio/s aux profondeurs d'E/S plus élevées.

En comparaison, le Solidigm P5336 offre de meilleures performances pour les tailles de bloc 128 Ko et 1 Mo, atteignant un pic de 3,2 Gio/s. Pour les tailles de bloc plus petites (16 Ko), le Solidigm P5336 affiche également des performances plus élevées, atteignant un pic de 1,4 Gio/s aux profondeurs d'E/S de 16 à 64. Cela indique que le Solidigm P5336 est légèrement plus efficace avec les tailles de bloc plus petites lors des opérations d'écriture.

En passant à une vue différentielle, nous constatons un écart plus important entre le Dapustor J5060 et les performances d'écriture du Solidigm P5336. Notre comparaison de débit montre que le J5060 est à la traîne par rapport au P5336 dans la plupart des domaines, en particulier avec les grandes tailles de bloc (1 Mo) sur toutes les profondeurs d'E/S. Les baisses de débit atteignent -0,5 Gio/s aux profondeurs d'E/S de 4. Bien qu'il y ait des gains de performance à des profondeurs d'E/S plus élevées avec les tailles de bloc de 128 Ko, ils ne sont pas suffisamment significatifs pour compenser la sous-performance globale.

Lors de la comparaison de la latence d'écriture séquentielle entre le Dapustor J5060 et le Solidigm P5336, les deux disques présentent un comportement similaire pour les tailles de bloc plus petites comme 16 Ko, Solidigm ayant un léger avantage aux profondeurs d'E/S plus faibles, tandis que Dapustor réduit l'écart aux profondeurs plus élevées (64 et 128). Pour les tailles de bloc de 128 Ko, Solidigm mène à nouveau aux profondeurs de file d'attente peu profondes, mais Dapustor offre constamment une latence plus faible à mesure que la profondeur d'E/S augmente, indiquant une meilleure mise à l'échelle sous charge. Cependant, avec les tailles de bloc de 1 Mo, Solidigm conserve un avantage de latence clair sur toutes les profondeurs d'E/S, montrant des temps de réponse significativement plus rapides sous des charges de travail d'écriture séquentielle lourdes. Dans l'ensemble, Solidigm offre des performances plus constantes, tandis que la force de Dapustor est plus visible sur les blocs de taille moyenne et les files d'attente profondes.

Résumé des charges de travail FIO

Flexible I/O Tester (FIO) est un outil de benchmark standard de l'industrie utilisé pour mesurer les performances des périphédies de stockage dans une grande variété de scénarios de charge de travail. Fiable pour sa polyvalence et sa fiabilité, FIO simule des conditions réelles, fournissant des informations sur les capacités et les limites de performance d'un SSD. StorageReview utilise FIO pour offrir des analyses complètes, mesurant le débit, la latence et les IOPS sur différents modèles de charge de travail, tailles de bloc et profondeurs de file d'attente.

Charges de travail appliquées :

• Lecture et écriture séquentielle 128 Ko
• Lectures et écritures aléatoires 64 Ko
• Lectures et écritures aléatoires 16 Ko
• Lectures et écritures aléatoires 4 Ko

Ces charges de travail représentent un large éventail de cas d'utilisation d'entreprise, y compris les transferts séquentiels volumineux, les E/S aléatoires intensives typiques des bases de données et les accès aléatoires de petits blocs couramment observés dans les environnements virtualisés.

Cette section de performance résume les performances du DapuStor J5060 sur les charges de travail synthétiques clés, y compris les opérations de lecture/écriture séquentielles et aléatoires à différentes tailles de bloc et profondeurs de file d'attente. Les métriques sont extraites directement de la sortie fio analysée et incluent la bande passante (Mo/s), les IOPS et les percentiles de latence jusqu'à 99,9999 %, offrant un aperçu du débit et du comportement des queues sous charge.

Performances en lecture et écriture séquentielle 128 Ko

Le Dapustor J5060 offre des performances de lecture séquentielle impressionnantes à 128 Ko, atteignant 7,48 Go/s avec un contrôle de latence serré, même aux percentiles les plus élevés. Comparé au Solidigm P5336, le débit du J5060 est essentiellement le même (7,48 Go/s contre 7,47 Go/s). Cependant, Solidigm conserve un léger avantage en matière de cohérence de latence, affichant une latence de queue marginalement plus faible.

Pour les écritures séquentielles 128 Ko (QD16), le J5060 atteint des performances solides de 3 023 Mo/s avec une latence très faible. Pourtant, le Solidigm P5336 le surpasse d'une marge modérée, atteignant 3 364 Mo/s, bien qu'avec une latence notablement plus élevée, en particulier au percentile 99,99 % (4,42 ms contre 0,70 ms remarquablement bas du Dapustor). Cela indique que le J5060 est un candidat plus solide pour les scénarios d'écriture séquentielle sensibles à la latence.

Performances en lecture et écriture aléatoire 64 Ko

Pour les lectures aléatoires 64 Ko (QD256), le Dapustor J5060 excelle avec un débit proche de 7,4 Go/s et une latence bien contrôlée. Les résultats de Solidigm sont très similaires (7,47 Go/s), avec une latence de percentile maximal légèrement meilleure. Les deux disques performent exceptionnellement bien ici, avec des différences pratiques minimes.

Les performances en écriture aléatoire 64 Ko sont là où le J5060 peine visiblement, avec un débit chutant fortement à 534 Mo/s et une latence augmentant considérablement (742,39 ms à 99,99 %). En comparaison, le Solidigm P5336 surpasse significativement le J5060, offrant 857 Mo/s et une latence considérablement plus faible (221,24 ms au même percentile), ce qui le rend beaucoup mieux adapté aux applications sensibles à la latence et au débit d'écriture soutenu.

Performances en lecture et écriture aléatoire 16 Ko

Pour la charge de travail de lecture aléatoire 16 Ko (QD256), le Dapustor obtient d'excellents résultats avec 453K IOPS et une latence contrôlée. Le Solidigm P5336 reflète essentiellement ces performances, surpassant légèrement le Dapustor en latence (5,47 ms contre 8,16 ms à 99,99 %), suggérant une cohérence de latence légèrement meilleure pour Solidigm dans les scénarios de lecture aléatoire intensive.

Les performances d'écriture aléatoire 16 Ko du SSD Dapustor chutent considérablement à 32K IOPS, et la latence augmente à 181,4 ms (99,99 %). Ici encore, Solidigm surpasse significativement le disque Dapustor, offrant 51,7K IOPS et un profil de latence considérablement amélioré (71,8 ms à 99,99 %), soulignant l'avantage de Solidigm pour les charges de travail d'écriture aléatoire sensibles à la latence.

Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Directeur de la stratégie mondiale
WhatsApp / WeChat : +86 13426366826
E-mail : yangyd@qianxingdata.com
Site Web : www.qianxingdata.com/www.storagesserver.com

Domaines d'activité :
Distribution de produits TIC / Intégration de systèmes et services / Solutions d'infrastructure
Avec plus de 20 ans d'expérience dans la distribution informatique, nous collaborons avec les principales marques mondiales pour fournir des produits fiables et des services professionnels.
« Utiliser la technologie pour construire un monde intelligent » Votre fournisseur de services de produits TIC de confiance !