Le paysage du stockage pour la formation et l'inférence de l'IA est dominé par le stockage de fichiers et d'objets de milieu de gamme évolutif, qui prend en charge NVIDIA GPU Direct, les caches KV et l'architecture STX pour permettre aux GPU de traiter les données des jetons. Pourtant, de vastes volumes de données d'entreprise résident sur des baies monolithiques haut de gamme de Dell PowerMax, Hitachi Vantara VSP One Block High End, IBM DS6000 et Lenovo InfiniBox, dont aucune ne prend en charge STX et ses composants associés.Nous avons interviewé David Chapa, stratège en chef de l'IA chez Hitachi Vantara, pour explorer cette lacune.
Chapa a déclaré que NVIDIA BlueField-4 STX marque une évolution plus large de l'architecture de l'infrastructure d'IA. Les baies d'entreprise traditionnelles sont conçues pour une gestion efficace des demandes de stockage, tandis que STX déplace la création de valeur dans l'infrastructure d'IA. Les baies haut de gamme existantes donnent la priorité à la durabilité, à la résilience, aux performances, à la disponibilité et aux services de données centralisés. En revanche, STX intègre davantage d’intelligence dans les workflows de traitement des données, rapprochant ainsi la sécurité, l’orchestration, la localisation des données, la coordination de la mémoire et les services de données des GPU et des environnements d’exécution de l’IA.
L’objectif principal n’est pas de savoir si ces fonctionnalités doivent fonctionner de manière native sur les baies de stockage, mais plutôt de savoir comment les déployer de manière optimale sur les pipelines de données d’IA. Hitachi Vantara ne considère pas l'incompatibilité actuelle comme une limitation de ses baies, mais comme un choix architectural naturel au milieu d'une infrastructure d'IA en évolution. Les baies d'entreprise haut de gamme restent essentielles pour fournir des services de données fiables, notamment en matière de résilience, de disponibilité, de performances, de durabilité et de gestion unifiée.
Alors que les pipelines de données d'IA s'appuient de plus en plus sur des services accélérés par DPU, des couches d'orchestration, une mise en cache et une exécution tenant compte de la localité, certaines fonctions se rapprocheront des ressources de calcul, tandis que les baies d'entreprise continueront de se concentrer sur leur principal point fort : les services de données fiables.
Lorsqu'on lui a demandé si les baies haut de gamme d'Hitachi Vantara s'intégreraient éventuellement à NVIDIA STX, Chapa a noté que STX et CMX représentent des réalisations techniques substantielles. La discussion porte moins sur les feuilles de route des produits que sur le positionnement architectural des systèmes d’IA en évolution.
L’infrastructure d’IA moderne expose des contraintes jamais prises en compte dans les architectures d’entreprise traditionnelles. Le défi aujourd’hui ne réside pas dans le stockage autonome, le GPU ou les performances du réseau, mais dans la synergie des données, de la mémoire, du calcul, de la sécurité et de l’orchestration à mesure que les déploiements d’IA évoluent.
STX consolide une plus grande partie du pipeline de données d'IA dans la pile intégrée de NVIDIA via des DPU BlueField, des réseaux et des conceptions de référence qui façonnent l'intégration et la différenciation des fournisseurs. CMX cible spécifiquement la mémoire contextuelle, les caches KV et les états d'inférence. Hitachi Vantara ne considère pas ces technologies comme une tentative de contourner le stockage d'entreprise, mais comme une industrie divisée entre deux catégories de données distinctes : les données d'exécution transitoires pour les tâches d'IA et les données d'entreprise persistantes et gouvernées qui existent longtemps après la fin des tâches d'IA.
Les deux types de données comportent des contraintes opérationnelles différentes. Les caches KV et les contextes d'inférence sont de courte durée et sensibles à la latence, ce qui les rend mieux adaptés à une exécution à proximité de GPU, de niveaux de mémoire ou d'un runtime d'IA. En comparaison, les données métier de base, les contrôles de conformité et les services de données à l'échelle de l'entreprise nécessitent une infrastructure robuste conçue pour une utilisation à long terme, une gouvernance, une résilience et des opérations d'entreprise à grande échelle.
Pour Hitachi Vantara, activer la prise en charge STX sur les baies haut de gamme est bien plus qu'une simple mise à jour du micrologiciel. Cela implique des considérations fondamentales concernant la localisation des données, la charge mémoire, la persistance des données, les limites de sécurité, l'orchestration et le placement optimal des services d'infrastructure.
La priorité est de définir le positionnement fonctionnel à mesure que l'infrastructure d'IA évolue, d'identifier les points de différenciation, de déterminer une portée d'intégration raisonnable et d'allouer des ressources d'ingénierie pour maximiser la valeur client.
NVIDIA a résolu efficacement les principaux goulots d'étranglement de l'infrastructure d'IA, mais ses approches architecturales ne conviennent pas à tous les clients, charges de travail ou stratégies de plate-forme. Hitachi Vantara distingue les changements architecturaux durables des tendances de fonctionnalités à court terme, évalue l'intégration qui apporte une valeur tangible et oriente les efforts de développement pour offrir les plus grands avantages aux utilisateurs.
Hitachi Vantara positionne ses baies d'entreprise haut de gamme en dehors de la chaîne de livraison directe de données pour les serveurs GPU, jugeant une telle intégration inadaptée sur le plan architectural. Ces plates-formes servent de systèmes d'enregistrement de base optimisés pour la durabilité, la gouvernance, la résilience et les opérations à l'échelle de l'entreprise, plutôt que des caches KV et des contextes d'inférence transitoires et critiques en matière de latence.
Nous pensons que les baies d'entreprise haut de gamme telles que VSP One Block High End adopteront des outils d'IA tels que des agents intelligents internes pour rationaliser la gestion. À mesure que l’IA agentique et l’inférence grand public gagnent du terrain, les entreprises exigeront l’accès aux données d’enregistrement de base pour les charges de travail d’IA. À terme, les pipelines de données d’IA se développeront pour intégrer des baies d’entreprise haut de gamme comme sources de données clés.
Pékin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Directrice de la stratégie mondiale
WhatsApp/WeChat : +86 13426366826
Courriel : yangyd@qianxingdata.com
Site Web : www.qianxingdata.com/www.storagesserver.com
Objectif commercial :
Distribution de produits TIC/Intégration et services de systèmes/Solutions d'infrastructure
Avec plus de 20 ans d'expérience dans la distribution informatique, nous collaborons avec de grandes marques mondiales pour fournir des produits et des services professionnels fiables.
« Utiliser la technologie pour construire un monde intelligent » Votre fournisseur de services de produits TIC de confiance !
Votre message doit contenir entre 20 et 3 000 caractères!
French
