nouvelles de l'entreprise Instinctif et EPYC ; VAST Data met en place une collaboration étendue sur les CPU/GPU AMD

John Mao

Principaux piliers de la collaboration élargie

• - VAST adopte AMD EPYC de 6e génération (nom de code Venice) pour alimenter ses plates-formes CBox de 6e génération et EBox de 3e génération sous-jacentes à VAST AI OS.offrant une bande passante d'E/S deux fois plus élevée et une latence inférieure à celle de PCIe Gen 5 pour les services de données IA VAST DataBase et DataEngine, y compris les bases de données, des entrepôts de données et du streaming d'événements.
• - Une architecture de référence d'infrastructure d'IA tripartite co-développée par VAST, AMD et DriveNets, incorporant le matériel d'IA à l'échelle de rack AMD Helios, le VAST AI OS et le réseau DriveNets AI Fabric.Le plan détaille le soutien des infrastructures pour la formation, l'inférence, l'apprentissage par renforcement et les charges de travail de la mémoire cache KV, ainsi que des conseils de dimensionnement pour les équipes construisant des usines d'IA.
• - Des partenariats écosystémiques plus larges avec TensorMesh, EmbeddedLLM et d'autres fournisseurs pour accélérer les piles d'inférence de niveau de production optimisées pour l'IA agentique.
• - Nouveau cache KV et optimisations d'inférence fusionnant les GPU AMD Instinct, le Context Infinity, le logiciel ROCm et le système d'exploitation VAST AI.
• -Gestion automatisée du cycle de vie du cache KV: le nettoyage du cache contenant des données personnelles sensibles pose des obstacles majeurs à la conformité des entreprises.La pile intégrée tire parti des règles natives du cycle de vie des données de VAST pour expirer et effacer automatiquement les données du cache KV, offrant une sécurité, une confidentialité et une conformité réglementaires robustes sans travail administratif manuel.
• -AMD Pensando Pollara 400 AI NIC crée des voies de données à haute vitesse reliant les GPU Instinct à VAST AI OS.Il transfère les données entre la mémoire GPU et les grappes de stockage NVMe SSD de VAST, alimentant le cache KV et l'accès au stockage essentiels à l'inférence à grande échelle et à l'IA agentique.
• - Déploiements vérifiés dans les principaux fournisseurs de clouds d'IA offrant des services d'IA basés sur AMD dans le monde entier, y compris 5C, Core42, Crusoe, EmbeddedLLM, Phanos.AI, TensorWave et Vultr.