French
DeepInfra a officiellement lancé un nouveau centre de données d'IA à Toronto, ce qui représente le premier déploiement à l'étranger de l'entreprise en dehors des États-Unis et sa neuvième installation dans le monde.Ce nouveau site étend l'empreinte de l'infrastructure d'inférence mondiale de DeepInfra, au milieu d'un changement généralisé de l'industrie dans la demande d'IA de la formation de modèles aux charges de travail d'inférence commerciale.
Le centre de données de Toronto dispose d'une capacité de 1,7 MW et accueillera plus de 1 000 GPU NVIDIA Blackwell B300.Le nouveau groupe de calcul permettra d'accroître l'échelle globale d'inférence de DeepInfra et de réduire la latence du réseau pour les utilisateurs finaux au Canada et dans d'autres régions du monde..
Cette expansion s'aligne sur une transition claire dans l'ensemble de l'industrie.La demande d'infrastructure de centre de données est de plus en plus axée sur les charges de travail d'inférence plutôt que sur les tâches de formationL'inférence de grands modèles de langage nécessite une disponibilité constante du GPU, un réseau à faible latence et une infrastructure géographiquement dispersée pour alimenter les applications interactives, les agents intelligents d'IA,et services API à haut débitSelon la recherche de McKinsey & Company, les charges de travail d'inférence dépasseront 40% de la demande totale de centres de données d'ici 2030, avec un taux de croissance annuel composé de 35%.
DeepInfra affirme que le déploiement de Toronto est spécialement conçu pour répondre à ces besoins en évolution,placer les ressources de calcul du GPU plus près des utilisateurs finaux et des sources de données locales tout en augmentant le débit global de la plateformeLa société possède et exploite indépendamment sa pile complète d'infrastructures GPU, prenant en charge plus de 200 modèles d'IA open-source.,couvrant à la fois les déploiements de modèles ouverts et propriétaires.
Le lancement souligne également l'adoption croissante par l'industrie de l'architecture Blackwell de NVIDIA pour une infrastructure d'inférence moderne.Les GPU Blackwell offrent un débit d'inférence amélioré et une meilleure efficacité énergétique pour les grands modèles de langage et les charges de travail d'IA multimodaleBien que DeepInfra n'ait pas publié plus de détails sur les réseaux et l'architecture de stockage,Les déploiements à grande échelle de ce calibre tirent généralement parti d'interconnexions à large bande passante et de stockage distribué pour maintenir une utilisation complète du GPU..
Comme l'a noté Nikola Borisov, PDG et cofondateur de DeepInfra, l'IA d'entreprise est passée des essais expérimentaux aux déploiements de production à grande échelle,augmenter la demande d'infrastructures distribuées à l'échelle mondiale avec une faible latence et des capacités d'inférence évolutivesIl a expliqué que le pôle de Toronto marque la première expansion internationale de l'entreprise au-delà des frontières américaines, en plaçant les ressources informatiques à proximité des clients mondiaux et de leurs ensembles de données.
L'installation de Toronto fait suite au récent cycle de financement de série B de DeepInfra et constitue un élément clé de sa feuille de route d'expansion des infrastructures à long terme.La société confirme qu'elle évalue des sites de centres de données internationaux supplémentaires pour répondre à la demande croissante du marché pour les services d'inférence alimentés par GPU.
La Commission a examiné les informations fournies par les autorités chinoises.
Sandy Yang, directeur de la stratégie mondiale
WhatsApp ou WeChat: +86 13426366826
Le courrier électronique: yangyd@qianxingdata.com
Le site Web est le suivant: www.qianxingdata.com/www.storagesserver.com
En ce qui concerne les affaires
Distribution de produits TIC/Intégration des systèmes et services/Solutions d'infrastructure
Avec plus de 20 ans d'expérience dans la distribution informatique, nous travaillons en partenariat avec des marques mondiales de premier plan pour fournir des produits fiables et des services professionnels.
Utiliser la technologie pour bâtir un monde intelligentVotre fournisseur de services de produits TIC de confiance!
Sandy Yang, directeur de la stratégie mondiale
WhatsApp ou WeChat: +86 13426366826
Le courrier électronique: yangyd@qianxingdata.com
Le site Web est le suivant: www.qianxingdata.com/www.storagesserver.com
En ce qui concerne les affaires
Distribution de produits TIC/Intégration des systèmes et services/Solutions d'infrastructure
Avec plus de 20 ans d'expérience dans la distribution informatique, nous travaillons en partenariat avec des marques mondiales de premier plan pour fournir des produits fiables et des services professionnels.
Utiliser la technologie pour bâtir un monde intelligentVotre fournisseur de services de produits TIC de confiance!