Les data centers sont-ils obsolètes à l'heure de l'IA ? Pas selon nous !

Chris Sharp, Chief Technology Officer

This is part 2 of our 3-part blog series about Artificial Intelligence (AI) and AI-ready data center infrastructure.

• Lire la partie 1: Exploiter le potentiel de l'IA et naviguer dans la disruption avec Digital Realty.
• Continuez à lire la partie 2
• Lire la partie 2: Integrating AI with Legacy Infrastructure

Concevoir les data centers de demain

En tant que CTO, on me demande souvent comment Digital Realty conçoit ses data centers pour prendre en charge les nouveaux et futurs workloads, à la fois de manière efficace et durable.

Comment faire en sorte que les data centers construits pour le simple cas d'utilisation de l'entreprise qu'est l'hébergement web puissent prendre en charge la prochaine génération de workloads d'IA et les énormes volumes de données qui doivent être stockés, transmis et traités ?

Ma réponse ? Digital Realty a présenté pour la première fois publiquement les implications de l'IA pour les data centers en 2017, mais nous suivions son évolution bien avant cela. Nous avons intégré la variabilité et la modularité requises dans la conception de nos data centers, en anticipant le point de rupture qui s'est traduit par un déferlement d'applications d'IA.

L'infrastructure prête à accueillir l'IA dont vous avez besoin pour alimenter l'innovation ne se résume pas à la construction d'un seul data center - découvrez pourquoi elle nécessite une plateforme de data center mondiale modulaire capable de scaler vos besoins.

Les besoins en matière d'infrastructure informatique sont en constante évolution

L'Internet et les usages que nous en faisons, ainsi que l'infrastructure qui le supporte, sont en perpétuelle évolution.

L'IA n'est pas la première nouvelle technologie à avoir un impact sur les besoins en infrastructure informatique, et ce ne sera pas la dernière.

L'émergence et la maturité de technologies telles que les emails, la navigation web, les réseaux sociaux et le streaming vidéo ont entraîné des changements massifs dans les besoins de scaler et de complexité des data centers et de l'infrastructure au sein de ces derniers.

Les besoins uniques de l'IA en matière d'infrastructure informatique

L'IA entraîne une nouvelle génération de microprocesseurs, d'équipements réseaux et d'autres infrastructures au sein du data center. Nous avons assisté à de grands changements dans la taille et le nombre d'interconnexions au sein de nos data centers, ainsi que dans la quantité de données stockées par une entreprise classique. C'est pourquoi nous partageons depuis des années nos idées sur les communautés de données connectées et l'impact de la gravité des données.

L'IA nécessite plus d'infrastructures de calcul, de réseau et de stockage que n'importe quelle évolution de l'Internet depuis le Cloud, et dans de nombreux cas, nous pensons qu'elle sera encore plus intense.

Nous avons été un acteur actif de cette évolution : La plateforme mondiale de data centers de Digital Realty, PlatformDIGITAL®, a été choisie pour accueillir de très nombreux ensembles d'entraînement et applications d'IA révolutionnaires qui ont montré ce qu'il était possible de faire. Par exemple, nous avons soutenu ces clients, tels que Castle Globali , SURFsaraii , et Graphcoreiii , avec l'infrastructure dont ils avaient besoin pour alimenter leur innovation, et nous utilisons notre expérience, notre expertise et nos partenariats clés pour aider les entreprises qui sont prêtes à entreprendre leur aventure de l'IA dès aujourd'hui. Plus récemment, nous avons annoncé que nous étions l'un des premiers opérateurs de data centers au monde à être prêt pour la NVIDIA DGX H100 dans le cadre du programme NVIDIA DGX-Ready Data Center Program pour notre nouveau data center d'Osaka, au Japon, KIX13.

System of systems : la modularité est la clé d'une approche de conception intemporelle

Les data centers de Digital Realty sont composés de nombreux systèmes individuels, jusqu'à la technologie de refroidissement utilisée pour un rack, à un étage, dans une salle, dans un bâtiment et sur l'un de nos campus.

En concevant le data center comme un système modulaire et interconnecté, nous pouvons faire évoluer un seul ou un petit nombre de ces systèmes à la fois sans avoir à tout redéfinir ou à tout rénover en même temps. C'est ce qu'on appelle une approche de conception "system of systems". Cette approche est rentable et efficace sur le plan opérationnel. Nous espérons que nos clients bénéficieront de la modularité car elle réduit le temps et les coûts nécessaires pour prendre en charge une nouvelle infrastructure.

La modularité permet des déploiements d'IA personnalisés

Grâce à cette approche de conception, nous pouvons également répondre aux besoins spécifiques d'un client sans avoir d'impact sur les autres. C'est essentiel pour répondre aux besoins de l'IA, car les nouveaux déploiements sont souvent nécessaires rapidement et ont des besoins spécifiques en matière de consommation d'énergie et de refroidissement.

Les applications d'IA modifient la taille et la densité de l'infrastructure informatique déployée sur PlatformDIGITAL®, ce qui a un impact direct sur la conception de nos data centers pour répondre aux besoins de nos clients.

Par exemple, certaines infrastructures d'IA consommeront 10 fois la puissance moyenne de l'industrie par rack, mais devront quand même être déployées dans le même espace physique que d'autres infrastructures consommant moins d'énergie. Notre approche hautement modulaire permet facilement ce niveau de flexibilité.

La modularité permet des technologies de refroidissement durables.

Un autre exemple de la philosophie de conception modulaire de Digital Realty en action est notre capacité à déployer le liquid cooling dans nos data centers.

Les exigences en matière de refroidissement de l'infrastructure de l'IA suscitent un intérêt nouveau et significatif pour l'utilisation du refroidissement liquide dans les data centers. Cette méthode de refroidissement diffère du refroidissement par air traditionnel en utilisant une boucle de liquide de refroidissement pompée autour de l'installation, reliée aux microprocesseurs générant de la chaleur dans les racks, puis en déplaçant cette chaleur vers un grand radiateur où elle peut être évacuée.

^{Computer CPU cooled by liquid cooling on a motherboard}

Le liquid cooling est une méthode très efficace pour refroidir l'infrastructure informatique, car le liquide est 800 fois plus dense que l'air, ce qui lui permet d'évacuer plus facilement l'excès de chaleur des équipements informatiques. Il permet également aux data centers d'utiliser plus efficacement l'énergie fournie par les services publics, réduisant ainsi la consommation globale d'énergie.

Le liquid cooling est un exemple remarquable de notre philosophie de conception modulaire. Il y a encore cinq ans, l'utilisation du liquid cooling dans les data centers était considérée comme ésotérique en dehors des cas marginaux - l'infrastructure utilisée par les applications de l'époque ne générait tout simplement pas assez de chaleur pour justifier son utilisation. Aujourd'hui, il est de plus en plus considéré comme une exigence absolue pour les déploiements d'infrastructures d'IA denses.

De nombreux data centers de Digital Realty disposent d'un système de liquide réfrigéré qui peut être utilisé à cette fin, et d'autres non - mais cela ne nous empêche pas de fournir une solution de liquid cooling à nos clients.

Nous avons consacré des années à la recherche, au développement et à l'exploitation de nombreux moyens pour répondre aux nouvelles demandes de refroidissement. Par exemple, nous utilisons le refroidissement par air à haute efficacité et d'autres technologies alternatives de refroidissement par liquide qui peuvent être adaptées à un étage, à une suite ou même à un rack individuel. Nous pouvons nous adapter à ces alternatives parce que nos conceptions sont modulaires.

^{Rear door heat exchanger cooling a High-Performance Computing (HPC) deployment in a Digital Realty data center facility}

Cette approche modulaire nous permet non seulement de respecter les délais de livraison et les objectifs de performance de nos clients, mais aussi d'être rentables et hautement durables. Nous visons à utiliser la technologie la plus efficace pour répondre aux besoins spécifiques d'un client, en combinant les différentes technologies, même à partir d'un seul étage, et ce, à l'échelle mondiale.

Cette flexibilité est source de complexité : il n'y a pas de solution unique.

Opérer à grande échelle avec de nombreux systèmes uniques à plus de 2,4 gigawatts de puissance peut sembler intimidant, mais c'est ce que nous faisons le mieux chez Digital Realty. PlatformDIGITAL® est la première plateforme mondiale de data centers avec la plus grande empreinte de data centers de colocation et nous avons affiné notre expertise et nos capacités en nous associant à plus de 5000 des entreprises les plus importantes et les plus innovantes au monde.

Il ne s'agit pas seulement de ce que nous pouvons faire aujourd'hui : nous sommes prêts à soutenir nos clients pour les décennies à venir. Digital Realty devrait disposer de plus de 400 mégawatts de capacité de data center supplémentaire en 2023 et 2024, conçus de la même manière que nos autres installations.

L'infrastructure informatique doit commencer en pensant à la destination ultime

Digital Realty a commencé à évaluer l'impact futur de l'IA sur l'Internet et sur le data center il y a plus de six ans.

Bien que nous ne puissions pas prédire quand une application arrivera à maturité ou quand un service d'IA deviendra la prochaine nouveauté, nous avons constaté à maintes reprises avec nos clients que la clé d'une transformation numérique réussie est de planifier vos déploiements d'infrastructure en gardant à l'esprit la finalité autant que possible.

Aller doucement à présent pour concevoir et déployer une infrastructure à toute épreuve vous permettra d'économiser du temps et de l'argent par la suite.

Restez innovant, contactez-nous et déployons l'IA d'une manière évolutive et efficace pour vous.

Ceci est la deuxième partie d'une série de trois articles sur l'infrastructure des data centers prêts pour l'IA :

• Partie 1 : Exploiter le potentiel de l'IA et naviguer dans la disruption avec Digital Realty.
• Partie 2: Les data centers sont-ils obsolètes à l'heure de l'IA ? Pas selon nous !
• Partie 3: Integrating AI with Legacy Infrastructure

^{i Digital Realty, Digital Realty Investor Day presentation, Slide 18, 2017.
ii Digital Realty, Digital Realty Investor Day presentation, Slide 18, 2017.
iii Digital Realty, Digital Realty Partners with G-Core Labs and Graphcore to Accelerate AI Deployment Globally on PlatformDIGITAL®, 2022.}