Instances GPU 

Oracle Cloud Infrastructure (OCI) Compute fournit des instances bare metal et de machine virtuelle alimentées par des processeurs graphiques NVIDIA pour de nombreux cas d'utilisation, notamment des rendus visuels courants et la vidéo, ainsi que l'entraînement d'IA et les workloads HPC les plus exigeants. OCI excelle à la fois en matière de temps d'entraînement et de coût grâce à sa latence exceptionnelle et à ses performances réseau presque parfaitement linéaires.

SoundHound fait évoluer son IA vocale sur OCI, avec à la clé un gain de performances
SoundHound fait évoluer son IA vocale sur OCI, avec à la clé un gain de performances de l'ordre de 50-60 % (3:28)
Logo d'Oracle et de NVIDIA Oracle et NVIDIA proposent une IA souveraine dans le monde entier

Oracle et NVIDIA collaborent pour fournir des services informatiques accélérés et d'IA générative qui gèrent la souveraineté numérique ainsi que la protection des données nationales et personnelles propriétaires.

Évolutivité

32 768

Nombre maximal de GPU par supercluster OCI1

Performances

3 200

Jusqu'à 3 200 Gb/s de bande passante réseau de cluster RDMA2

Valeur

220 %

Les GPU des autres fournisseurs de services cloud peuvent coûter jusqu'à 220 % plus cher3

1 : pour les instances bare metal avec GPU NVIDIA A100, 2 : pour les instances bare metal avec GPU NVIDIA H100, 3 : sur la base des tarifs à la demande du 16 juin 2023

Caractéristiques clé des instances GPU

La communication RDMA (Remote Direct Memory Access) entre les instances prend en charge les grands clusters de processeurs graphiques avec 3 200 Go/s de bande passante et une latence ultra-faible.

Instances GPU NVIDIA à hautes performances

GPU NVIDIA Tensor Core

OCI offre la valeur et les performances les plus élevées pour les instances de calcul bare metal et de machine virtuelle alimentées par les processeurs graphiques NVIDIA H100, L40S (bientôt disponible), A100, A10, V100, and P100.

Performances Bare Metal

Les instances de calcul bare metal permettent aux clients d’exécuter des workloads à hautes performances, nécessitant une faible latence, directement sur du matériel de serveur, comme ils le feraient sur site.

Mise en réseau de cluster à hautes performances

La mise en réseau de clusters à latence ultra-faible d'Oracle, reposant sur le RDMA, fournit une latence de l'ordre de la microseconde. Sans compromettre les performances, les clients peuvent héberger des clusters avec au mieux 512 processeurs graphiques et OCI Superclusters avec plus de 512 processeurs graphiques.

Instances GPU NVIDIA à hautes performances
Bande passante sur les nœuds de cluster ; 1 nœud = 8 processeurs NVIDIA A100.

Choisissez parmi différentes instances de calcul de machine virtuelle et bare metal

Machines virtuelles et bare metal

Associez votre workload au type d’instance qui vous convient le mieux.

Instances de VM

Pour les machines virtuelles, choisissez parmi les processeurs graphiques NVIDIA Ampere, Volta et Pascal avec un à quatre cœurs, offrant de 16 à 64 Go de mémoire de processeurs graphiques et jusqu'à 480 Go de stockage flash lié à l'environnement local.

Instances bare metal

Instances bare metal de cluster pour le HPC et l'entraînement d'IA à l'aide des processeurs graphiques NVIDIA H100 ou A100 Tensor Core avec 640 Go de mémoire de processeurs graphiques par nœud.

Choisissez parmi différentes instances de calcul de machine virtuelle et bare metal
Comparaison des performances des cartes graphiques NVIDIA V100 et A10

Réduisez vos coûts de mise en réseau et de stockage

Tarification mondiale harmonisée

Les tarifs d'OCI sont simples et transparents dans toutes les régions, ce qui garantit des dépenses cloud prévisibles quel que soit l'emplacement d'exécution de vos workloads.

Réduisez vos coûts de mise en réseau et de stockage
Comparaison des prix des fournisseurs de cloud entre les régions

Infrastructure cloud sécurisée

Virtualisation de réseau isolé

Empêchez les attaques contre les locataires clients grâce à la virtualisation de réseau isolé. Élément fondamental de l’architecture axée sur la sécurité d’Oracle Cloud Infrastructure, la conception arrête les logiciels malveillants avec un SmartNIC conçu sur mesure pour isoler et virtualiser le réseau.

Oracle Cloud Infrastructure Identity and Access Management

Grâce à des politiques faciles à définir, organisées par des groupes logiques d’utilisateurs et de ressources, vous pouvez contrôler non seulement qui a accès aux ressources Oracle Cloud Infrastructure, mais aussi auxquelles et avec quel type d’accès. Les clients gèrent les identités et accordent l’accès en tirant parti des hiérarchies organisationnelles existantes et des services d’annuaire fédérés, notamment Microsoft, Okta et d’autres fournisseurs d’annuaires SAML.

Racine de confiance hardware

Réduisez le risque d’attaques basées sur micrologiciels contre les locataires de clients Oracle Cloud Infrastructure grâce à la technologie racine de confiance personnalisée et basée sur le hardware, conçue pour effacer et réinstaller le micrologiciel chaque fois qu’un nouveau serveur est provisionné ou qu’une nouvelle location client est établie.

Oracle Web Application Firewall

Protégez vos applications du trafic Internet malveillant et indésirable avec un service de pare-feu d’applications Web mondial (WAF) basé sur le cloud, conforme à la norme PCI. En combinant l’intelligence sur les menaces et l’application cohérente des règles, ce service renforce les défenses et protège les serveurs d’applications connectés à Internet.

Oracle Cloud Infrastructure Vault

Gérez et contrôlez de manière centralisée les clés de chiffrement et les informations d’identification secrètes utilisées pour protéger les données de l’entreprise et accéder aux ressources. La sécurité des deux est stockée dans les normes Federal Information Processing référentiels Standards (FIPS) 140-2, certifiées de niveau 3, module de sécurité hardware (HSM).

Les utilisateurs peuvent contrôler davantage les autorisations pour les clés individuelles et les coffres avec OCI Identity and Access Management et surveiller les changements du cycle de vie des clés avec OCI Audit pour répondre aux exigences de conformité accrues.

Choix de systèmes d'exploitation

Choisissez parmi les systèmes d’exploitation courants

Oracle prend en charge une longue liste de systèmes d’exploitation Microsoft Windows Server et Enterprise Linux, y compris Oracle Linux, CentOS, Ubuntu et bien d’autres. Oracle Autonomous Linux est un environnement d’exploitation autonome gratuit qui réduit la complexité et les erreurs humaines afin d’offrir des économies, une sécurité et une disponibilité accrues.

Automatisez la gestion du système d’exploitation

Le service de gestion du système d’exploitation OCI permet aux clients de définir des politiques pour les mises à jour et les correctifs automatisés correspondant à leur environnement de système d’exploitation.

Consulter la documentation

Utilisation de votre propre image (BYOI)

Les clients peuvent exécuter leurs propres systèmes d’exploitation et hyperviseurs sur les instances de calcul Oracle et ils peuvent utiliser la même image pour toutes les tailles de configuration.

Accès à des logiciels rapidement accessible

Accéder au logiciel et aux images disque

Oracle Cloud Marketplace fournit des logiciels et des images disque pour la data science, les analyses, l’intelligence artificielle (IA) et des modèles de machine learning (ML) afin que les clients obtiennent rapidement un aperçu de leurs données.

Cloud GPU NVIDIA

Accédez à des centaines d’applications optimisées pour le GPU pour le machine learning, le deep learning et le calcul haute performance, couvrant un large éventail de secteurs d’activité et de workloads. En savoir plus.

NVIDIA RTX Virtual Workstation

Les clients peuvent proposer à leurs salariés des postes de travail performants là où ils en ont besoin en exécutant NVIDIA RTX Virtual Workstation sur Oracle Cloud.

Microservices et conteneurs

Container registry

Les développeurs qui créent des applications à l’aide de conteneurs exploitent un service de registre de conteneur privé hautement disponible géré par Oracle pour stocker et partager des images de conteneurs. Poussez ou tirez des images Docker vers et depuis le registre à l’aide de l’API Docker V2 et de l’interface de lignes de commande (CLI) Docker standard. Les images peuvent être extraites directement dans un déploiement Kubernetes.

Oracle Functions

Les fonctions en tant que service (FaaS) permettent que les développeurs exécutent des applications serverless qui s’intègrent à Oracle Cloud Infrastructure, à Oracle Cloud Applications et à des services tiers. Augmentez l’efficacité des développeurs avec la communauté Fn Project open source.

Cas d'utilisation d'instances GPU

Infrastructure d'IA pour l'entraînement et l'inférence en deep learning

Entraînez des modèles d'IA à l'aide d'OCI Data Science, d'instances bare metal, de réseaux de clusters utilisant le RDMA et des processeurs graphiques NVIDIA.


Entraînement et inférence d'IA Ce diagramme décrit deux étapes du développement d'un modèle de deep learning : l'entraînement du modèle et l'inférence à partir du modèle. Dans l'entraînement du modèle (à gauche), le réseau neuronal non entraîné est soumis à un algorithme d'entraînement utilisant OCI Data Science, le calcul bare metal, un stockage local et un réseau en cluster. L'algorithme d'entraînement produit un modèle entraîné avec une nouvelle fonctionnalité. L'étape d'inférence de modèle est décrite à droite. Par exemple, un modèle entraîné, tel que DALL-E 2, peut prendre des entrées de texte et générer des images. Une entrée de texte est introduite dans le modèle entraîné et le modèle génère une image.

Infrastructure de bureau virtuel (VDI)

Les instances d'OCI Compute équipées de processeurs graphiques NVIDIA fournissent des performances élevées et constantes pour les VDI.


Infrastructure de bureau virtuel Infrastructure de bureau virtuel

Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU

OCI facilite l'ingénierie assistée par ordinateur et la dynamique des fluides numérique avec à la clé des prédictions rapides des propriétés aérodynamiques des objets.


Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU

Découvrez comment OCI et NVIDIA rendent possibles les modèles d'IA de nouvelle génération

Adept crée un coéquipier pour tous avec l'IA à l'aide d'Oracle et de NVIDIA

« Grâce à l'évolutivité et à la puissance de calcul des technologies d'OCI et de NVIDIA, nous pouvons entraîner un réseau neuronal qui permet d'utiliser toutes les applications, tous les sites Web et toutes les API imaginables, en s'appuyant sur les fonctionnalités déjà créées par les éditeurs de logiciels. »

David Luan, PDG
Adept

Grâce à Oracle Cloud, National Grid bénéfice d'une amélioration de 40 % des performances d'analyses de la météo

« Oracle Cloud Infrastructure nous permet de traiter des dizaines de milliers de modèles, afin de pouvoir entraîner nos algorithmes très rapidement. C'est l'une des meilleures plateformes au monde pour le type de travail que nous faisons. »

James Kelloway, Directeur de l’intelligence énergétique
National Grid ESO

SoundHound choisit OCI pour soutenir son importante croissance

« Cette relation avec OCI est, à nos yeux, une relation à long terme. Nous sommes ravis de tirer parti des GPU et de les utiliser pour entraîner notre nouvelle génération d'IA vocale. Nous pensons qu'OCI sera un soutien essentiel dans la poursuite de notre croissance. »

James Hom, Cofondateur et Vice-Président des produits
SoundHound

Softdrive propose des stations de travail de nouvelle génération avec OCI Compute et NVIDIA A10

« Softdrive est l'avenir des ordinateurs professionnels. Sur le marché des PC cloud, la performance est reine. Les processeurs graphiques NVIDIA sur les serveurs bare metal OCI ont considérablement amélioré l'expérience de nos clients. »

Leonard Ivey, Cofondateur de
Softdrive

Twist Bioscience exploite OCI et l'IA pour faire progresser ses projets en matière de protéines

« Avec les processeurs graphiques NVIDIA exécutés sur des instances bare metal d'OCI, Twist connaît d'importantes améliorations des performances de ses modèles d'IA ParaFold et ESMFold. »

WEKA sur OCI offre des performances de 2 téraoctets par seconde

« Oracle Cloud Infrastructure est un cloud hyperscaler de premier niveau qui fournit des services de calcul et d'application XaaS aux clients Oracle et offre bien plus que prévu, notamment des workloads IA/ML et GPU. »

Joel Kaufman
Responsable technique senior du marketing de WEKA

Tango Eye sert plus de clients à moindre coût avec Oracle

« Depuis que nous avons quitté AWS, nous avons quadruplé notre volume de données tout en réduisant nos coûts de 40 %. Nous utilisons une capacité de calcul de GPU inférieure de 33 % sur OCI par rapport à AWS. »

Suren Gounder, PDG
Tango Eye

Altair effectue des tests et des simulations complexes pendant la nuit sur OCI

« L'intégration à la plateforme cloud d'Oracle nous fournit des ressources de calcul GPU de pointe, une sécurité de premier ordre et des environnements VMware extrêmement flexibles. Enfin, cela permet d'améliorer la productivité, l'utilisation des ressources et la mise sur le marché. »

Sam Mahalingam, Directeur de la technologie
Altair

Suno compose de la musique et de l'audio de qualité avec des modèles d'IA sur OCI
13 novembre 2023

Annonce de l'offre de NVIDIA Grace Hopper Superchip sur OCI

Sagar Rawal, Vice-Président d'Oracle Cloud Infrastructure

Aujourd'hui, à SC23, nous annonçons notre intention de proposer des instances Oracle Cloud Infrastructure (OCI) Compute optimisées par NVIDIA GH200 Grace Hopper Superchip. Le GH200 est constitué d'un processeur Arm (Grace) lié à un GPU NVIDIA H100 Tensor Core (Hopper) avec un espace mémoire à bande passante élevée de 576 Go.

Lire la suite de l'article

Get started with GPU instances

Try Oracle AI and get a 30-day trial

Oracle offers a free pricing tier for most AI services as well as a free trial account with US$300 in credits to try additional cloud services. AI services are a collection of offerings, including generative AI, with prebuilt machine learning models that make it easier for developers to apply AI to applications and business operations.

  • Which Oracle AI and ML services offer a free pricing tier?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Machine Learning in Oracle Database
    • OCI Data Labeling

    You also only have to pay compute and storage charges for OCI Data Science.

See how much you can save with OCI

Oracle Cloud pricing is simple, with consistent low pricing worldwide, supporting a wide range of use cases. To estimate your low rate, check out the cost estimator and configure the services to suit your needs.

Access a GPU and AI expert

Get help building your next GPU solution or deploying your AI workload on OCI AI infrastructure.

  • They can answer questions such as

    • How do I get started with Oracle Cloud?
    • What kinds of AI workloads can I run on OCI?
    • What types of AI services does OCI offer?