Puissance de calcul Service : Un nouveau modèle commercial à l'ère des grands modèles
La demande énorme de puissance de calcul pour l'entraînement des grands modèles donne naissance à un nouveau modèle commercial - le service de puissance de calcul. Bien que les puces GPU haut de gamme soient actuellement en forte demande, cette pénurie n'est que temporaire. À long terme, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et être prêts pour les changements de la demande du marché.
Actuellement, le coût d'entraînement d'un grand modèle de langage est extrêmement élevé. Prenons l'exemple d'un grand modèle vertical dans le domaine météorologique, dont le coût d'entraînement peut dépasser 2 millions de yuans. Pour un modèle général, ce chiffre peut augmenter de cent fois. Sans un soutien financier suffisant, il est difficile de continuer à investir dans la recherche et le développement de grands modèles.
Face à la pénurie de GPU haut de gamme, les entreprises du secteur cherchent des solutions. Certaines améliorent la qualité des données pour accroître l'efficacité de l'entraînement, d'autres s'efforcent d'optimiser l'infrastructure pour réaliser un entraînement à grande échelle plus stable, tandis que certaines entreprises choisissent d'utiliser des plateformes nationales en remplacement des GPU Nvidia. Pour la plupart des équipes d'algorithmes, choisir un fournisseur de services de puissance de calcul professionnel est la meilleure solution.
La nature des services de puissance de calcul est d'emballer de manière unifiée des ressources telles que la puissance de calcul, le stockage et le réseau, et de les livrer aux utilisateurs sous forme d'API, entre autres. Dans cette chaîne d'industrie, l'amont fournit des ressources matérielles de base, l'aval est responsable de la production et de la planification de la puissance de calcul, tandis que l'aval représente les utilisateurs finaux de divers secteurs. Ce modèle réduit considérablement la barrière à l'entrée pour les utilisateurs souhaitant utiliser des calculs haute performance.
Actuellement, les services de puissance de calcul utilisent principalement deux modes de facturation : la facturation à la demande et la facturation annuelle ou mensuelle. Les utilisateurs peuvent choisir des instances GPU de différentes configurations en fonction de leurs besoins, ou utiliser les services d'apprentissage automatique fournis par la plateforme cloud. À l'avenir, les services de puissance de calcul évolueront vers une "intégration de la puissance de calcul et du réseau", permettant une planification des ressources plus flexible entre régions et fournisseurs de services.
Bien que la pénurie actuelle de puces GPU haut de gamme entraîne une concurrence intense dans l'industrie, cette situation finira par passer. Pour les fournisseurs de services de puissance de calcul, il est important d'avoir une vision à long terme et de se préparer aux évolutions de la demande du marché. Une fois que la frénésie des grands modèles se sera estompée, seules les entreprises capables d'ajuster rapidement leur stratégie pourront tirer parti de ce marché émergent.
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
12 J'aime
Récompense
12
5
Reposter
Partager
Commentaire
0/400
AirdropNinja
· Il y a 10m
C'est encore un projet coûteux.
Voir l'originalRépondre0
OnchainSniper
· Il y a 21h
La solution pour la frénésie des cartes graphiques est là.
Voir l'originalRépondre0
StrawberryIce
· 08-09 23:42
J'ai pris la carte de puissance de calcul.
Voir l'originalRépondre0
CoffeeOnChain
· 08-09 23:40
Avoir de l'argent pour créer de grands modèles n'est pas aussi bien que de faire du Trading des cryptomonnaies.
Voir l'originalRépondre0
AlwaysMissingTops
· 08-09 23:27
Eh bien, c'est enroulé, avoir de l'argent c'est la dure réalité.
Puissance de calcul : un nouvel océan bleu et un plan à long terme à l'ère des grands modèles
Puissance de calcul Service : Un nouveau modèle commercial à l'ère des grands modèles
La demande énorme de puissance de calcul pour l'entraînement des grands modèles donne naissance à un nouveau modèle commercial - le service de puissance de calcul. Bien que les puces GPU haut de gamme soient actuellement en forte demande, cette pénurie n'est que temporaire. À long terme, les fournisseurs de services de puissance de calcul doivent se préparer à l'avance et être prêts pour les changements de la demande du marché.
Actuellement, le coût d'entraînement d'un grand modèle de langage est extrêmement élevé. Prenons l'exemple d'un grand modèle vertical dans le domaine météorologique, dont le coût d'entraînement peut dépasser 2 millions de yuans. Pour un modèle général, ce chiffre peut augmenter de cent fois. Sans un soutien financier suffisant, il est difficile de continuer à investir dans la recherche et le développement de grands modèles.
Face à la pénurie de GPU haut de gamme, les entreprises du secteur cherchent des solutions. Certaines améliorent la qualité des données pour accroître l'efficacité de l'entraînement, d'autres s'efforcent d'optimiser l'infrastructure pour réaliser un entraînement à grande échelle plus stable, tandis que certaines entreprises choisissent d'utiliser des plateformes nationales en remplacement des GPU Nvidia. Pour la plupart des équipes d'algorithmes, choisir un fournisseur de services de puissance de calcul professionnel est la meilleure solution.
La nature des services de puissance de calcul est d'emballer de manière unifiée des ressources telles que la puissance de calcul, le stockage et le réseau, et de les livrer aux utilisateurs sous forme d'API, entre autres. Dans cette chaîne d'industrie, l'amont fournit des ressources matérielles de base, l'aval est responsable de la production et de la planification de la puissance de calcul, tandis que l'aval représente les utilisateurs finaux de divers secteurs. Ce modèle réduit considérablement la barrière à l'entrée pour les utilisateurs souhaitant utiliser des calculs haute performance.
Actuellement, les services de puissance de calcul utilisent principalement deux modes de facturation : la facturation à la demande et la facturation annuelle ou mensuelle. Les utilisateurs peuvent choisir des instances GPU de différentes configurations en fonction de leurs besoins, ou utiliser les services d'apprentissage automatique fournis par la plateforme cloud. À l'avenir, les services de puissance de calcul évolueront vers une "intégration de la puissance de calcul et du réseau", permettant une planification des ressources plus flexible entre régions et fournisseurs de services.
Bien que la pénurie actuelle de puces GPU haut de gamme entraîne une concurrence intense dans l'industrie, cette situation finira par passer. Pour les fournisseurs de services de puissance de calcul, il est important d'avoir une vision à long terme et de se préparer aux évolutions de la demande du marché. Une fois que la frénésie des grands modèles se sera estompée, seules les entreprises capables d'ajuster rapidement leur stratégie pourront tirer parti de ce marché émergent.