Poder de computação: um novo modelo de negócios na era dos grandes modelos
A enorme demanda por poder de computação no treinamento de grandes modelos está gerando um novo modelo de negócios - serviços de poder de computação. Embora atualmente haja uma escassez de chips GPU de alto desempenho, essa falta é apenas temporária. A longo prazo, os provedores de serviços de poder de computação precisam se preparar para as mudanças na demanda do mercado.
Atualmente, o custo para treinar um grande modelo de linguagem é extremamente elevado. Tomando como exemplo um modelo vertical de grande porte na área da meteorologia, seu custo de treinamento pode ultrapassar 2 milhões de yuans. Para um modelo geral de grande porte, esse número pode aumentar cem vezes. Sem um suporte financeiro adequado, é difícil investir continuamente na pesquisa e desenvolvimento de grandes modelos.
Diante da escassez de GPUs de alta gama, as empresas do setor estão à procura de soluções. Algumas melhoram a qualidade dos dados para aumentar a eficiência do treinamento, outras se dedicam a otimizar a infraestrutura para realizar treinamentos em larga escala de forma mais estável, enquanto algumas empresas optam por usar plataformas nacionais em vez das GPUs da Nvidia. Para a maioria das equipes de algoritmos, escolher um fornecedor profissional de poder de computação é a melhor solução.
O essencial do serviço de poder de computação é encapsular recursos como poder de computação, armazenamento e rede de forma unificada, entregando-os aos usuários em formatos como API. Neste ciclo industrial, a parte superior fornece recursos de hardware básico, a parte média é responsável pela produção e agendamento do poder de computação, enquanto a parte inferior consiste nos usuários finais de diversas indústrias. Este modelo reduz significativamente a barreira de entrada para os usuários que utilizam computação de alto desempenho.
Atualmente, os serviços de poder de computação são principalmente cobrados com base em dois modelos: pagamento por uso e pagamento anual ou mensal. Os usuários podem escolher instâncias de GPU com diferentes configurações de acordo com suas necessidades, ou utilizar os serviços de aprendizado de máquina oferecidos pela plataforma em nuvem. No futuro, os serviços de poder de computação também se desenvolverão na direção da "integração de poder de computação e rede", permitindo uma programação de recursos mais flexível entre regiões e prestadores de serviços.
Embora a atual escassez de chips GPU de alta gama esteja a tornar a concorrência na indústria intensa, esta situação acabará por passar. Para os prestadores de serviços de poder de computação, é importante ter uma visão a longo prazo e estar preparado para as mudanças na demanda do mercado. Após o auge dos grandes modelos, as empresas que conseguirem ajustar rapidamente suas estratégias serão as que obterão vantagem neste novo mercado emergente.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
10 Curtidas
Recompensa
10
4
Repostar
Compartilhar
Comentário
0/400
OnchainSniper
· 3h atrás
A saída para a corrida louca pelas placas de vídeo chegou!
Ver originalResponder0
StrawberryIce
· 08-09 23:42
Fui pegar o cartão de poder de computação.
Ver originalResponder0
CoffeeOnChain
· 08-09 23:40
Ter dinheiro para fazer grandes modelos não é tão bom quanto negociar criptomoedas.
Poder de computação serviços: um novo mar azul e um planejamento de longo prazo na era dos grandes modelos
Poder de computação: um novo modelo de negócios na era dos grandes modelos
A enorme demanda por poder de computação no treinamento de grandes modelos está gerando um novo modelo de negócios - serviços de poder de computação. Embora atualmente haja uma escassez de chips GPU de alto desempenho, essa falta é apenas temporária. A longo prazo, os provedores de serviços de poder de computação precisam se preparar para as mudanças na demanda do mercado.
Atualmente, o custo para treinar um grande modelo de linguagem é extremamente elevado. Tomando como exemplo um modelo vertical de grande porte na área da meteorologia, seu custo de treinamento pode ultrapassar 2 milhões de yuans. Para um modelo geral de grande porte, esse número pode aumentar cem vezes. Sem um suporte financeiro adequado, é difícil investir continuamente na pesquisa e desenvolvimento de grandes modelos.
Diante da escassez de GPUs de alta gama, as empresas do setor estão à procura de soluções. Algumas melhoram a qualidade dos dados para aumentar a eficiência do treinamento, outras se dedicam a otimizar a infraestrutura para realizar treinamentos em larga escala de forma mais estável, enquanto algumas empresas optam por usar plataformas nacionais em vez das GPUs da Nvidia. Para a maioria das equipes de algoritmos, escolher um fornecedor profissional de poder de computação é a melhor solução.
O essencial do serviço de poder de computação é encapsular recursos como poder de computação, armazenamento e rede de forma unificada, entregando-os aos usuários em formatos como API. Neste ciclo industrial, a parte superior fornece recursos de hardware básico, a parte média é responsável pela produção e agendamento do poder de computação, enquanto a parte inferior consiste nos usuários finais de diversas indústrias. Este modelo reduz significativamente a barreira de entrada para os usuários que utilizam computação de alto desempenho.
Atualmente, os serviços de poder de computação são principalmente cobrados com base em dois modelos: pagamento por uso e pagamento anual ou mensal. Os usuários podem escolher instâncias de GPU com diferentes configurações de acordo com suas necessidades, ou utilizar os serviços de aprendizado de máquina oferecidos pela plataforma em nuvem. No futuro, os serviços de poder de computação também se desenvolverão na direção da "integração de poder de computação e rede", permitindo uma programação de recursos mais flexível entre regiões e prestadores de serviços.
Embora a atual escassez de chips GPU de alta gama esteja a tornar a concorrência na indústria intensa, esta situação acabará por passar. Para os prestadores de serviços de poder de computação, é importante ter uma visão a longo prazo e estar preparado para as mudanças na demanda do mercado. Após o auge dos grandes modelos, as empresas que conseguirem ajustar rapidamente suas estratégias serão as que obterão vantagem neste novo mercado emergente.