Вычислительная мощность сервисов: новая бизнес-модель эпохи больших моделей
Огромный спрос на вычислительную мощность для обучения больших моделей порождает новую бизнес-модель - услуги вычислительной мощности. Несмотря на то, что в настоящее время высококачественные графические процессоры не хватает, этот дефицит является временным. В долгосрочной перспективе поставщикам услуг вычислительной мощности необходимо заранее подготовиться к изменениям в рыночном спросе.
В настоящее время стоимость обучения крупномасштабной языковой модели чрезвычайно высока. Например, для вертикальной большой модели в области метеорологии стоимость обучения может превысить 2 миллиона юаней. А для универсальной большой модели эта цифра может увеличиться в сто раз. Без достаточной финансовой поддержки трудно постоянно инвестировать в разработку больших моделей.
Столкнувшись с проблемой нехватки высокопроизводительных GPU, компании в отрасли активно ищут способы ее решения. Некоторые повышают качество данных для увеличения эффективности обучения, другие стремятся оптимизировать инфраструктуру для достижения более стабильного масштабного обучения, а некоторые компании выбирают использование отечественных платформ вместо GPU от NVIDIA. Для большинства алгоритмических команд выбор профессионального поставщика вычислительной мощности является оптимальным решением.
Суть сервисов вычислительной мощности заключается в объединении вычислительной мощности, хранения, сетевых и других ресурсов в единую упаковку и предоставлении их пользователям в виде API и других форматов. В этой цепочке поставок поставщики предоставляют базовые аппаратные ресурсы, средние компании отвечают за производство и распределение вычислительной мощности, а конечные пользователи находятся в нижнем сегменте и представляют собой различные отрасли. Эта модель значительно снижает порог входа для пользователей, желающих использовать высокопроизводительные вычисления.
В настоящее время услуги вычислительной мощности в основном предлагают два тарифа: оплата по мере использования и пакетная оплата на год или месяц. Пользователи могут выбирать экземпляры GPU с различными конфигурациями в зависимости от своих потребностей или использовать услуги машинного обучения, предоставляемые облачной платформой. В будущем услуги вычислительной мощности также будут развиваться в направлении "интеграции вычислений и сети", реализуя более гибкое распределение ресурсов между регионами и провайдерами услуг.
Несмотря на то, что нехватка высококачественных GPU-чипов приводит к острому конкурентному соперничеству в отрасли, эта ситуация в конечном итоге пройдет. Для поставщиков вычислительной мощности важно иметь долгосрочное видение и быть готовыми к изменениям рыночного спроса. После того как волна больших моделей утихнет, только те компании, которые смогут быстро адаптировать свои стратегии, смогут занять лидирующие позиции на этом новом рынке.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
14 Лайков
Награда
14
5
Репост
Поделиться
комментарий
0/400
AirdropNinja
· 08-12 19:13
Это опять работа, требующая больших затрат.
Посмотреть ОригиналОтветить0
OnchainSniper
· 08-11 22:11
Выход для безумного спроса на видеокарты пришёл!
Посмотреть ОригиналОтветить0
StrawberryIce
· 08-09 23:42
Робота с вычислительной мощностью ушла
Посмотреть ОригиналОтветить0
CoffeeOnChain
· 08-09 23:40
Лучше торговать криптовалютой, чем делать большие модели.
Посмотреть ОригиналОтветить0
AlwaysMissingTops
· 08-09 23:27
Сложилось так, что деньги – это непреложная истина.
Вычислительная мощность сервисы: новый рынок и долгосрочные планы в эпоху больших моделей
Вычислительная мощность сервисов: новая бизнес-модель эпохи больших моделей
Огромный спрос на вычислительную мощность для обучения больших моделей порождает новую бизнес-модель - услуги вычислительной мощности. Несмотря на то, что в настоящее время высококачественные графические процессоры не хватает, этот дефицит является временным. В долгосрочной перспективе поставщикам услуг вычислительной мощности необходимо заранее подготовиться к изменениям в рыночном спросе.
В настоящее время стоимость обучения крупномасштабной языковой модели чрезвычайно высока. Например, для вертикальной большой модели в области метеорологии стоимость обучения может превысить 2 миллиона юаней. А для универсальной большой модели эта цифра может увеличиться в сто раз. Без достаточной финансовой поддержки трудно постоянно инвестировать в разработку больших моделей.
Столкнувшись с проблемой нехватки высокопроизводительных GPU, компании в отрасли активно ищут способы ее решения. Некоторые повышают качество данных для увеличения эффективности обучения, другие стремятся оптимизировать инфраструктуру для достижения более стабильного масштабного обучения, а некоторые компании выбирают использование отечественных платформ вместо GPU от NVIDIA. Для большинства алгоритмических команд выбор профессионального поставщика вычислительной мощности является оптимальным решением.
Суть сервисов вычислительной мощности заключается в объединении вычислительной мощности, хранения, сетевых и других ресурсов в единую упаковку и предоставлении их пользователям в виде API и других форматов. В этой цепочке поставок поставщики предоставляют базовые аппаратные ресурсы, средние компании отвечают за производство и распределение вычислительной мощности, а конечные пользователи находятся в нижнем сегменте и представляют собой различные отрасли. Эта модель значительно снижает порог входа для пользователей, желающих использовать высокопроизводительные вычисления.
В настоящее время услуги вычислительной мощности в основном предлагают два тарифа: оплата по мере использования и пакетная оплата на год или месяц. Пользователи могут выбирать экземпляры GPU с различными конфигурациями в зависимости от своих потребностей или использовать услуги машинного обучения, предоставляемые облачной платформой. В будущем услуги вычислительной мощности также будут развиваться в направлении "интеграции вычислений и сети", реализуя более гибкое распределение ресурсов между регионами и провайдерами услуг.
Несмотря на то, что нехватка высококачественных GPU-чипов приводит к острому конкурентному соперничеству в отрасли, эта ситуация в конечном итоге пройдет. Для поставщиков вычислительной мощности важно иметь долгосрочное видение и быть готовыми к изменениям рыночного спроса. После того как волна больших моделей утихнет, только те компании, которые смогут быстро адаптировать свои стратегии, смогут занять лидирующие позиции на этом новом рынке.