Эра больших моделей наступила, вычислительная мощность становится новой бизнес-моделью

robot
Генерация тезисов в процессе

Вычислительная мощность услуг: новая бизнес-модель эпохи больших моделей

С быстрым развитием крупных моделей искусственного интеллекта, вычислительная мощность становится новой бизнес-моделью. Хотя в настоящее время продолжается увлечение «варкой» больших моделей, провайдеры вычислительных услуг должны заранее подготовиться к изменениям на рынке.

В последнее время молодой человек, который выпустился из Университета Цинхуа три года назад, обучил метеорологическую модель с параметрами на уровне миллиарда. Этот проект использовал 40-летние данные о погоде по всему миру и для предварительного обучения использовал 200 графических процессоров, что заняло около 2 месяцев. Согласно текущим ценам на графические процессоры, только затраты на обучение могут превысить 2 миллиона юаней. А если речь идет о тренировке универсальной большой модели, то затраты могут увеличиться в сто раз.

В настоящее время в Китае существует более 100 крупных моделей с масштабом в 10 миллиардов параметров. Однако отрасль в целом сталкивается с проблемой нехватки высокопроизводительных GPU. Стоимость вычислительной мощности остается высокой, отсутствие вычислительной мощности и финансирования стало реальной проблемой для многих компаний.

В условиях нехватки предложения цены на высококлассные GPU взлетели до небес. Цена на одну карту NVIDIA A100 достигала 200-300 тысяч юаней, а месячная аренда одного сервера A100 также подскочила до 50-70 тысяч юаней. Тем не менее, многим компаниям по-прежнему трудно получить необходимые чипы.

Столкнувшись с этой проблемой, компании стремятся найти решения. Некоторые выбирают использование более качественных данных для повышения эффективности обучения; другие сосредотачиваются на улучшении инфраструктурных возможностей для стабильной работы крупных GPU-кластеров; еще некоторые компании переходят на использование отечественных платформ для обучения и вывода больших моделей.

С учетом того, что рынок постепенно становится более рациональным, компании также корректируют стратегии для контроля затрат. В то же время, услуги вычислительной мощности становятся новой бизнес-моделью. Поставщики услуг вычислительной мощности интегрируют вычислительную мощность, хранилище, сеть и другие ресурсы, предоставляя вычислительную мощность пользователям в форме API и т. д. Эта модель позволяет пользователям не строить собственную инфраструктуру, а просто выдвигать требования для получения необходимой поддержки вычислительной мощности.

В цепочке поставок вычислительной мощности, upstream-компании отвечают за предоставление базовых ресурсов вычислительной мощности, midstream-компании занимаются производством и диспетчеризацией вычислительной мощности, а downstream — это пользователи из различных отраслей. С развитием услуг вычислительной мощности новые модели тарифов и формы обслуживания также постоянно появляются, такие как оплата по мере использования, годовая или месячная подписка, интеграция вычислительной сети и так далее.

Несмотря на то, что в настоящее время существует нехватка высококачественных GPU, в долгосрочной перспективе рынок вычислительных мощностей обязательно перейдет от рынка продавцов к рынку покупателей. В условиях этой тенденции поставщики вычислительных мощностей должны быть готовы своевременно корректировать свою стратегию и использовать новые возможности для развития, когда рынок изменит направление.

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 10
  • Поделиться
комментарий
0/400
SneakyFlashloanvip
· 07-14 12:15
Такое вычислительная мощность - полная ерунда.
Посмотреть ОригиналОтветить0
CryingOldWalletvip
· 07-14 03:43
Розничный инвестор, который не может позволить себе купить видеокарту, очень грустит.
Посмотреть ОригиналОтветить0
SerNgmivip
· 07-13 22:33
Нет денег на видеокарту, я плачу.
Посмотреть ОригиналОтветить0
GasFeeCriervip
· 07-11 14:08
GPU быстро растет до луны!
Посмотреть ОригиналОтветить0
DeadTrades_Walkingvip
· 07-11 14:07
GPU разогрелись...
Посмотреть ОригиналОтветить0
DefiEngineerJackvip
· 07-11 14:04
на самом деле, централизованные поставщики GPU ngmi... просто подождите, пока децентрализованные вычислительные сети не отберут у них бизнес
Посмотреть ОригиналОтветить0
PoetryOnChainvip
· 07-11 13:55
GPU больше не работает
Посмотреть ОригиналОтветить0
GlueGuyvip
· 07-11 13:54
Опять отличная возможность разыгрывать людей как лохов.
Посмотреть ОригиналОтветить0
ChainBrainvip
· 07-11 13:52
Видеокарты подскочили до небес
Посмотреть ОригиналОтветить0
ShamedApeSellervip
· 07-11 13:44
Ожидается новая волна неудачников, которых будут разыгрывать как лохов.
Посмотреть ОригиналОтветить0
Подробнее
  • Закрепить