Potencia computacional servicio: un nuevo modelo de negocio en la era de los grandes modelos

Con el rápido desarrollo de los grandes modelos de inteligencia artificial, la potencia computacional se está convirtiendo en un nuevo modelo de negocio emergente. Aunque actualmente la tendencia de "refinar el elixir" de los grandes modelos sigue en curso, los proveedores de servicios de potencia computacional necesitan prepararse con anticipación para los cambios del mercado en el futuro.

Recientemente, un joven que se graduó de la Universidad de Tsinghua hace 3 años ha entrenado un gran modelo meteorológico con un número de parámetros que alcanza el nivel de cientos de millones. Este proyecto utilizó 40 años de datos meteorológicos globales y empleó 200 tarjetas GPU para el preentrenamiento, que duró aproximadamente 2 meses. Según el precio actual de las GPU, solo el costo de entrenamiento podría superar los 2 millones de yuanes. Y si se trata de entrenar un modelo grande general, el costo podría multiplicarse por cien.

Actualmente, en China ya hay más de 100 modelos grandes con una escala de 10 mil millones de parámetros. Sin embargo, la industria enfrenta en general el problema de la escasez de GPU de alta gama. Los costos de potencia computacional siguen siendo altos, y la falta de potencia computacional y fondos se ha convertido en un problema real que enfrentan muchas empresas.

En un contexto de escasez, el precio de las GPU de alta gama se ha disparado. El precio de una Nvidia A100 alcanzó un máximo de dos a tres cientos mil yuanes, y el alquiler mensual de un servidor A100 también se disparó a entre 5 y 7 mil yuanes. Aun así, muchas empresas siguen teniendo dificultades para obtener los recursos de chips que necesitan.

Ante esta dificultad, las empresas buscan soluciones. Algunas optan por utilizar datos de mayor calidad para mejorar la eficiencia del entrenamiento; otras se dedican a mejorar la capacidad de infraestructura, logrando un funcionamiento estable de clústeres de GPU a gran escala; y otras empresas se están volcando en el uso de plataformas nacionales para el entrenamiento y la inferencia de modelos grandes.

A medida que el mercado se vuelve cada vez más racional, las empresas también están ajustando sus estrategias para controlar costos. Al mismo tiempo, el servicio de Potencia computacional se está convirtiendo en un nuevo modelo de negocio. Los proveedores de servicios de Potencia computacional integran recursos como Potencia computacional, almacenamiento, red, etc., y entregan Potencia computacional a los usuarios en forma de API y otros. Este modelo permite a los usuarios obtener el soporte de Potencia computacional necesario simplemente planteando sus necesidades, sin necesidad de construir infraestructura propia.

En la cadena de la industria de potencia computacional, las empresas upstream son responsables de proporcionar recursos básicos de potencia computacional, las empresas midstream se encargan de la producción y programación de potencia computacional, y downstream son los usuarios de diversas industrias. Con el desarrollo de los servicios de potencia computacional, también están surgiendo constantemente nuevos modelos de facturación y formas de servicio, como la facturación por uso, suscripciones anuales o mensuales, e integración de potencia computacional y red.

A pesar de que actualmente sigue existiendo un problema de escasez de GPU de alta gama, a largo plazo, el mercado de servicios de potencia computacional seguramente pasará de un mercado de vendedores a un mercado de compradores. Ante esta tendencia, los proveedores de servicios de potencia computacional deben estar preparados para ajustar sus estrategias a tiempo cuando cambie la dirección del mercado y aprovechar nuevas oportunidades de desarrollo.