11月22日，华恒盛世副总经理王文星受邀做客36氪直播栏目《专精时氪》，与36氪产业社群负责人余熠、测测集团创始人&CEO任永亮、UCloud优刻得服务器中心及AI算力负责人丁振雷，共话AI算力驱动竞争力升级，直播热度达16万。

本期节目围绕「重新定义：AI塑造全新商业世界」「稳扎稳打：AI算力成为企业“新基建”」「部署未来：持续释放AI的商业想象」三方面话题，探讨AI算力作为“新生产力”的技术创新、应用场景及发展趋势。

以下为本期节目的精彩内容整理：

据你们对行业的观察，目前的AI基础设施市场发展到一个什么阶段？海内外有没有明显的异同？

王文星:

在探讨AI基础设施之前，可以先了解一下AI技术的发展。正如我们所知，AI三大核心要素分别为算力、算法和数据。

早些年，在AI领域，从算力角度看，其底层技术主要是单卡、单机；从算法角度看，模型的参数可能达百万级、千万级；而从数据量来看，一般在几十GB或几GB的级别。观察现今AI的变化，从算力角度来说，服务器已转向集群规模，对算力有很高的要求；从算法角度来看，大模型的参数级别已变为万亿级别；从数据来说，已经达到数百G甚至数TB的级别。

为适应这些变化，底层基础设施发生了很大的改变。首先，在算力方面，需要更大规模的集群；其次，在调度层面，为使整个集群算力得到高效利用，调度技术的研发至关重要；最后，在算力服务商方面，模型训练完成后，需要向用户提供更流畅、稳定、可靠的算力和模型服务。

目前海外硬件选项相对单一，软件栈比较统一，且国外算力中心具综合性。相较之下，国内数据中心众多，算力生态布局比较繁杂，而华恒盛世就是致力于打造一个异构融合、易用的平台，为广大用户提供更便捷的算力服务，让国内的算力生产商也能够轻松融入算力服务市场。

在近些年的发展中，国内企业对于AI能力的需求经过了哪些阶段的变化？怎么看待算力在整个AI应用版图中的位置及发展趋势？

王文星:

国内企业对AI能力的需求经历了以下变化：

初期，国内企业主要集中在探索AI技术的基本应用，如自动化、简单的数据分析和客户服务优化。

成熟期，随着技术的成熟和市场的需求增长，企业开始将AI应用于更复杂的场景，如人脸识别、个性化推荐系统和智能运维等等。

在当前的战略转型期，许多企业正将AI视为核心竞争力，不仅在特定的业务领域进行应用，而且在企业战略层面进行整合，以驱动整体业务创新和转型。

算力在AI应用中起着至关重要的作用。它是支撑复杂AI模型运行的基础，无论是数据处理、模型训练还是实时推理，都离不开强大的计算能力。随着AI应用的深入和需求的增长，算力需求将持续增长，对于算力调度的要求也逐渐提高。未来，我们可能会看到更多的创新发展，比如专用AI芯片的开发、算力调度的融合，以及边缘计算在特定场景下的应用。

目前，主流厂商为改善模型，纷纷进入“千亿参数时代”，这对硬件提出更高要求。从市场情况来看，各公司在AI算力的花费呈现何种趋势？

王文星:

可以从两方面来看，一方面是采购GPU卡的成本，目前仍比较高；另一方面，需要关注模型训练、推理的电耗成本，相关数据显示，ChatGPT3在训练一次模型时，需用近几千张卡，单次训练的电耗成本约50多万元，此外，待机状态下，电耗约为每月20多万元。关于推理成本，ChatGPT 3 为全球用户提供服务，每月成本将近800万元人民币。这些数据展示了大型语言模型在训练和推理过程中的高成本。