当前,人工智能大模型的发展离不开算力的支撑。但由于用算成本高、供需对接不畅等问题,企业的技术落地面临一定瓶颈。
为解决这一问题,4月3日,广州正式发布全国首个基于词元(Token)级调度的城市综合算力运行服务平台——广州市一体化算力网监测调度平台。该平台旨在搭建全市算力资源与应用需求之间的桥梁,优化算力资源配置。通过这一平台,算力将从“奢侈品”变成“日用品”,供需双方的对接将更便利,算力价格也更透明。

广州市政务和数据管理局基础设施处处长陈耿介绍,以一家在广州落地的新兴无人机企业为例,该企业如需在广州本地寻找算力资源进行无人机数据的处理和分析,企业负责人就可以在上述平台发布需求信息,据此匹配至就近的、具有相应算力能力的供算单位。
在这一模式下,企业不仅寻找算力更便捷,用算成本也将大幅降低。陈耿介绍,平台以词元(Token)为统一计量基准,代替过去以机器数量或租用时间计量的粗略化管理,让算力的使用更精细、更高效。“对企业来讲,算力可以真正按需购买,大幅降低生产成本;在全市层面,算力可以像水和电一样,进行流动调配和错峰应用,且透明可溯源。”
深圳云天励飞技术股份有限公司高级总监陈漱玉表示,作为算力使用方,公司的大模型研发正从数据训练转向推理应用,词元成本是研发落地的关键。因为“每问一个问题都要烧钱”,所以词元成本决定了应用能否真正普及。如果算力调用成本大幅降低,中小企业、初创公司可以更大胆尝试,人工智能将真正走进千家万户。
据悉,该平台未来纳管算力将达7万P,成为集算力交易、供需撮合与政府监管于一体的算力资产流通枢纽。
与此配套的,广州移动、广州联通、云下科技、连云大数据4个获批算力项目在平台上线同日集体开工建设,总投资额48.39亿元,建成后将新增智算规模4万P,实现广州单体万卡万P智算中心建设零的突破。
启建仪式上,广州市政务和数据局黄津局长强调,平台将为企业提供便捷高效的“一站式”算力服务,切实破解企业用算难、用算贵等问题,让企业轻装上阵搞研发、拓市场。

