AI时代Token成为“统一度量衡” 业内呼吁合力解决计费不透明等问题
近期,科技巨头Meta打算出售富余算力的消息所引发的,是市场对人工智能(AI)算力过剩所产生的恐慌。对于已经在开展AI基建的企业来说,如何让高昂的算力投入得以真正转化为可计量、可交易以及可闭环的业务价值,则成为了当前的首要问题。
7月2日下午,一场主题为“Token普惠:交付可见价值 重塑AI效能”的沙龙在北京成功举办。业内人士在会上指出,如果AI要真正实现落地,那么单纯强调技术而未能明确价值计量规则的商业模式肯定难以顺利跑通,因此需要确立一个“统一度量衡”,也就是Token(词元)。
不过,目前国内对于Token的定价依然主要以生成所需的成本作为核心基准,尚未建立起能够与任务完成程度以及产出实际价值实现有效挂钩的定价机制,而质量评估方面则主要依赖于用户的主观感知判断,因此行业当中存在计费过程不够透明、计量标准较为混乱以及价值匹配出现脱节等多方面问题。
Token 成为 AI 时代“统一度量衡”
Token经济依赖于其在价值计量方面的独特功能,在这一轮AI浪潮的发展过程之中得以扮演不可或缺的关键角色。
中国信息通信研究院信息化与工业化融合研究所副所长、高级工程师黄伟指出,如果AI要真正实现落地,那么单纯强调技术而未能明确价值计量规则的商业模式肯定难以顺利跑通,因此需要确立一个“统一度量衡”。在工业时代,“度量衡”所对应的是电力;在互联网时代,“度量衡”所对应的是流量;在AI时代,“度量衡”所对应的则是Token。
黄伟指出,Token作为算力资源的一种量化凭证,实际发挥着智能服务的计价媒介作用,它把无形的技术能力转化成可以核算成本的有形商品,从而承担起连接AI技术与经济价值之间的桥梁功能。
中国人民大学高瓴人工智能学院副院长、教授魏哲巍则指出,大模型的训练如同“上学”一般,属于需要进行一次性投入的环节;而如今产业界所更关注的推理阶段则如同“上班”一般,每一次智能调用都会开展实时的计费。企业采购 Token,本质上所购入的是可复用、可以规模化落地的工程能力以及组织能力。他所预判的是,未来Token定价将会出现分层分化的情况:基础业务会搭配低成本的轻量化模型,复杂决策场景会搭载高性能的大模型,企业必须精准地核算不同场景下Token投入所带来的效费比。
联想集团副总裁、中国首席战略官以及中国技术管理委员会执行主席阿不力克木(以下简称“阿木”)提出了观点,认为在未来由于技术创新等因素的作用,单位Token成本将会持续自然地呈现降低趋势。他同时还指出,随着企业用量的逐步增加,Token总成本必然会随之上升,当总Token成本曲线与总价值曲线实现相交并跨越“奇点”之时,AI价值就将迎来爆发式的增长,不过目前国内多数企业尚未到达这一关键阶段。
至于谁有望率先实现突围,据阿木所作出的判断,未来数字化水平极高的头部企业以及AI原生初创公司有望率先跨越奇点;而数量最庞大、处于中间段的传统企业,则因数字化基础较为薄弱,所以极易在看到“创新红利”前陷入算力支出的“成本黑洞”当中。
值得一提的是,阿木还针对近期的热门话题“Meta计划出售算力砸崩科技股”开展了评价工作。他指出,从长期来看,无论是在中国市场还是在海外市场,AI算力需求仍然存在着很大空间,并没有出现算力过剩的情况。需要特别注意的是,C端的成熟头部AI产品数量有限,而面向企业的B端商业化落地潜力尚未得到充分释放,这使得AI产业链当中供给侧的话语权过强,从而导致了结构性供需失衡。要让Token价值得以全面释放,还需要进一步推动供给侧与需求侧的平衡发展。
业内呼吁统一Token计量基准
目前,Token这一重要的计量单位尚未形成明确的价格指引机制或者统一的行业规范。随着下场参与的玩家数量不断增加,供应商也开始展开了价格战的竞争行动,Token套餐的定价看似变得越来越低廉,其中有的还会绑定较多产品,然而其中所存在的各类隐性陷阱同样不在少数。
黄伟进一步指出,目前定价机制所面临的问题主要集中于三个方面:一是计费过程不够透明,部分服务商设置的最小计费单位不够合理,还会暗中降低模型精度以压缩成本,这导致用户无法准确感知实际算力消耗与所用模型版本的具体情况;二是计量标准存在混乱现象,不同厂商对文本以及多模态内容的Token切分规则并不统一,相同内容在不同厂商的Token消耗量差异可达数倍之多,用户难以开展横向成本比对;三是价值匹配出现脱节,当前Token消耗无法直接映射到业务产出价值,在多模态场景下成本预判误差极大,算力投入的回报率难以有效量化。
在黄伟看来,上述这些问题需要产业各相关方共同推进解决。服务商需要常规性地对所采用算力型号、模型版本等信息进行披露,从而保障用户知情权利,不同配置对应差异化定价,不得在后台随意切换服务标准;行业方面需要统一计量基准,参照移动流量计量体系来建立全行业统一的Token计量基准以及标准化核算工具,以此保障不同主体的Token计量结果具备可比性;相关部门需要负责顶层设计与标准制定工作;技术平台方需要负责基础设施优化工作;应用方则需要负责场景落地以及价值沉淀工作。
封面图片来源:每经媒资库
来源:AI时代Token成为“统一度量衡” 业内呼吁合力解决计费不透明等问题 | 每日经济新闻