重视Token应用的价值:中国联通如何优化AI运营?
随着企业寻求将模型能力实际应用于经营中并创造持续价值,许多问题浮现。例如,一家制造公司的CIO在将大型模型整合进生产系统时面临诸多挑战:如何选择稳定的模型?敏感数据能否保留在本地?每次推理的费用应如何分配?半年后,当高管询问Token消耗及其具体带来的成本节省与效率提升时,CIO往往无法提供明确的答案。由于不同部门各自使用不同的模型,员工部署的AI工具也导致分散的账单难以与具体业务对接。因此,企业需要厘清模型调用的成本与数据流向,同时评估这些投入是否真正为工作带来改善。AI的应用难点已经从模型的可用性转向持续支持业务发展的能力,这为电信运营商提供了新的业务发展机遇。中国联通结合多年的算网调度与计费管理能力,以及深入的客户服务体系,为企业提供多样化的模型选择与Token管理。
在最近的合作伙伴生态大会上,中国联通推出了一个名为“元景MaaS词元运营分发平台”的新平台,旨在通过整合算力、模型能力及智能应用服务,建立更高效的Token运营体系,帮助客户实现更大的功能价值。此次发布体现了中国联通在Token经济时代的角色定位:大模型落地的关键在于通过追求“每百万Token的可持续应用价值”来推动实体经济的高质量发展。
在企业进行AI转型时,通常会关注Token的消耗量,但单纯的消耗量并不能反映其为客户创造的实际价值。企业更希望了解Token在具体业务流程中产生了哪些影响,提升了哪些业务指标。规模代表能力,而应用则决定价值的实现。 球友会
然而,企业在应用AI时仍面临诸多困难。尽管模型数量日益增加,企业仍难以有效利用AI。实际业务中,不同场景对模型的需求各异,分散的模型采购和使用可能引发“影子IT”风险。当各部门自行选择模型和AI工具时,企业面临难以掌握整体使用情况的困境。缺乏统一的调用与管理入口,很容易形成不透明的“财务黑盒”,导致财务部门无法有效追踪费用。
此外,多模型之间的选择与调度也是一大挑战。因为各业务场景对模型的要求不同,企业必须在多种模型中进行有效的切换和调度。然而,单一云厂商的全栈方案虽然简化了接入复杂度,但可能增加技术调整的难度。针对这个问题,企业需要一个统一的接入与调度工具,以连接内部数据和业务系统。
安全与合规问题同样构成了企业AI落地的高门槛。在某些行业中,如政府和金融,数据必须保留在本地,因此在选择模型时,企业必须权衡使用便利性、部署成本以及安全要求。解决这些问题需要建立一套可持续的服务能力,能够统一接入和调度不同模型,并对使用行为和成本进行管理。 球友会
为此,中国信通院与多个企业合作,发布了《人工智能词元(Token)运营管理能力要求》,从资源管理、费用控制、服务管理到合规审计六个方面,对Token运营提出系统要求。这标志着统一管理Token逐渐成为企业应用AI的基本能力,企业亟需将Token消耗与业务结果紧密关联,以便更清晰地看待不同应用的价值。
马刺传奇球星积极指导年轻球员,卡斯尔感受深刻
合理控制比赛节奏,进行有效的休息,及时补充水分。...
WTT澳门赛事:陈垣宇遭逆转,遗憾止步于四分之一决赛
合理控制比赛节奏,进行有效的休息,及时补充水分。...