首页 > 资讯 > 人工智能

AI 智能体面临着日益扩大的信任鸿沟

时间:2025-12-17 编辑:长电科技股票 来源:互联网之光博览会

核心提示:人工智能代理正迅速成为企业从简单自动化向真正决策智能转变的关键力量。如果企业人工智能的第一个令人满意阶段是自动化,那么接下来显然是增强:提升知识工作中的人类智能。TheCUBE Research的“代

人工智能代理正迅速成为企业从简单自动化向真正决策智能转变的关键力量。

如果企业人工智能的第一个令人满意阶段是自动化,那么接下来显然是增强:提升知识工作中的人类智能。TheCUBE Research的“代理型AI未来指数”显示这一转变正在加速。62%的公司现将AI代理视为决策的关键组成部分,标志着从自动化部署向AI驱动决策智能的决定性转变。

但雄心远远超过执行。组织正大量投资于自动化以外的能力,包括与人协作、追求目标并做出基于判断的数字同事。随着他们从实验转向执行,领导者对AI能力的期望与组织能够实现的实际作之间的差距持续拉大。AI智能体不仅自动化任务——它们暴露了治理、数据质量和运营准备度的弱点。这种矛盾的核心是一个大多数企业仍无法回答的问题:“我们能否信任这些系统做出重要决策?”

“信任正在成为创新的货币,”TheCUBE Research的Scott Hebner在《人工智能前沿》播客中说。“没有信任,就没有投资回报。”

Hebner指出,“代理人工智能未来指数”提供了企业在这一转型中实际处于何种状态的首个全面基准。该研究于2025年第三季度进行,调查了跨行业的人工智能业务和技术领导者,衡量了五个领域的企业准备度。该指数还借鉴了theCUBE对AI代理构建者峰会的报道,并加入了Doozer.ai公司的真实世界见解。这些数据点不仅揭示了组织投资的所在,也揭示了它们陷入困境——以及为何即使信念依然高,执行仍不断崩溃。

这张图片反映了企业在人工智能代理上的巨大投资,但信任、治理和执行的差距显示了为何各行业雄心仍然超过运营现实。

代理人工智能未来指数——theCUBE Research

衡量成熟度曲线

人工智能代理创新周期加速得比大多数企业能够追踪的速度还要快。领导者需要的不仅仅是轶事基准,才能理解自己的位置和尚未察觉的差距。“代理人工智能未来指数”衡量的五个维度包括:

数字化劳动力转型——跟踪组织如何整合数字同事并重塑劳动力战略。

采用成熟度——描绘从试点到企业级代理工作流的历程。

信任与治理——评估可解释性和问责框架。

推理与决策智能——衡量从任务执行向判断型工作的转变。

因果人工智能创新——探讨系统是否能够超越模式识别,理解因果关系。

每个维度基于625名合格AI专业人士提交的61个问题,涵盖13个行业,采用0-5成熟度评分。受访者被筛选出直接参与人工智能战略、开发或治理,确保数据反映的是积极塑造该领域的从业者,而非仅仅是旁观者对其进行猜测。

Hebner解释道:“这些指数共同定义了一个战略成熟度曲线,帮助组织制定人工智能战略,展示解决方案领导力,与同行进行基准对比,并预见将塑造未来十年创新的技术。”

幻灯片显示,5分中的4.1分(71%)认为数字劳动力的兴起不可避免,3.1分(64%)优先考虑知识工作而非任务自动化,1.8分(8%)共享跨业务领导责任,说明人工智能代理的雄心远超企业现实。

数字劳动转型未来指数——theCUBE研究

智能人工智能背后的执行赤字

企业并不缺乏信念。根据指数,超过90%的受访领导者认为数字劳动——以及更广泛的智能人工智能——是不可避免的,且在拥有最直接AI经验者中,这种信念最高。数字同事是解决人才短缺、成本上升和竞争压力的关键解决方案,而非可选的创新。

这一模式在指数中一贯体现:领导者对智能人工智能表示强烈信念,但组织难以将这一愿景转化为现实执行。“数字劳动转型指数”,作为整体“代理人工智能未来指数”的一部分,正好说明了这一点。其整体成熟度评分为3.1——这表明组织已开始超越实验阶段,但尚未达到对规模化数字同事的准备。人力资源与IT之间的合作正在形成,早期战略也在逐步成型。针对性的用例正在出现,但执行力依然不足。

“目前,这仍被视为技术实现,但这实际上是一场商业作,”theCUBE Research首席分析师Christophe Bertrand说。“没有跨组织协作,事情很快就会崩溃,因为你能让IT部门帮你做的事有限。”

即便有这种信念,作战准备依然遥不可及。在“数字劳动转型指数”中,抱负在成熟度评分为4.1,战略降至3.1,执行力降至仅1.8。这一模式显示出组织对数字劳动力的设想与其当前实际可提供的之间存在结构性差距,呼应了“代理人工智能未来指数”中更广泛的愿景与价值差距。

没有单一故障能造成这个差距。许多组织仍然将智能人工智能和数字同事视为IT拥有的技术实现,而非需要共同问责的劳动力转型举措。战略评分显示投资和规划正在进行中,但执行评分显示,实现数字劳动大规模运营所需的协作结构、治理和变革管理仍不成熟。

贝特朗说:“这些都是倡议初期的迹象。”“我们还在打基础,离我们想要的目标还有好几年。”

文化层面同样至关重要。人力资源部门正日益参与塑造企业如何将人工智能代理作为数字同事,而非替代人类工人的方式。这一转变将代理人工智能重新定义为劳动力演进,而非纯粹的自动化。

“如果你不适应速度节奏,文化就是游戏,”SiliconANGLE Media Inc.联合创始人兼联合首席执行官John Furrier在AI代理构建者峰会上说。“这是唯一的选择,因为没有速度就赢不了。如果你不在比赛中,不在场上和AI一起,你就会输给另一个更快的人。”

人工智能代理:投资与怀疑的交汇

“智能人工智能期货指数”凸显了人工智能推理和决策智能投资的加速。73%的企业正在对超越自动化、进入判断型工作的能力做出重大或战略性承诺,投资成熟度得分为3.8分(满分5分),是所有测量维度中最高的。

幻灯片显示,信任AI代理做出准确、值得信赖决策的评分为2.4分(满分5分,得分为49%);部署信任与治理框架者得分为2.8分(29%);计划战略性或重大投资的信任者得分为3.8分(满分5分),得分为73%。

代理人工智能信任与治理——theCUBE 研究

但信心并未跟上支出的步伐。只有49%的受访领导者对人工智能代理能够做出值得信赖且准确决策充满信心。该指数的信任评分为2.4分(满分5分),在所有测量维度中均为最低。投资与信心之间的差距是投资回报率(ROI)停滞的地方,Doozer.ai 首席执行官保罗·查达(Paul Chada)指出。

“预测不是决定,”查达说。“只有当一个代理人表现出理解其目标、背景和行为的后果时,你才能信任它。”

信念与怀疑之间的张力在真实部署中表现出来。据IBM公司人工智能合作伙伴负责人迈克尔·加拉斯表示,企业对智能人工智能解决一切问题的期待,到对其是否已准备好投入生产持高度怀疑态度。

“我认为企业最关心的就是如何确保AI代理拥有他们所需的背景信息,”Gara在AI代理构建者峰会上说。

Chada指出,生成式人工智能能够识别模式和相关性,但决策智能需要系统理解因果关系。随着企业从预测转向基于判断的工作,支持自动化的信任机制已不再适用。可解释性、人类协作以及评估权衡的能力成为验证代理决策的关键。

Chada说:“组织现在只是想同时运行[人工智能代理]。”“在他们看来,反复做出正确决定,信任自然而然地建立起来;那时自主权才变得被接受。”

正是这些紧张关系,使得信任正逐渐成为企业采纳的真正守门人。“智能人工智能未来指数”显示,组织愿意投资并渴望尝试,但自主性的发展速度取决于信心。随着AI代理承担了真正后果的工作,理解和验证其决策的能力将决定企业进入这一转变下一阶段的速度。

 
更多>同类资讯