管理AI在数字产品开发与服务管理中的风险与回报

2026-03-26 00:00:00    ITIL运维   

管理AI在数字产品开发与服务管理中的风险与回报

无论这句话出自谁之口,这句引语“有数十年风平浪静,也有数周内翻天覆地”,都恰如其分地描述了AI如何影响服务管理与数字产品开发。

一年前,Forrester的分析师报告称,“代理式AI(Agentic AI)正在突破服务管理的可能边界——从主动问题解决到个性化用户体验”。

他们补充道:“问题不再是AI是否会主导服务管理,而是组织能以多快的速度实施并充分利用其全部潜力。”

在AI世界,一年显然是很长的时间,正如英国公司“ITSM People”的Tim Mills最近在LinkedIn上强调的 Hyperwrite(AI写作工具)创始人兼CEO Matt Shumer的帖子,该帖子讨论了AI当前的变化速度和能力。

Shumer所称的“最重要进展”是OpenAI发布的GPT-5.3 Codex,据该公司称,“这是我们首个在自身创建过程中发挥关键作用的模型。Codex团队使用早期版本调试自身训练、管理自身部署,并诊断测试结果和评估”。

Shumer评论道:“再读一遍。AI帮助构建了自身。”

总结AI最新进展对软件工程的意义时,他补充说:“一年前,AI几乎无法无误地编写几行代码。现在它能编写数十万行正确运行的代码——几年后编程岗位将远少于今天。”


AI速度更快,但其采用可能更慢

《大西洋月刊》作者Josh Tyrangiel解释说:“在AI能改造公司之前,它必须访问公司数据并融入现有系统……大多数《财富》500强公司的一个商业秘密是,它们仍在笨重、工业级的大型机上运行许多关键功能,这些机器几乎从不故障,因此永远无法被替换。”

他补充道:“将遗留技术与现代AI整合意味着要应对硬件、供应商、合同、古老编程语言和人员,每个人都对‘正确’的变更方式有强烈意见。数月过去,然后数年;又一个公司假日派对来了又去,CEO仍无法理解为什么AI的奇迹没有解决他们所有问题。”

据一些专家称,AI的出现可以暴露组织服务价值体系的成熟或不成熟。ITIL大师、复杂环境数字化转型专家Arun Kumar Singh博士在ITIL在线论坛评论道:

“在治理、实践和持续改进已完善的地方,AI通过优化事件管理、知识管理和变更赋能来加强价值共创。在角色、配置管理、风险控制和测量薄弱的地方,AI会加速服务不稳定、不受控的变更和信任丧失。”

关于如何自信地使用AI促进业务增长,同时应用必要治理的新思维,一直是开发ITIL(版本5)的核心。那么,参与新ITIL的专家如何应对AI的挑战?


信任但验证

“你不能给AI全权委托,”ITIL高级总监David Cannon说。“你必须验证工作已完成,包括数据治理,并理解正在自动化什么,以及哪些能力可以或不能被AI取代。信任,但验证。”

《ITIL:AI治理白皮书》撰写团队成员之一Kaimar Karu称,AI对大多数人目前的意义,即大语言模型(LLMs)的使用,并非该技术的最终状态。然而,LLMs的当前使用,虽然在空前规模上实现自动化,但可能以意想不到的方式不可靠:

“LLMs及其故障本质上是不可预测的,我们还没有可靠的机制来处理它们;在一个实例中有意义的结果在另一个实例中不一定有意义,”Karu说。

Karu补充道,当前围绕AI的狂热风险在于,一些供应商将其推销为能解决一切的万能药,而将使用它的实际现实置于考虑事项的末尾。


人类或AI,二元选择?

ITIL大师Paul Brandvold最近在LinkedIn的帖子引用了选择用AI取代人员的组织的经验:

“Klarna在2024年用AI取代了约700个客服岗位。客户满意度下降。到2025年,他们重新雇佣人类。CEO承认他们走得太远。澳大利亚联邦银行用语音机器人取代了45个面向客户的岗位。
呼叫量没有减少,反而增加。他们道歉并提供了原岗位。”

然而,他补充说,IBM“采取了不同路径”:“自动化了人力资源的大部分,减少了一些岗位,然后将招聘转向AI无法取代判断、背景或决策的领域。”

Cannon解释说,这表明“AI不取代制度性知识,这依赖于对情况的感知和判断、解读背景和理解意图。AI取代人员应解放人员去做人该做的事;将常规事务自动化,让人能专注于其他事情。”

确实,Karu补充道,一些引入AI替代冗余人员的组织实际上是在消除从未为业务创造价值的岗位。


AI时代人类持久的技能与知识

将创建和管理数字产品与服务的责任从人类转移到AI可能制造的问题多于解决的问题。

Cannon观察到,有人可能告诉AI机器人编写特定用途的代码,但他们是否测试并检查其准确性?它在组织的应用组合中处于什么位置?而且,如果此人离开组织,留下的就是遗留代码,这是浪费且低效的。

“用于编码的LLMs,无论它们能构建多复杂的系统,仍处于有理解问题的初级开发人员水平,”Karu说。

“员工为业务功能创建概念验证时,可以向LLM提供描述。然而,他们发现描述需求实际上很困难:AI会做出假设,可能构建出能工作的东西,但随着时间的推移以可靠方式改进它、使其达到企业级标准,并确保安全考虑已得到解决,这往往变得棘手。”

“同样,”他补充道,“使用LLMs进行分析或报告,如果AI无法访问必要数据,可能导致幻觉(hallucinations),使其在当前阶段对于任何业务关键用途都太不可预测。”

最终,人类干预的必要性依然存在。

“开发人员仍需要业务分析;你无法取代对所编码内容的理解,”Cannon说。“尽管编码本身可能被取代,但验证、测试和质量保证变得比以往任何时候都更重要,因为你需要在部署前确保代码工作。”


ITIL(版本5)中的AI原生方法

ITIL对AI的方法如何认识并赋能适当有效治理AI所需的人类维度?

首先,它认识到AI引入的速度:“今天,开发与运营/产品与服务之间没有清晰的界限,这两个生命周期现在迅速结合,”Cannon说。

“相反,服务上的开发工作与产品上的运营工作同时发生,而AI的速度正在改变这一点。”

Karu解释说,传统上存在于业务、产品管理和技术开发三个企业层的活动正在变化:虽然产品管理的要素正移向业务层,但传统意义上的IT变得更像平台功能,具有共享组件,如硬件、软件和数据湖,这些需要作为服务进行管理。

同时,AI带来的额外挑战包括影子IT、技术蔓延,以及它可能被组织中任何人使用数字工具部署——往往在出问题时留下IT收拾残局。

由于产品和服务管理对于整个数字企业的运作至关重要,ITIL(版本5)将所有生命周期步骤应用于产品和服务。“某物是产品还是服务的问题在某种程度上不再重要。关注点和考虑事项常常重叠,力量应联合而非分离。关键在于你试图实现什么。”Karu补充道。

“ITIL最初为何需要的概念在今天同样强烈。区别在于速度,但赋能治理和协作实践的需求同样重要。”

Cannon认为ITIL(版本5)在新背景下强化了技术管理学科:

1. 产品与服务生命周期结合:遵循这一概念,组织能更好地利用AI,同时避免安全问题。

2. ITIL管理实践:实践保持相关且足够灵活,能随背景演变而更新。

3. ITIL AI治理指导:这使你能就希望AI做什么以及如何以受控方式引入做出有意识的决策;理解业务问题、AI可能帮助的地方,然后设计防护栏以避免公司暴露于风险。最终,问题是:你想给自动化多少权力?

Arun Kumar Singh博士补充道:“ITIL(版本5)提供了管理自适应、学习服务的运营模型——将自动化与风险对齐,将AI整合到价值链中,并确保结果保持可预测、合规和以价值为中心。”

“或许最重要的是,ITIL(版本5)恢复了人类责任。AI可以推荐、关联和预测,但ITIL坚持有人仍拥有决策、风险和对体验的影响。”

“这种所有权防止AI增强变成AI放弃。从这个意义上说,ITIL(版本5)不减缓AI采用;它规范它。”

以纪律引领AI。探索ITIL(版本5)如何帮助您自信地将AI整合到数字产品与服务管理中。