随着AI技术席卷各行各业,自由互惠保险公司(Liberty Mutual Insurance)正在制定一套战略路径,在筛选AI应用场景的同时,对遗留系统进行全面改造升级。
今年5月,该公司推出了一款基于对话式AI的汽车保险报价应用,允许OpenAI旗下ChatGPT的用户通过对话交互方式直接获取自由互惠的保险报价,而无需填写繁琐的在线表单。
自由互惠全球零售市场执行副总裁兼首席信息官安德鲁·帕尔默(Andrew Palmer)表示,此次与大语言模型服务商的合作,得益于公司多年来对技术基础设施的前瞻性布局,包括向云端迁移和系统简化等工作。他表示,随着AI技术持续演进,公司将继续推进核心平台现代化,保持数据的AI就绪状态,并审慎筛选应用场景与合作伙伴。
尽管自由互惠在保险报价应用上与OpenAI展开合作,但帕尔默表示,公司的核心策略是保持模型无关性。具体做法是在主机数据之上构建一个抽象层,通过模型上下文协议(Model Context Protocol)与各AI服务商对接——这是一种将AI与数据源连接起来的开放标准。目前,自由互惠正与主机合作伙伴IBM共同构建这一抽象层。
"保持对模型选择的灵活性,同时在模型中维护上下文与记忆,使我们能够在复杂的业务场景中自由切换,而不被绑定在某一家供应商上——这是一个战略性的押注,但我们对此充满信心。"帕尔默说道。
这家拥有114年历史的保险公司已花费超过10年时间将工作负载迁移至云端,将全球13个数据中心整合为一个主数据中心。目前,公司已将85%的工作负载迁移至云端,并采用混合云策略,这与其AI模型选择策略如出一辙。
"我们在计算和存储方面重度依赖AWS,但同时保有云无关性策略,可以根据需要将工作负载切换至谷歌或Azure,三者我们都在使用。"帕尔默说,"这一策略在多个维度上都为我们带来了良好收益,在前沿AI实验室合作层面尤为重要。"
随着AI模型服务商持续升级产品能力,帕尔默表示,企业不应把自己锁定在某一个产品上,尤其是在企业级AI Token消耗量急剧攀升的当下。
自由互惠专门成立了AI财务运营(FinOps)团队,对全公司AI模型的Token使用情况进行监控,细化至个人及团队层级。Token使用量可以设置上限或按需追加,帕尔默表示,他正着力推动运营管理者对AI应用场景与业务成果之间的关联建立问责机制。
帕尔默还指出,数据质量将对未来AI模型的使用效率和Token消耗水平产生关键影响。
"AI跑不了坏数据。"他说,数据若能顺畅地导入数据目录和AI模型的上下文窗口,将大幅提升模型运行效率。
"如果数据散落在各个存储系统和应用中,让AI费力地到处检索拼凑,不仅会消耗大量不必要的Token,很可能也得不到你想要的上下文结果。"
帕尔默表示,公司的核心业务平台目前仍运行于主机上,这是自由互惠接下来要攻克的重大课题。公司将历时五年完成主机现代化迁移,目标平台为Guidewire软件系统。
在此期间,自由互惠与IBM合作构建的抽象层,使前端现代化技术能够在云端运行,同时让公司得以充分利用最新的AI能力。
"我们在核心平台现代化上投入了大量资源,确保平台就绪、数据就绪。"帕尔默说。
他最终指出,企业无法在薄弱的基础设施之上实现AI的规模化落地,而这正是许多公司当前面临的困境。他认为,尽管不少企业都在追加AI能力,却鲜少有人将这些应用场景真正转化为实际的商业价值。
"如果你只想追逐眼前的新鲜事物,以为可以跳过那些艰难的基础工作,迟早会为此付出代价。"帕尔默说。
Q&A
Q1:自由互惠保险的模型无关性策略具体是怎么实现的?
A:自由互惠在主机数据之上构建了一个抽象层,通过模型上下文协议(Model Context Protocol)与各AI服务商进行对接。这一开放标准能够将AI连接到数据所在位置,使公司无需绑定某一家AI供应商,可以灵活切换不同的大语言模型。该抽象层由自由互惠与IBM合作共同构建,同时支持上下文与记忆的跨模型传递,以应对复杂的业务场景需求。
Q2:自由互惠是怎么控制AI Token消耗成本的?
A:自由互惠专门组建了AI财务运营(FinOps)团队,对全公司AI模型的Token使用情况进行实时监控,监控粒度细化至个人和团队层级。Token使用量可以按需设置上限或追加配额。此外,CIO帕尔默正在推动运营管理者对AI应用场景与具体业务成果之间的关联建立问责机制,以减少无效Token消耗。
Q3:自由互惠保险的主机现代化迁移计划是怎样的?
A:自由互惠的核心业务平台目前仍运行在主机上,公司计划用五年时间完成主机现代化改造,目标迁移平台为Guidewire软件系统。在迁移完成之前,公司通过与IBM合作构建的抽象层,让前端现代化技术在云端运行,同时继续享用最新AI能力,实现新旧系统的平稳过渡。