帮助一家领先的英国能源供应商安全地采用面向客户的 AI 代理
挑战
一家领先的英国能源供应商希望引入面向客户的 AI 代理，但在上线之前需要确保这些代理的安全、可靠和符合相关规定。.
方法
Resillion 构建了基于风险的 AI 保障方法，涵盖了测试策略、预期行为、现实的测试场景以及聊天和语音代理的可重复测试。.
结果
该组织现已拥有一套可重复使用的测试人工智能代理的方法，为启动部署决策提供证据，增强治理水平，并为更广泛的AI应用奠定基础。.
建立客户交互中的信任感
这家客户是一家英国主要的能源供应商，通过重要的客户服务为数百万家庭和企业提供服务。.
作为其数字化转型的一部分，该组织希望引入对话式人工智能代理，以支持客户的实际业务流程，而非后台的实验。这些代理将帮助客户完成日常但敏感的任务，例如身份验证、计费、支付、仪表管理、直接扣款设置、费用变更以及在紧急情况下提供支持。.
这种机遇带来了更快速、更稳定的服务规模化。对客户而言，这意味着在需要时能够更轻松地获得支持。但在监管化的能源环境中，只有当代理商能够被信任以安全、公平且一致的方式行事时，这种优势才能实现。.
Resillion帮助客户从零开始构建人工智能测试和保障能力，为业务、技术、合规性和安全团队提供了一种共同评估人工智能的方法。.
挑战：在受监管的环境中测试人工智能
人工智能代理无法像传统软件那样以完全相同的方式进行测试。它们的回应可能会有所不同，即使它们收到了相同的问题，它们也可以利用对话的早期部分的信息来决定如何做出回应。.
对于受监管的能源供应商而言，这带来了新的风险。人工智能代理可能会提供错误的信息、滥用个人数据、未能遵循规定的流程、无视业务规则、对弱势客户反应不好，或者通过即时注入而被操纵。.
这些故障可能会导致客户受到伤害、造成声誉受损、出现合规问题或服务中断。.
因此，能源供应商需要的不止是一次性的测试。他们需要一种可重复的办法来定义可接受的 AI 行为，对代理进行测试，并为上线和治理决策提供清晰的证据。.
人工智能保障为组织提供了必要的证据，使其能够负责任地采用人工智能。它将关于安全性和合规性的问题转化为结构化的测试和明智的决策。.
我们的方法：构建一套可重复的测试 AI 的方法
Resillion 从头至尾负责了人工智能测试和保障工作，帮助客户制定了用于安全使用面向客户的 AI 的策略、测试方法和治理体系。.
Resillion 构建了一项人工智能测试策略，使业务、技术和合规团队对需要测试的内容以及良好行为的标准有了共同的理解。.
该方法不检查人工智能代理是否给出一个确切的答案，而是评估其在现实客户对话、业务规则以及不同风险情景下的行为是否恰当。.
Resillion 帮助创建和管理了测试数据，其中包括包含人工智能代理在不同情况下应如何反应的“黄金数据集”。.
这些指标提供了一个可用于持续测试人工智能代理的基准，并帮助我们识别其行为是否符合预期。.
Resillion 开发了一种基于风险的方法，涵盖了客户旅程、业务规则、安全保障措施、幻觉、即时注入、数据保护、安全、合规性以及易受伤害客户等领域。.
这为客户提供了在部署人工智能代理之前进行评估的统一方法，而无需依赖临时测试或人工审查。.
Resillion还展示了人工智能测试如何实现自动化并可反复运行。.
多次运行相同的场景有助于发现单个测试可能忽略的异常行为，同时也能为组织引入更多人工智能服务，从而形成更具可扩展性的方法。.
测试方法与客户的技术、合规性、安全性和治理流程相关联。Resillion提供了保障性证据和报告，帮助利益相关方就人工智能的准备度和部署情况做出明智决策。.
这意味着，随着组织的不断发展和推出新的人工智能服务，人工智能保障工作就可以继续进行，而不必将其视为一次性的项目。.
Resillion 的工作使客户确信，可以安全地在敏感的客户互动中引入人工智能代理。通过在现实场景中测试这些代理，客户可以验证人工智能是否能够提供准确的指导、保护个人数据、遵循规定的步骤，并对易受伤害的客户做出适当的响应。.
这个问题很重要，因为面向客户的 AI 只有当人们能够依赖它时才有价值。这种保障方法帮助该组织更快速、更可扩展地提供客户服务，同时保护客户信任、监管机构的信任和品牌声誉。.
结果：对面向客户的 AI 的信心增强
通过实施结构化的人工智能保障措施，客户从无法重复测试面向客户的 AI 代理的情况中解脱出来，如今拥有了一个能够支持更安全部署和未来增长的运行能力。.
主要成果包括：
- 更自信地将人工智能代理安全地部署到客户面前
- 为诸如计费、支付、关税变更以及弱势客户支持等敏感旅程中的客户提供更强大的保护
- 关于上线决策、治理论坛和监管审查的明确证据
- 为人工智能的规模化发展奠定基础，超越第一波聊天和语音代理的水平
- 随着人工智能在客户渠道上的应用日益广泛，服务质量将更加稳定。
- 企业、技术、合规性、安全和测试团队之间的合作要更好
全面质量观
对于在受监管的客户环境中使用人工智能的组织而言，质量不仅仅意味着技术是否有效。它还意味着确保人工智能能够安全、一致且符合客户和企业的需求地运行。.
Resillion将优质工程、人工智能保障、安全、治理和行业专业知识汇聚在一起，帮助组织自信地采用人工智能技术。.
通过创建可重复使用的测试方式来测试面向客户的 AI 代理，Resillion 帮助客户将关于 AI 安全性和合规性的问题转化为行动。 结构化测试、清晰的证据和明智的决策.
随着人工智能日益融入客户日常运营，这种方法可以帮助企业创新，同时保护客户、业务和整个组织的安全。.
欲了解更多信息，请查看我们的 人工智能和机器学习功能。.
