面向异常检测的"可解释人工智能"(XAI)

搜索最新SoC解决方案
关于汽车电子...物联网...安全...音频...视频

传统上，异常检测系统依赖于统计技术、预定义规则和/或人类专业知识。但这些方法在可扩展性、适应性和准确性方面存在局限性。

www.ednchina.com/, Jun. 09, 2023 – 

异常检测是识别某种事物偏离正常和预期情形的过程。如果能够及早检测出异常状况，则可以采取相关纠正措施，避免引发严重后果。儿时的我们玩过谁能在一幅精心编排的图片中识别出怪异情况的游戏。这是玩耍时的异常检测。工程师、科学家和技术人员历来依靠异常检测来防止工业事故，制止金融欺诈，及早干预以解决健康风险等。传统上，异常检测系统依赖于统计技术、预定义规则和/或人类专业知识。但这些方法在可扩展性、适应性和准确性方面存在局限性。

在现实生活中，人工智能异常检测的高价值用例在过去几年大幅增长，预计将延续增长势头。人工智能 (AI) 的发展正在彻底改变异常检测领域。它提高了检测准确性，加快了检测速度，降低了误报率，并实现了可扩展性和成本效益。本文将介绍如何实施此类解决方案，此外还将提到一些使用案例以供说明。

如今，我们遇到的许多异常现象可能不仅仅是偶然现象，而是恶意的人为现象。例如，社交媒体充斥着虚假和深度伪造的图像和视频。先进的图形和视频制作及处理技术使得这种状况的出现成为可能。举一个简单的例子，我们来玩一个游戏，在从社交媒体上找到的一张现代图片上发现怪异情况。

仔细研究下面的图片，记下异常情况。

传统的人工智能异常检测技术是否对这张图片有效？也许有效。人们对标题中提到的地方的了解程度，加上相关的常识、物理学原理知识、可行性角度等，可以帮助识别图片中的异常情况。据此，人们可能会宣布这张图片是真实的或伪造的。但这不足以让其他人相信您的结论。您需要能够解释如何得出这一结论。这涉及到可解释性，这是至关重要的。

什么是"可解释的人工智能"(XAI)？

XAI 是人工智能的子集，侧重于机器学习模型的透明性和可解释性。使用 XAI，人工智能模型的输出或决策可由人类解释和理解，以便更容易相信和利用结果。使用 XAI 进行异常检测可以帮助识别和理解异常状况的原因，从而更好地制定对策并改善系统性能。XAI 在异常检测方面的主要优势在于它能够处理复杂的数据集，提高准确性，并降低误报率和漏报率。

XAI 有哪些不同的使用案例？

人工智能异常检测系统可能会做出对个人和整个社会产生重大影响的决策。许多使用案例都是关于"边缘人工智能"应用的，这些应用涉及到安保、安全、生产线寿命和客户友好服务。此外，在未来的司法系统和医疗预后服务用例中，没有推理的底线决策将会乏善可陈。XAI 为异常检测系统提供了一种阐述决策过程以及通过学习和持续改进造福行业和社会的方法。

使用案例：门禁系统（人脸识别）

门禁系统广泛通过人脸识别进行身份验证，它依赖于计算机视觉和人工智能技术。虽然 AI 系统在脸部检测方面可能表现得非常出色，但许多意外因素可能会导致无法识别脸部。根据这种应用的目的，可以经过调整以防止误报，并在发生恶意侵入尝试时发出警报。但是对于知道自己的脸部应该被识别的用户来说，至少可以说这很烦人。人脸识别系统可能在识别嘴部附近或眼睛周围时遇到困难。XAI 可以进行相应的互动，以便用户摘下面罩或眼镜之后重试。人工智能系统以学习为导向，依靠反馈不断改进其算法。系统可以自我改进，即使脸部被部分遮挡，下次仍可能识别此用户。另一方面，XAI 使系统始终能够区分识别失败和试图侵入这两种状况，并相应地发出警报。

 Back