随着人们越来越信任模型来提供信息并做出关键决策，人工智能幻觉变得越来越危险。
我们身边都有这样一位自以为无所不知的朋友，他们不肯承认自己不知道什么，或者仅仅根据在网上看到的信息就给出不靠谱的建议。人工智能模型产生的幻觉就像这位朋友，但这位朋友可能负责制定你的癌症治疗方案。
这正是 Themis AI 发挥作用的地方。这家麻省理工学院的衍生公司成功实现了一项看似简单但实际上相当复杂的技术：教会 AI 系统说“我不确定”。
人工智能系统通常会表现出过度自信。Themis 的 Capsa 平台可以作为人工智能的现实检验，帮助模型识别何时进行猜测而非确定性判断。
Themis AI 由麻省理工学院教授 Daniela Rus 与前研究同事 Alexander Amini 和 Elaheh Ahmadi 于 2021 年创立，该平台可以与几乎任何人工智能系统集成，以在导致错误之前标记不确定的时刻。
Capsa 本质上是训练人工智能检测其处理信息的方式中的模式，这些模式可能表明人工智能感到困惑、有偏见，或者处理可能导致幻觉的不完整数据。
自推出以来，Themis 声称它已经帮助电信公司避免了代价高昂的网络规划错误，协助石油和天然气公司理解复杂的地震数据，并发表了关于创建不会自信地编造信息的聊天机器人的研究。
大多数人仍然没有意识到，人工智能系统经常只是做出最佳猜测。随着这些系统处理的任务越来越重要，这些猜测可能会造成严重后果。Themis AI 的软件增加了一层一直以来缺失的自我意识。
Themis 应对人工智能幻觉的历程
Themis AI 之旅始于数年前 Rus 教授在麻省理工学院的实验室，当时团队正在研究一个基本问题：如何让机器意识到自身的局限性？
2018年，丰田资助了自动驾驶汽车可靠人工智能的研究——在这个领域，任何失误都可能造成致命后果。自动驾驶汽车必须准确识别行人和其他道路危险，风险极高。
他们的突破在于开发了一种算法，可以识别面部识别系统中的种族和性别偏见。他们的系统不仅仅是识别问题，而是通过重新平衡训练数据来解决问题——本质上是教会人工智能纠正自身的偏见。
到2021年，他们已经证明了这种方法将如何彻底改变药物研发。人工智能系统可以评估潜在的药物，但至关重要的是，当它们的预测是基于确凿的证据、基于有根据的猜测或完全是幻觉时，它会发出警报。制药行业意识到，只关注人工智能有信心的候选药物可以节省金钱和时间。
该技术的另一个优势在于它适用于计算能力有限的设备。边缘设备使用的模型规模较小，无法达到服务器上运行的大型模型的精度。但有了 Themis 的技术，这些设备将能够在本地更好地处理大多数任务，只有在遇到挑战时才会向大型服务器请求帮助。
人工智能拥有改善我们生活的巨大潜力，但这种潜力也伴随着真正的风险。随着人工智能系统越来越深入地融入关键基础设施和决策制定，承认导致幻觉的不确定性的能力或许将成为其最人性化、也最宝贵的特质。Themis AI 正在确保它们能够掌握这项关键技能。
