【Human-Machine Team】DARPA利用人工智能创建更好的人机组队

ASIST项目背景

人工智能（AI）无法表现、模仿人类合作伙伴是目前阻碍有效人机组队的最大挑战。当前的AI主体能够响应命令并遵循其在训练中收到的指令，但还是无法理解其人类同行固有的意图、期望、情感以及其他方面的社交智能。缺乏理解阻碍了创建安全、高效和有创造性的人机协作的努力。

“作为人类，我们能够推断出不可观察的状态，例如情境信念和目标，并使用它们来预测其他人的后续行动、反应或需求，”DARPA信息创新办公室（I20）项目经理Joshua Elliott博士对此表示，“如果我们期望他们以一种有用、有效的方式与我们合作，或者作为团队中值得信赖的成员，那么机器就必须能够做到同样的事情。”

训练机器社交智能可不是一件小事。人类直观地建立了围绕他们世界的心理模型，包括其他人的心理模型的近似，这是一种称为心理理论（Theory of Mind，ToM）的技能。人类使用他们的ToM技能，从观察到的行为和背景中推断出队友的心理状态，并能够根据这些推论预测其未来的行动。这些模型建立在每个人现有的经验、观察和信仰之上。在团队环境中，人类通过围绕其环境、团队和策略的关键方面来构建共享的心理模型。ToM和共享心理模型是人类社会智能的关键要素，它们协同工作以实现有效的人类协作。

ASIST项目内容

DARPA“成功团队的人工社会智能”（Artificial Social Intelligence for Successful Teams，ASIST）项目旨在开发基础AI理论和系统，展示促进有效的人机协同所必需的基本机器社交技能。ASIST项目的目标是创建展示机器ToM的AI主体，以及通过观察和了解其环境和人类合作伙伴，开发有用的情境感知功能，在适当的时间执行这些功能来有效参与团队的能力。

在ASIST项目下开发的智能体将需要在多种场景、环境和其他可变环境中运行，使其能够根据需要进化和适应。因此，ASIST项目将致力于开发能够在日益复杂环境中运行的智能体，能够适应突然变化（如与关键队友失去关联）并使用观察来开发复杂推论和预测。

ASIST项目还将促进人机协同领域的科学发展。关于人工智能团队存在许多未解决的问题，解决这些问题需要从多个方面进行研究，包括但不限于认知科学、组队科学、人为因素和组织研究。

ASIST项目技术区域

ASIST项目将由三个技术领域（Technical Areas，TA）组成：

• TA1:AI主体架构

• TA2：个人与团队的认知建模

• TA3：环境与评估

ASIST项目结构显示不同技术领域的相互作用

TA1：AI主体架构

TA1的目标是为人机组队开发和实现人工智能架构。智能体架构必须能够：

• 使用通用方法来代表团队和个人合作伙伴；

• 演示实时可扩展推理并预测人类伙伴的行为；

• 演示扩展到日益复杂的操作能力；

• 有效处理多类干扰。

TA2：认知建模与个人与团队

TA2团队的主要目标是制定关于人机协作和人类社会认知的新颖且可测试的假设。这将包括关键的主题，例如团队绩效的可变性（基于团队潜在属性的测量）、行为和沟通规范、信任、嵌套的心理模型，以及成功的团队绩效理论框架对混合团队的适用性。TA2将开发有效的人机组队理论，并将与TA1密切合作，以了解智能体架构的设计。TA2提案应描述最先进的技术以及如何推进。

TA3：环境与评价

TA3执行者将开发和实施一个可扩展的测试台和挑战环境，组织和执行此测试台中的测试，并与执行者协调，以确保协议和API在评估和试运行之前稳定并正常运行。试验台必须包括允许单个人（第一阶段）、多人（第二阶段中最大10人的团队）和具有特殊角色和技能的复杂团队（第三阶段）面临简单和复杂挑战的环境。

ASIST项目进度

ASIST项目将分为三个阶段。第一阶段和第二阶段各为15个月，第三阶段为18个月，总项目长度为48个月或四年。第一阶段将侧重于创建与单个人类合作伙伴交互的智能体技术。第二阶段将扩展第一阶段技术，以包括智能体与团队中多个人的交互。第三阶段将研究和开发能够与具有专业角色和技能的个人组成的复杂团队合作的智能体。

ASIST项目的第一阶段，计划进行单一人机交互实验，以了解智能体如何能够推断人类目标和态势感知，利用这些见解来预测其队友的行为并提供有用的推荐行动。随着项目的进展，实验复杂性将提高，团队中将有最多10名人类成员与AI主体交互。在这些实验中，ASIST项目将测试智能体理解团队认知模型的能力，而不仅仅是单个人的认知模型，并利用这种理解来制定适当的情境相关行动。

ASIST项目计划表

在整个项目期间，每个阶段将进行两次技术评估，共计六次评估活动。每个阶段的第一次评估将在该阶段的第9个月进行，并且涉及相对简单的任务和仅一类扰动（例如，仅合同重估）。阶段的第二次评估将在阶段完成时发生，并涉及相对复杂的任务和多类扰动。 TA3将开发并执行评估练习。 TA3还将在每次评估前约三个月与TA1和TA2演示验证者进行评估干运行，以确保政府团队对团队进展有足够的洞察力，以根据需要调整实验。

周期不会强制下调。但是，要从一个阶段继续到下一个阶段，个别演示验证者需要证明其技术方法的可行性以及制作支持该计划目标和目标的技术的进展。所有演示验证者将被要求同意协作承包商协议（ACA），以促进整个项目的合作。 TA3将领导建立ACA的过程。