【SocialSim】DARPA演示验证用于在线交流的“冷语”检测器

Original 掰棒子的防务菌从心推送的防务菌 2022-07-29

当前，通过情绪分析来识别积极、消极或中性情绪的过程，这在整个在线通信中已成为商业和国防界日益关注的焦点。了解在线对话的情绪可以帮助企业处理客户反馈，并收集洞察力以改善其营销工作。从国防的角度来看，情绪可以成为在线信息作战行动的一个重要信号，以确定值得关注的话题或不良行为者的可能行动。在线文本中存在的“冷语”（讽刺类言语）是一种语言表达方式，通常用于表达与所说内容相反的意思，意在侮辱或嘲笑。在网络文本中，“冷语”的存在是情感分析的一个重要障碍。检测“冷语”是非常困难的，这主要是由于讽刺性表达中存在固有的模糊性。

美国国防高级研究计划局（DARPA）推出了“在线社交行为计算模拟”（SocialSim）项目，据DARPA信息创新办公室（I2O）负责该项目的项目经理布莱恩·凯特勒（Brian Kettler）介绍：“‘冷语’一直是提高情感分析准确性的主要障碍，特别是在社交媒体上，因为‘冷语’在很大程度上依赖于声调、面部表情和手势，这些都无法在文本中体现。识别文本在线交流中的‘冷语’不是一件容易的事，因为这些线索都不是现成的。”

来自中佛罗里达大学的研究人员在SocialSim项目中工作，正在开发一种以人工智能支持的“‘冷语’检测器”的形式来解决这一挑战。研究人员已经演示验证了一个可解释的深度学习模型，它可以从输入数据，如推特或在线消息中识别出表现出“冷语”的关键线索的词语，包括“冷语”的内涵或负面情绪。利用递归神经网络和注意力机制，该模型跟踪线索词之间的依赖关系，然后生成一个分类分数，表明是否存在“冷语”行为。

布莱恩·凯特勒指出：“从本质上讲，研究人员的方法专注于发现文本中表明‘冷语’的模式。它确定了提示词以及它们与其他代表讽刺性表达或声明的词的关系。”

研究人员的方法也是高度可解释性的，使人们更容易理解在模型的“幕后”下发生了什么。许多深度学习模型被认为是“黑盒”，很少提供线索来解释其输出或预测。可解释性是建立对人工智能系统的信任并使其在一系列应用中得到使用的关键。现有的深度学习网络架构通常需要额外的可视化技术来提供一定程度的可解释性。为了避免这种情况，SocialSim项目研究人员采用了固有的可解释的自我注意，使输入数据中对特定任务至关重要的元素能够被轻易识别。

研究人员的能力也是与语言无关的，因此它可以与任何产生词嵌入的语言模型一起工作。该团队通过在来自社交网络平台和在线媒体的多个数据集上取得最先进的结果，证明了其方法的有效性。该模型能够成功地预测“冷语”，在一个主要的推特基准数据集上取得了几乎完美的“冷语”检测得分，并在其他四个重要的数据集上取得了最先进的结果。该团队利用公开可用的数据集进行演示验证，包括作为互联网论据库一部分的“冷语”语料库V2对话数据集，以及来自Onion和HuffPost的新闻头条数据集。

DARPA的SocialSim项目专注于开发创新技术，对在线社会行为进行高保真计算模拟。对在线信息的传播和演变的模拟可以使人们更深入、更量化地了解对手对全球信息环境的利用。它还可以帮助在救灾行动中向当地居民提供关键信息，或者为在线信息领域的其他关键任务作出贡献。由于人类交流中使用的语言技术极其复杂多样，准确地检测文本中的“冷语”只是开发这些模拟能力的一小部分。然而，知道什么时候使用了“冷语”是很有价值的，可以教给模型人类交流的样子，并随后模拟在线内容的未来进程。

来将通名&非诚勿扰

前情回顾

【Mission-Integrated Network Control】DARPA寻求为多域任务提供 “永远在线”的互联网络

【Project Hydra】洛克希德·马丁公司官宣“九头蛇计划”

【Computational Cultural Understanding】DARPA创建AI赋能的文化解释程序以协助国防行动

【Project Hydra】美军通过“九头蛇计划”链接各作战域装备

【Zero-Knowledge Proof】DARPA研究人员展示零知识验证在漏洞披露中的潜力

【Personalized Protective Biosystem】DARPA推进全面抵御生化威胁研究

【Cognitive Electronic Warfare】美国空军押宝F-15战机认知电子战能力

【DRACO】DARPA推进“敏捷地月行动演示验证火箭”项目进展

【Low Temperature Logic Technology】DARPA利用低温集成电路加热高性能计算

【Israel’s AEW&C Aircraft】以色列推出“空海陆三优”预警机