网络安全研究人员用AI生成假文件打造更具迷惑性的“金丝雀陷阱”

发表于 4年以前 | 总阅读数：660 次

间谍活动中的 "金丝雀陷阱"技术传播了多个版本的假文件以掩盖秘密，它可以用来嗅出信息的泄露源，或者像二战中那样，制造分散注意力以误导敌方的情形，同时隐藏有价值的信息。

WE-FORGE是计算机科学系设计的一个新的数据保护系统，主要使用人工智能来建立金丝雀陷阱的概念。该系统自动创建虚假文件混淆目标，以保护知识产权，如药物设计和军事技术。

网络安全、技术和社会特聘教授、安全、技术和社会研究所所长V.S. Subrahmanian说："该系统产生的文件与原始文件足够相似，因此对于目标来说是可信的，但又有足够的不同，因此本身又是错误的。"

V.S. Subrahmanian是网络安全、技术和社会领域的杰出教授，也是安全、技术和社会研究所的主任，他领导的研究小组自动生成假文件以保护知识产权。

网络安全专家已经使用金丝雀陷阱或“蜜罐”和外语翻译器来制造欺骗潜在攻击者的假象。WE-FORGE通过使用自然语言处理来自动生成多个既可信又不正确的假文件，从而改进了这些技术。该系统还插入了随机性元素，使对手无法轻易识别真实文件。WE-FORGE可用于创建任何技术设计文件的众多假版本。当对手入侵一个系统时，他们面临着一项艰巨的任务，即找出许多类似文件中的哪一个是真的。

"使用这种技术，我们迫使对手浪费时间和精力来识别正确的文件。即使他们这样做了，他们也可能没有信心他们是正确的，"Subrahmanian说。

创建假的技术文件的难度也不小。据该研究小组称，一项专利可以包括1000多个概念，有多达20种可能的替代物。WE-FORGE最终可能会考虑数百万种可能的概念，而这些概念可能需要在一份技术文件中被替换。

"恶意行为者现在正在窃取知识产权，并时常能够轻松逃脱，"Subrahmanian说。"这个系统提高了窃贼在窃取政府或行业机密时的成本"。

WE-FORGE算法的工作原理是计算文件中概念之间的相似性，然后分析每个词与文件的相关程度。然后，该系统将概念分为"仓"，并计算出每组的可行候选。"WE-FORGE也可以接受原始文件作者的输入，人类和机器的聪明才智的结合可以更多的增加知识产权窃贼的成本。"

作为研究的一部分，该团队伪造了一系列计算机科学和化学专利，并要求一个知识渊博的小组来决定哪些文件是真的。

根据发表在《ACM管理信息系统论文集》上的研究，WE-FORGE系统能够 "为每个任务持续生成高度可信的假文件"。

与其他工具不同，WE-FORGE擅长伪造技术信息，而不仅仅是隐瞒简单的信息，如密码。WE-FORGE改进了该系统的早期版本--即FORGE，消除了创建与特定技术相关的概念指南这一耗时的需要。WE-FORGE还确保了假文件之间有更大的多样性，并采用了改进的技术来选择要替换的概念和它们的替代物。