新工具可恢复受损的深度学习模型，帮助研究人员了解问题所在

Josiah02

想象一下，当自动驾驶汽车开始偏离道路时，您是其中的一名乘客。造成这种危险情况的并不是传感器故障，而是网络攻击。黑客可以访问车辆计算机系统核心的深度学习 (DL) 神经网络，从而危及乘客以及其他驾驶员和行人的安全。
要阻止此类网络攻击，首先需要了解它们，但这可能很有挑战性。找到计算系统的确切深度神经网络有很多障碍。它们通常是专有的，因此，如果没有大量的法律干预，调查人员无法访问它们。另一个常见问题是它们经常更新，这使得调查研究人员很难访问最新的网络迭代。
但佐治亚理工学院的一款新工具可以揭开从自动驾驶汽车到 IMDB 娱乐数据库等各种领域中无数神经网络上的神秘恶意软件。AI Psychiatry (AiP) 是一种事后网络安全取证工具，它使用人工智能来恢复受感染机器运行的确切模型并发现致命错误发生的位置。
“我们将生命托付给自动驾驶汽车，将事业托付给 ChatGPT，但当这些系统出现故障时，我们该如何调查？”网络安全与隐私学院和电气与计算机工程学院（ECE）联合任教的副教授 Brendan Saltaformaggio 说。
AiP 可以在本地网络的内存和训练网络的图形处理单元上恢复原始的深度学习模型。它无需了解模型的框架、平台或版本即可完成此操作。相反，它使用 Saltaformaggio 所称的“线索”或所有神经网络中的通用组件来重建模型。
这些包括来自模型内存映像的权重、偏差、形状和层（模型正常运行时操作的一组冻结的位和字节）。内存映像至关重要，因为它使 AiP 能够将其与攻击后的模型进行比较。
“这些模型通常会根据当前环境随时改进信息，因此攻击者可能会破坏特定模型正在学习的信息，从而导致攻击发生，”ECE 博士生 David Oygenblik 说道。“我们确定内存映像将捕获运行时发生的所有变化。”
一旦模型恢复，AiP 就可以在另一台设备上运行它，让调查人员对其进行彻底测试，以确定缺陷所在。AiP 已经使用不同版本的流行机器学习框架（TensorFlow 和 PyTorch）和数据集（CIFAR-10、LISA 和 IMDB）进行了测试。它成功恢复并重新托管了 30 个模型，准确率达到 100%。
“在我们开展研究之前，你无法进入网络‘犯罪现场’寻找线索，因为当时没有可用的技术，”萨尔塔福马吉奥说。“而这正是我们目前在网络取证实验室中开创的——从犯罪现场提取证据的技术。”
像 AiP 这样的工具可以让网络调查人员立即了解整个情况。解决网络犯罪有助于预防未来的犯罪，无论是保护用户数据还是保证汽车正常行驶。