《终结者》40 周年：这部科幻“B 级电影”仍然影响着我们看待人工智能威胁的方式
2024 年 10 月 26 日是导演詹姆斯·卡梅隆的科幻经典《终结者》上映 40 周年，这部电影让社会普遍对无法推理的机器产生了恐惧，正如其中一个角色令人难忘地说的那样，“绝对不会停止……直到你死去”。故事情节围绕着一个名为天网的超级人工智能系统展开，它通过发动核战争统治了世界。在由此造成的灾难中，人类幸存者在魅力十足的约翰·康纳的领导下成功反击。
作为回应，天网派出一名机器人刺客（阿诺德·施瓦辛格饰演）回到 1984 年——康纳出生前——去杀死他未来的母亲莎拉。约翰·康纳对这场战争至关重要，天网希望将他从历史中抹去，以保留这场战争的存在。
如今，公众对人工智能的兴趣可以说从未如此浓厚。开发人工智能的公司通常承诺他们的技术将比人类更快、更准确地完成任务。他们声称人工智能可以发现数据中不明显的模式，从而增强人类的决策能力。人们普遍认为，人工智能将改变从战争到经济的一切。
直接的风险包括在筛选求职申请的算法中引入偏见，以及生成人工智能取代人类从事某些类型的工作（例如软件编程）的威胁。
但生存危机往往主导着公众的讨论——六部《终结者》电影对这些论点的表述产生了巨大影响。事实上，一些人认为，电影对人工智能控制机器所构成的威胁的描述分散了人们对该技术带来的巨大好处的关注。
《终结者》并不是第一部探讨人工智能潜在危险的电影。斯坦利·库布里克 1968 年的电影《2001：太空漫游》中，天网与HAL 9000超级计算机有相似之处。
它还借鉴了玛丽雪莱 1818 年的小说《科学怪人》和卡雷尔恰佩克 1921 年的戏剧《RUR》。这两个故事都涉及发明家失去对其创造物的控制。
上映后， 《纽约时报》在评论中将其描述为“有天赋的 B 级电影”。在随后的几年中，它被公认为有史以来最伟大的科幻电影之一。票房收入是其640 万美元（按今天的汇率为 490 万英镑）预算的 12 倍多。
《终结者》最新颖之处可能在于它通过 20 世纪 80 年代美国的文化棱镜重新构想了人们对机器起义的长期恐惧。就像 1983 年的电影《战争游戏》一样，一名青少年通过入侵军用超级计算机几乎引发了第三次世界大战，天网强调了冷战时期人们对核毁灭的恐惧以及对快速技术变革的焦虑。
四十年后，埃隆·马斯克 (Elon Musk) 是技术领袖之一，他一直关注人工智能对人类的生存风险。X（前身为 Twitter）的所有者曾多次 提到 《终结者》系列，同时表达了对超级智能 AI 假设发展的担忧。
但这样的比较往往会激怒该技术的支持者。正如英国前科技部长保罗·斯卡利 (Paul Scully)在 2023 年伦敦会议上所说：“如果你只是因为一些像终结者一样的场景而谈论人类的末日，那么你就会错过人工智能所能带来的所有好处。”
这并不是说人们没有真正担心人工智能的军事用途——这种担忧甚至可能与电影中的情节相似。
人工智能控制的武器系统
《终结者》（1984）官方预告片
让许多人松了一口气的是，美国官员表示，人工智能永远不会就部署核武器做出决定。但将人工智能与自主武器系统结合起来却是有可能的。
这些武器已经存在了几十年，并不一定需要人工智能。一旦启动，它们就可以选择和攻击目标，而无需人类直接操作。2016 年，美国空军将军保罗·塞尔瓦创造了“终结者难题”一词来描述这些武器带来的道德和法律挑战。
英国著名计算机科学家斯图尔特·拉塞尔主张禁止所有致命的全自动武器，包括带有人工智能的武器。他认为，主要风险不是来自具有感知能力的天网式系统失控，而是自动武器能否很好地遵循我们的指令，以超人的准确度杀人。
拉塞尔设想了这样一种场景：配备人工智能和炸药的微型四轴飞行器可以大规模生产。然后这些“屠杀机器人”可以作为“廉价、有选择性的大规模杀伤性武器”成群部署。
包括美国在内的许多国家都明确规定，操作人员在操作自主武器系统时需要“对武力使用做出适当程度的人类判断”。在某些情况下，操作人员可以在授权打击前目视确认目标，并在情况发生变化时“取消”攻击。
人工智能已经用于支持军事目标定位。有人认为，这甚至是负责任的技术使用，因为它可以减少附带损害。这个想法让人想起施瓦辛格在原版电影续集《终结者 2：审判日》中扮演的仁慈“机器守护者”的角色转换。
然而，人工智能也可能削弱人类无人机操作员在挑战机器建议方面所发挥的作用。一些研究人员认为，人类倾向于相信计算机所说的一切。
“巡飞弹药”
参与冲突的军队越来越多地使用小型廉价的无人机，这些无人机可以探测并撞击目标。这些“巡飞弹”（之所以这样命名，是因为它们被设计成在战场上空盘旋）具有不同程度的自主性。
正如我在与安全研究员英维尔德·博德 (Ingvild Bode) 合作撰写的研究中指出的那样，乌克兰战争以及最近其他广泛使用这些弹药的冲突的动态引发了人们对人类操作员控制质量的担忧。
装备武器、专为战场使用的地面军用机器人可能会让人想起无情的终结者，而武装无人机可能随着时间的推移会变得像电影中的空中“猎杀者”。但这些技术并不像天网那样憎恨我们，它们也不是“超级智能”。
然而，至关重要的是，人类操作员继续对机器系统进行控制和有意义的控制。
可以说，《终结者》最大的遗产就是扭曲了我们对人工智能的集体思考和谈论方式。这一点现在比以往任何时候都更加重要，因为这些技术已成为美国、中国和俄罗斯争夺全球权力和影响力的战略竞争的核心。
整个国际社会，从中国和美国这样的超级大国到较小的国家，都需要找到合作的政治意愿，并应对在地缘政治动荡时期人工智能军事应用所带来的道德和法律挑战。各国如何应对这些挑战将决定我们能否避免《终结者》中如此生动地想象的反乌托邦未来——即使我们短期内看不到穿越时空的机器人。
页:
[1]