人工智能的统治不可避免吗？一位技术伦理学家说事实并非如此

Josiah02

任何关注近年来人工智能言论的人都听过这样或那样的说法，即人工智能是不可避免的。常见的主题是，人工智能已经存在，它是不可或缺的，而对它持悲观看法的人会伤害到自己。
在商业领域，人工智能的倡导者告诉企业和员工，如果他们不能将生成式人工智能融入到他们的运营中，他们就会落后。在科学领域，人工智能的倡导者承诺人工智能将有助于治愈迄今为止难以治愈的疾病。
在高等教育领域，人工智能的推动者告诫教师，学生必须学会如何使用人工智能，否则在找工作时可能会失去竞争力。
在国家安全方面，人工智能的拥护者表示，国家要么大力投资人工智能武器，要么与已经在这样做的中国和俄罗斯相比处于不利地位。
这些不同领域的争论本质上是相同的：对人工智能持怀疑态度的时代已经过去了。无论你是否喜欢，技术都会塑造未来。你可以选择学习如何使用它，否则就会被排除在未来之外。任何试图阻挡技术发展的人都和19 世纪初抵制机械织布机的手工织布工一样无望。
过去几年，我和马萨诸塞大学波士顿分校应用伦理中心的同事一直在研究人工智能广泛应用所引发的伦理问题，我认为必然性论点具有误导性。
历史与后见之明
事实上，这种说法是对技术发展决定论观点的最新版本。这种观点认为，一旦人们开始研究创新，创新就无法停止。换句话说，有些精灵不会回到瓶子里。你能做的最好的事情就是利用它们来实现你的良好目的。
这种确定性技术方法由来已久。它被应用于印刷机的影响，以及汽车的兴起及其所需的基础设施等发展。
但我认为，当谈到人工智能时，技术决定论的论点既被夸大了，又被过于简单化了。
人工智能在以下领域
考虑一下企业不能置身于人工智能游戏之外的争论。事实上，目前还没有证据表明人工智能为使用它的公司带来了显著的生产力提升。《经济学人》 2024 年 7 月的一份报告表明，到目前为止，这项技术几乎没有产生任何经济影响。
人工智能在高等教育中的作用仍是一个悬而未决的问题。尽管大学在过去两年中对人工智能相关计划进行了巨额投资，但有证据表明，它们可能有些操之过急。
该技术可以作为一种有趣的教学工具。例如，创建一个柏拉图聊天机器人，让学生与假扮柏拉图的机器人进行文字对话，这是一个很酷的噱头。
但人工智能已经开始取代教师用于评估和培养批判性思维的一些最佳工具，例如写作作业。随着越来越多的教师放弃判断学生是否自己写论文的能力，大学论文正在走向灭绝。放弃写作这一重要且有用的传统技能的成本效益论据是什么？
在科学和医学领域，人工智能的应用前景广阔。例如，它在理解蛋白质结构方面的作用可能对治愈疾病具有重要意义。该技术还改变了医学成像，并有助于加速药物研发过程。
但这种兴奋可能有些夸张。基于人工智能的预测哪些新冠肺炎病例会恶化完全失败，医生过度依赖该技术的诊断能力，往往违背了自己更好的临床判断。因此，即使在这个潜力巨大的领域，人工智能的最终影响仍不清楚。
回想起来，使用人工智能帮助诊断新冠肺炎患者是有问题的。
在国家安全方面，投资人工智能开发的理由令人信服。由于风险可能很高，因此，如果中国和俄罗斯正在开发人工智能驱动的自主武器，美国就不能落后，这一论点确实有说服力。
但完全屈服于这种推理方式，尽管很诱人，但可能会导致美国忽视这些系统对那些太穷而无法参与人工智能军备竞赛的国家的不成比例的影响。大国可以在这些国家的冲突中部署这项技术。同样重要的是，这种论点淡化了与对手合作限制军事人工智能系统的可能性，更倾向于军备竞赛而不是军备控制。
一步一个脚印
调查人工智能在这些不同领域的潜在意义和风险值得对这项技术持怀疑态度。我认为应该逐步采用人工智能，并采取细致入微的方法，而不是一味地宣称其必然性。在制定这一谨慎的政策时，需要牢记两点：
首先，从事人工智能的公司和企业家显然对被视为不可避免和必要的技术感兴趣，因为他们靠采用该技术谋生。重要的是要注意谁在宣称其不可避免，以及为什么这么做。
其次，值得从近代历史中吸取教训。在过去 15 年里，智能手机和运行在智能手机上的社交媒体应用被视为生活中的现实——一项既具有变革性又不可避免的技术。然后，有关它们对青少年，尤其是年轻女孩造成的心理健康危害的数据开始出现。美国各地的学区开始禁止使用手机，以保护学生的注意力和心理健康。为了改变生活质量，一些人又开始使用翻盖手机，以避免使用智能手机。
在技​​术决定论的推动下，美国人对儿童心理健康进行了长期的实验，之后改变了方向。看似固定的东西原来是可以改变的。现在还有时间避免在人工智能上重复同样的错误，这可能会给社会带来更大的影响。