OpenAI 的 Sam Altman 在一份新宣言中描绘了人工智能乌托邦，并揭示了明显的盲点

Josiah02 · 发表于 2024-9-27 14:10:04

现在，我们中的许多人可能都熟悉人工智能的炒作。人工智能将使艺术家变得多余！人工智能可以做实验室实验！人工智能将结束悲伤！
即使以这些标准来看，OpenAI 首席执行官 Sam Altman 本周在其个人网站上发布的最新声明也显得非常夸张。他宣称，我们正处于“智能时代”的边缘，由“超级智能”驱动，距离这一时代可能只有“几千天”。新时代将带来“惊人的胜利”，包括“修复气候、建立太空殖民地和发现所有物理学”。
奥尔特曼和他的公司正试图从投资者那里筹集数十亿美元，并向美国政府推销空前庞大的数据中心，同时裁减关键员工，放弃非营利性质，将部分所有权交给奥尔特曼，而炒作将为奥尔特曼带来很多好处。
然而，即使抛开这些动机，也值得看看 Altman 预测背后的一些假设。仔细观察，它们揭示了 AI 最大支持者的世界观以及他们思维中的盲点。
蒸汽机值得思考吗？
奥尔特曼用两段人类历史作为他惊人预言的依据：
“随着时间的推移，人们的能力显著增强；我们现在已经可以完成前人认为不可能完成的事情。”
这是一个由人类智慧驱动、朝着单一方向不断进步的故事。奥特曼透露，科学技术的不断发现和发明已经将我们引向了计算机芯片，并不可避免地引向了人工智能，而人工智能将带领我们走向未来。这种观点很大程度上归功于奇点主义运动的未来主义愿景。
这个故事简单得令人着迷。如果人类智能推动我们达到更高的高度，那么我们很难不得出这样的结论：更好、更快的人工智能将推动进步走得更远、更高。
这是一个古老的梦想。19 世纪 20 年代，查尔斯·巴贝奇 (Charles Babbage) 看到蒸汽机在英国工业革命中彻底改变了人类的体力劳动，他开始想象建造类似的机器来自动化脑力劳动。巴贝奇的“分析机”从未制造出来，但人类的最终成就将需要机械化思维本身这一观念一直存在。
据奥特曼说，我们现在（几乎）已经到达山顶。
深度学习确实有效——但是为什么呢？
我们距离辉煌的未来如此之近的原因很简单，奥尔特曼说，“深度学习起作用了”。
深度学习是一种特殊的机器学习，涉及人工神经网络，其灵感大致来自生物神经系统。它确实在几个领域取得了惊人的成功：深度学习所支持的模型已被证明能够以或多或少连贯的方式将单词串联在一起，能够生成漂亮的图片和视频，甚至有助于解决一些科学问题。
所以深度学习的贡献并非微不足道。它们很可能产生重大的社会和经济影响（既有积极的，也有消极的）。
但深度学习只适用于有限的问题。Altman 知道这一点：“人类发现了一种可以真正学习任何数据分布（或真正产生任何数据分布的底层‘规则’）的算法。”
这就是深度学习的作用——这就是它的工作原理。这很重要，而且它是一种可以应用于各个领域的技术，但它远非唯一存在的问题。
并非所有问题都可以归结为模式匹配。并非所有问题都能提供深度学习所需的大量数据。这也不是人类智能的运作方式。
大锤子找钉子
有趣的是，奥特曼认为“数据规则”将在很大程度上解决人类的所有问题。
有句谚语说，手握锤子的人很可能把所有东西都看成钉子。奥特曼现在手里拿着一把又大又昂贵的锤子。
深度学习或许有效，但这只是因为 Altman 和其他人开始重新构想（并构建）一个由数据分布组成的世界。这里存在的危险是，人工智能开始限制而不是扩展我们解决问题的种类。
在 Altman 对 AI 的赞美中，几乎看不到深度学习发挥作用所需的资源不断增加。我们可以承认现代医学、交通和通信（仅举几例）的巨大进步和卓越成就，但不必假装这些成就没有付出巨大的代价。
它们以牺牲部分人类和动物、植物和生态系统为代价——对于他们来说，全球北方的进步意味着收益递减——而这些物种、植物和生态系统则遭到资本主义和技术的掠夺性力量的无情剥削和破坏。
尽管奥特曼和他的支持者们可能会认为这些观点过于吹毛求疵，但成本问题恰恰是人们对人工智能未来的预测和担忧的核心。
奥尔特曼当然意识到人工智能正面临限制，并指出“我们还需要弄清楚很多细节。”其中之一就是训练人工智能模型的能源成本迅速增加。
微软最近宣布成立300 亿美元的基金，用于建设人工智能数据中心和为其供电的发电机。这家老牌科技巨头已向 OpenAI 投资了 100 多亿美元，还与三哩岛核电站（因 1979 年的熔毁而臭名昭著）的所有者签署了一项协议，为人工智能提供电力。疯狂的支出表明，空气中可能弥漫着一丝绝望的气息。
魔法还是仅仅是神奇的想法？
鉴于这些挑战的严重性，即使我们接受奥特曼对人类迄今为止进步的乐观看法，我们也必须承认，过去可能不是未来的可靠指南。资源是有限的。极限已经到达。指数增长可能会结束。
奥尔特曼的文章最能说明问题的并不是他的轻率预测，而是他对科学和进步的无限乐观。
这让人很难想象 Altman 或 OpenAI 会认真对待技术的弊端。既然能获得这么多好处，何必担心一些小问题呢？当人工智能似乎如此接近胜利时，为什么要停下来思考呢？
人工智能正在兴起，它不是一个“智能时代”，而是一个“通货膨胀时代”——资源消耗不断膨胀，公司估值不断膨胀，最重要的是，人工智能的承诺不断膨胀。
确实，我们中的一些人现在做的事情在一个半世纪前看来是不可思议的。但这并不意味着从那时到现在发生的所有变化都是好的。
人工智能在许多领域都具有巨大的潜力，但想象它掌握着解决人类所有问题的关键——这也是一种神奇的想法。

账号		自动登录	找回密码
密码			立即注册