OpenAI 对数据的渴求引发隐私担忧

Josiah02

上个月，OpenAI反对加州尚未颁布的一项法律，该法律旨在为大型人工智能 (AI) 模型的开发者制定基本的安全标准。这是该公司立场的转变，其首席执行官 Sam Altman 此前曾表示支持AI 监管。
这家前非营利组织在 2022 年因发布 ChatGPT 而声名鹊起，目前估值高达1500 亿美元。它仍然处于人工智能开发的前沿，上周发布了一种旨在解决更复杂任务的新“推理”模型。
该公司近几个月采取了多项举措，表明其对数据采集的兴趣日益浓厚。这不仅仅是用于训练当前生成式人工智能工具的文本或图像，还可能包括与在线行为、个人互动和健康相关的私密数据。
目前没有证据表明 OpenAI 计划将这些不同的数据流整合在一起，但这样做将带来巨大的商业利益。即使是访问如此广泛的信息的可能性也引发了有关隐私和集中数据控制的道德影响的重大问题。
媒体交易
今年，OpenAI与多家媒体公司签署了合作协议，其中包括《时代》杂志、《金融时报》、Axel Springer、《世界报》、Prisa Media，以及最近与《Vogue》、《纽约客》、《名利场》和《连线》等杂志的所有者康泰纳仕集团。
此次合作让 OpenAI 能够访问大量内容。OpenAI 的产品还可用于分析用户行为和交互指标，例如阅读习惯、偏好和跨平台的参与模式。
如果 OpenAI 获得这些数据，该公司就可以全面了解用户如何与各种类型的内容互动，从而可以用于深入的用户分析和跟踪。
视频、生物识别和健康
OpenAI 还投资了一家名为 Opal 的网络摄像头初创公司，旨在通过先进的 AI 功能增强摄像头。
人工智能网络摄像头收集的视频片段可以转化为更敏感的生物特征数据，例如面部表情和推断的心理状态。
7 月，OpenAI 和 Thrive Global 推出了 Thrive AI Health。该公司表示，将利用人工智能在健康领域“高度个性化和扩大行为改变”。
尽管 Thrive AI Health 表示将拥有“强大的隐私和安全护栏”，但目前尚不清楚这些护栏将会是什么样子。
此前的人工智能医疗项目就涉及大量个人数据共享，例如微软与美国普罗维登斯医疗中心的合作，以及谷歌 DeepMind 与英国皇家自由伦敦 NHS 基金会的合作。在后者的案例中，DeepMind因使用私人健康数据而面临法律诉讼。
萨姆·奥特曼的眼球扫描副项目
阿尔特曼还投资了其他需要大量数据的企业，其中最引人注目的是备受争议的加密货币项目 WorldCoin（他也是该项目的联合创始人）。WorldCoin 旨在利用生物识别技术（特别是虹膜扫描）创建一个全球金融网络和识别系统。
该公司声称，它已经扫描了近 40 个国家/地区的 650 多万人的眼球。与此同时，十多个司法管辖区已暂停其运营或审查其数据处理。
巴伐利亚州政府目前正在审议Worldcoin 是否遵守欧洲数据隐私法规。如果裁决不通过，该公司将被禁止在欧洲运营。
正在调查的主要问题包括敏感生物特征数据的收集和存储。
这为什么重要？
现有的人工智能模型（例如 OpenAI 的旗舰产品 GPT-4o）主要都是基于互联网上的公开数据进行训练的。然而，未来的模型将需要更多的数据——而获取这些数据变得越来越困难。
去年，该公司表示希望人工智能模型“深入了解所有主题、行业、文化和语言”，这需要“尽可能广泛的训练数据集”。
在这种背景下，OpenAI 对媒体合作的追求、对生物识别和健康数据收集技术的投资以及首席执行官与 Worldcoin 等有争议的项目的联系开始描绘出一幅令人担忧的画面。
通过获取大量用户数据，OpenAI 正在为构建下一波人工智能模型做好准备，但隐私可能会成为牺牲品。
风险是多方面的。大量个人数据很容易遭到泄露和滥用，例如Medisecure 数据泄露事件，几乎一半澳大利亚人的个人和医疗数据被盗。
大规模数据整合的可能性也引发了人们对分析和监视的担忧。同样，没有证据表明 OpenAI 目前计划参与此类实践。
然而，OpenAI过去的隐私政策并不完善。更广泛的科技公司也长期存在可疑的数据处理做法。
不难想象，通过对多种数据的集中控制，OpenAI 将能够对个人和公共领域的人们施加重大影响。
安全性会被置于次要地位吗？
OpenAI 近期的业绩并未缓解人们对安全和隐私的担忧。2023 年 11 月，奥特曼被暂时辞去首席执行官一职，据报道，原因是公司内部对战略方向存在冲突。
阿尔特曼一直强烈提倡人工智能技术的快速商业化和部署。据报道，他经常将增长和市场渗透置于安全措施之上。
Altman 被免职的时间很短，随后又迅速复职，OpenAI 董事会也进行了重大改组。这表明，尽管存在潜在风险，但该公司领导层现在认可他积极部署人工智能的做法。
在此背景下，OpenAI 最近反对加州法案的影响已不只是政策分歧。这种反监管立场表明了一种令人不安的趋势。
OpenAI 在截止日期前没有回应 The Conversation 的评论请求。