OpenAI 发布推理 AI，关注安全性和准确性

Josiah02 · 发表于 2024-9-13 13:54:58

ChatGPT 创建者 OpenAI 周四发布了一系列新的人工智能模型，旨在花更多时间思考——希望生成式人工智能聊天机器人能够提供更准确、更有益的反应。
新模型名为 OpenAI o1-Preview，旨在处理复杂任务并解决科学、编码和数学中更具挑战性的问题，而早期模型因未能始终如一地提供这些功能而受到批评。
与前辈不同的是，这些模型在得出最终答案之前已经接受过训练，可以改进其思维过程，尝试不同的方法并识别错误。
OpenAI 首席执行官 Sam Altman 称这些模型是“一个新范式：能够进行通用复杂推理的人工智能”。
然而，他警告称，这项技术“仍然存在缺陷和局限性，而且第一次使用时的感觉比花更多时间使用后的感觉要好”。
微软支持的 OpenAI 表示，在测试中，这些模型在物理、化学和生物学等困难任务上的表现与博士生相当。
他们在数学和编码方面也表现出色，在国际数学奥林匹克资格考试中取得了 83% 的成功率，而其最先进的通用模型GPT-4o 的成功率仅为 13% 。
该公司表示，增强的推理能力可用于医疗研究人员注释细胞测序数据、物理学家生成复杂公式或计算机开发人员构建和执行多步骤设计。
该公司还表示，这些模型通过了严格的越狱测试，能够更好地抵御绕过护栏的企图。
OpenAI 表示，其加强的安全措施还包括最近与美国和英国人工智能安全研究所达成的协议，这些研究所被授予早期使用模型进行评估和测试的权限。

账号		自动登录	找回密码
密码			立即注册