微软高管称人工智能聊天机器人必须学会说“救命！”

Josiah02

微软副总裁维克·辛格 (Vik Singh) 承诺，生成式人工智能工具将为公司节省大量时间和金钱，即使模型必须学会承认它们不知道该做什么。
辛格在接受法新社采访时表示：“坦率地说，如今真正缺少的是模特不会举手说‘嘿，我不确定，我需要帮助’。”
自去年以来，微软、谷歌及其竞争对手一直在迅速部署类似ChatGPT的生成式人工智能应用程序，这些应用程序可以根据需求生成各种内容，并让用户产生无所不知的错觉。
但尽管取得了进步，他们仍然会产生“幻觉”，或者编造答案。
这是 Copilot 高管需要解决的一个重要问题：Singh 的企业客户无法承受他们的 AI 系统哪怕是偶尔出现故障。
Salesforce 首席执行官马克·贝尼奥夫 (Marc Benioff) 本周表示，他发现许多客户对于微软 Copilot 的运行缓慢越来越感到失望。
辛格坚称“真正聪明的人”正在尝试找到方法，让聊天机器人承认“当它不知道正确答案时，会寻求帮助”。
“真正的节省”
在 Singh 看来，一个更谦逊的模型并不会减少其作用。即使模型在 50% 的情况下必须求助于人类，这仍然可以节省“大量金钱”。
在一位微软客户那里，“每当有新的请求时，他们都会花 8 美元让客服代表来回答，因此确实可以节省开支，而且由于客户能得到更快的响应，因此也能够获得更好的体验。”
辛格于一月份加入微软，并于今年夏天接任“Copilot”开发团队的负责人。Copilot 是微软的人工智能助手，专门用于销售、会计和在线服务。
这些应用肩负着巨大的任务，即带来收入并证明对生成式人工智能的大规模投资是合理的。
在人工智能热潮最盛行的时候，推动这项技术的初创企业承诺，它们的系统将非常先进，能够“提升人类”，用主要由微软资助的 OpenAI 负责人萨姆·奥特曼的话来说。
但目前，新技术主要用于提高生产力，并希望提高利润。
据微软称，Copilot 可以为销售人员进行研究，从而腾出时间给客户打电话。Singh 表示，电信公司 Lumen 通过这种方式“每年可节省约 5000 万美元”。
Singh 的团队正在致力于将 Copilot 直接集成到这家科技巨头的软件中，并使其更加自主。
“假设我是一名销售代表，我接到了一位客户的电话，”这位高管建议道。两周后，该模型可以“催促销售代表跟进，或者更好的是，直接自动代表销售代表发送电子邮件，因为这样做已经获得批准。”
“第一局”
换句话说，在找到解决全球变暖问题的方案之前，人工智能有望让人类摆脱无聊、重复的琐事。
“我们处于第一阶段，”辛格说。“很多这些事情都是基于生产力的，但它们显然具有巨大的好处。”
所有这些生产率的提高是否都会导致失业？
印度 IT 巨头 TCS 的老板 K Krithivasan 等大型公司的领导人宣称，生成式人工智能将彻底消灭呼叫中心。
但与许多硅谷高管一样，辛格也希望借助技术让人类更具创造力，甚至创造新的就业机会。
他谈到了自己 2008 年在雅虎工作的经历，当时有十几位编辑负责选择主页上的文章。
“我们想出了使用人工智能来优化这一流程的想法，有些人问‘天哪，员工会怎么样？’”辛格说。
自动化系统使得更快地更新内容成为可能，从而增加了链接的点击次数，也增加了对新文章的需求。
“最终，”该高管表示，“我们不得不招聘更多的编辑。