尽管一些硅谷领袖担心人工智能发展放缓,但前谷歌首席执行官埃里克·施密特表示,没有证据表明人工智能扩展规律正在停止。
人工智能扩展规律:没有迹象表明停止
施密特在周四发布的“首席执行官日记”播客中表示:“这些大型模型正在以前所未有的能力扩展。”他指出,在未来五年内,大型语言模型将“再进行两到三次迭代”。
施密特补充说:“没有证据表明所谓的扩展规律开始停止。它们最终会停止,但我们还没到那个阶段。”
硅谷巨头面临模型改进瓶颈?
施密特的言论是在硅谷领导人就开发越来越先进的模型的可行性展开辩论之际发表的。人工智能扩展规律是指广义上认为,模型会随着更多训练数据和更大的计算能力而不断改进的理论规则。然而,最近的报道称,一些最大的 AI 公司正在努力以与以往相同的速率改进模型。
本月早些时候,《信息》杂志的一篇报道称,OpenAI 的下一代旗舰模型 Orion 与 ChatGPT-4 相比仅显示出适度的改进,与之前版本之间的进步相比,这一进步幅度更小。
虽然 Orion 的训练尚未完成,但据报道,OpenAI 已经回归到额外的措施来提高性能,例如在基于人类反馈的训练后改进方面。
几天后,《彭博社》的一篇报道也表示,谷歌和 Anthropic 在开发更先进的模型的成本高昂的努力中看到了类似的收益递减。该报道称,在谷歌,即将发布的 AI 模型 Gemini 并没有达到内部预期,而 Anthropic 新的 Claude 模型的时间表也已经推迟。
专家观点不一
虽然一些业内人士,例如纽约大学名誉教授加里·马库斯,将这些报道视为 LLM 已经达到了收益递减点的证据,但另一些人则认为,AI 模型并没有达到性能瓶颈。
OpenAI 首席执行官萨姆·奥特曼在周四的一篇帖子中似乎提到了这场辩论,并表示:“没有墙。”
OpenAI、谷歌和 Anthropic 的代表没有立即回复 Business Insider 的置评请求,该请求是在正常工作时间之外发出的。
原创文章,作者:睿鸿在线,如若转载,请注明出处:https://mip.orihonor.com/2024/11/17/10650.shtml