READING INTERFACE

深度内容阅读页

本页专注单篇内容的完整阅读体验,通过更清晰的结构层级、舒适的阅读节奏与关联阅读设计,让读者更容易进入主题并延展浏览相关内容。

Full Article
Share
Insight

ued官网体育 - GPT-6尚未完全启用,OpenAI高管透露:已将大部分研究投入到GPT-7与GPT-8!

OpenAI的研发步伐似乎从未减缓,尽管GPT-6尚未被完全掌握,下一代的GPT-7和GPT-8似乎已经在设想之中。近日,OpenAI应用研究负责人Boris Power的发言透露,公司的研究重心已将约80%至90%投向未来的模型,形成了一个清晰的研究规划。然而,尽管如此,GPT-6本身依然是他们努力的焦点。本月,OpenAI推出了GPT-6 Astra,专注于提升模型的能力上限,随之而来的是9月22日发布的更快且更具性价比的两个新版本——Sol与Luna。如此一来,OpenAI一边将重心转向未来的模型,一边又在不断优化现有系统,这引出了一系列发人深省的问题。

about image

既然公司战略已向下一代模型倾斜,为什么还要在现有模型上持续投入?而在大模型不断增强的同时,为什么还要开发小型且价格亲民的版本呢?

谈及对现有模型的优化,Power毫不犹豫地指出,这样的短期努力在OpenAI内部被视为“极度短视”。虽然这些优化能够帮助团队更快地迭代与响应当前需求,但他强调,长期来看,重点依然应放在下一代模型的开发上。这就涉及到一个关键的思考:当前的优化究竟能够带来多长久的适用价值?例如,若现有模型在执行工具调用时频繁出错,团队会分析数据、调整训练,试图解决这一痛点。每解决一个问题,产品的可用性便得以提升,团队在此过程中也能积累经验,但Power警醒大家,这些“补丁”在新一代模型面世后,或许就显得微不足道。 ued官网体育

因此,随着新模型的发布,团队需重新审视哪些问题值得投入精力去解决。尽管短期内的短板亟待修复,用户对产品的即时需求不可忽视。以Astra为例,OpenAI在官方介绍中提到,团队仍然致力于通过训练模型提升实际工作效果,并在不断优化Codex,使得AI的执行过程更加高效顺畅。对于普通用户来说,这意味着在与AI交互时,往往需要反复调整提示、分解操作并细致地监控过程,但这些不便的局面在未来或许会得到根本改善。

一旦GPT-7、GPT-8等新一代模型到来,过去需手把手指导前代模型完成的任务,可能只需要简单地设定目标就足够。

about image

那么,在对大模型的不断强化后,为何仍要投入小型模型的开发呢?在Power看来,这两项工作其实是相辅相成的。首先,OpenAI希望能够研发出一个功能强大的通用型模型,随后再让这个“老师”教导更小、更具针对性的模型。这一理念在Astra与Luna的开发过程中得以体现,正是因此,OpenAI将绝大部分研究资源集中于GPT-7和GPT-8等未来模型,因为它们不仅能够独立解决问题,还将对后续的小型模型提供知识支持。 ued官网体育

从技术角度来看,模型蒸馏是一项常见的方法,通过这种技术,团队首先利用强大的模型生成示例,再筛选出高质量的输出,进而用这些数据来训练更小型的模型。OpenAI已经在这方面累积了丰富的经验。例如,在2025年3月推出的新一代音频模型时,OpenAI明确表示,团队通过蒸馏学习,为更小、高效的模型传授了大型音频模型的知识,利用模拟真实对话的数据显著提升了小模型的对话质量。

about image

具体而言,在一个实例中,OpenAI说明了如何利用GPT-4o作为“老师”,训练GPT-4o mini根据葡萄酒相关信息来判断葡萄品种。经过训练,GPT-4o mini在300条验证数据上的准确率由64.67%提升至79.33%,接近其“大师兄”GPT-4o的79.67%表现。尽管这种结果并不显示小模型在所有方面与大模型平起平坐,但只要在特定任务上能达标并降低使用成本,这种利润通过量化计算是非常有吸引力的。

再回到GPT-6家族,类似的能力迁移与成本优化依然在进行中。9月22日,新型的GPT-6 Sol和Luna被推向市场,声称速度更快且价格更实惠。这些模型借鉴了Astra的训练方法,将相关的性能提升移植到更多经济型的选项上。尽管具体的训练细节尚未公开,Luna并不能完全被视为“缩小版的Astra”,但显然,大模型所提升的能力极大地降低了使用门槛。 ued官网体育

在如何合理分配大模型与小模型的工作方面,不是所有任务都需要使用最顶级的模型。在一个具体的项目报告中,材料之间的信息不一致可能导致核心结论的含糊。这时,强大的模型可以先处理逻辑梳理、找出矛盾和遗漏的信息,再搭建出报告框架,而在关键事实确定以后,小型模型就可以承担起后续的执行任务。这种分工的合理化正是确保在资源有限的情况下,最大化地提升工作效能的重要策略。

觉得有用?分享给朋友

让更多人看到这篇内容,也欢迎继续浏览其他相关文章。

推荐阅读