Transformer是当前大型语言模型发展的核心基础,但也有不少顶尖研究者在探索其他路径。这其中甚至包括Transformer的创造者之一、Sakana AI创始人兼CTO Llion Jones。他在一篇博客中表示,虽然他不认为应该完全抛弃Transformer,但他个人正在大幅减少对它们的研究时间,并明确地寻找下一个目标。他呼吁大家加大探索力度,不要局限于同一个地方,去寻找新的高峰。

与此同时,The Information报道了前OpenAI研究副总裁Jerry Tworek创立的新公司Core Automation。Tworek在OpenAI期间负责强化学习领域的工作,并对推理模型、编程工具和AI智能体开发做出了重要贡献。知情人士透露,Core Automation成立仅几周,目前正寻求5亿至10亿美元的融资。

根据向潜在投资者展示的材料,Tworek计划采用与OpenAI、Anthropic等大厂不同的路径来开发AI模型。他希望打造具备"持续学习"能力的模型,即能够从现实世界的实践中即时获取知识。现有AI模型尚不具备这种能力。他的创业计划仍处于早期阶段,融资规模和产品路径可能发生变化。

事实上,Core Automation并非孤例,而是代表了一个虽小但日益壮大的群体。这些研究人员认为AI领域需要一场彻底变革。他们认为,当前主流的模型开发技术虽然流行,但在生物、医学等领域难以取得重大突破,且无法根除AI经常犯低级错误的问题。
0 评论