当前位置:商业频道首页 > 头条推荐 > 正文

谷歌AI掌门人:发展AI不能只靠堆硬件(3)

问:这是否意味着未来AI公司竞争是否将围绕工具使用和智能体展开,即AI可以做很多事,不仅限于聊天?据称OpenAI正在研究这个问题。

哈萨比斯:可能。我们在这条路上探索了很长时间。自AlphaGo以来,智能体、强化学习和规划一直是我们的主要工作。2016年,DeepMind开发了一种突破性算法,能解决复杂问题和玩复杂游戏。我们正在重新审视很多想法,并考虑将AlphaGo的能力与这些大模型结合。内省和规划能力将有助于消除幻觉等问题。

问:如何引导模型使其更具逻辑性?

哈萨比斯:这是一个大领域,我们投入了大量时间和精力。我们认为,当系统开始变得更像智能主体时,这将是它们能力的重大进步。我们在这方向投入了大量资金,其他公司也一样。我一直在安全论坛和会议上说,这是一个大改变。一旦我们让类似智能体的系统工作起来,人工智能就会与目前系统(基本上是被动问答系统)大不同,因为它们会变成主动型学习者。当然,它们也会更有用,因为能帮你完成任务。但我们将不得不更加小心。

我一直主张把智能体放到网上之前,用强化的模拟沙盒测试它们。我认为行业应认真考虑这些系统的出现,并采取措施确保安全性。也许要几年,也许更早,但这是另一类不同的系统。

问:你提到需要更多时间来测试你们最强模型Gemini Ultra。这是因为模型开发进度过快,还是因为这类大型模型存在潜在问题?

哈萨比斯:实际上两方面都有。模型规模越大,微调时面临的挑战越复杂,所需时间越长。更大模型具备更多功能,意味着我们需更全面测试。

值得一提的是,随着Google DeepMind变成更成熟稳定的组织,我们开始尝试新的发布策略。我们会提前发布实验性功能或模型,并邀请少部分受信任的早期测试者体验。这样,我们可以在正式发布前收集反馈并进行必要的调整。

热点推送

本周关注

MORE