推荐 品牌 财讯 乐活 母婴 数智 汽车 文娱 滚动
实时
当前位置：商业频道首页 > 头条推荐 > 正文

免费的大模型长文本来了(3)

2024-03-25 07:38:33 A+A-

但免费应用也是一件好事情，长文本的快速阅读一直以来也是用户在大模型各项实际应用场景最关注的一项，比如正在写毕业论文的学生党，可能将超长的论文喂给大模型工具，让其快速提炼、总结，甚至找出论文中的研究结论。

长文档能力拓展，用途比我们想象中要多

阿里的通义千问将长文本档能力的拓展方向瞄准在专业领域的内容理解上，尤其是金融、医学等，对于这些行业的从业人员而言，从前需要花上几天或是十几天才能读完的文章，如今只需花上十几秒就能看完其中的精华之处。

但大模型长文本的能力远不止于此。

免费的大模型长文本来了

（图源：育碧）

不久前，知名游戏公司育碧公开的全新「NEO NPC」技术，正是Long-LLM（长文本大模型）升级后衍生的新方向。众所周知，3A游戏大作的灵魂往往与其精彩的剧本离不开关系，其中各式各样的游戏角色，也因其丰富的背景故事和鲜明的个性深受玩家喜好。大模型从1k token进化到100k token，甚至是400k token，能够让游戏剧本完整地覆盖到每个游戏角色里，让他们的对话、行为，既符合游戏的世界观，又能保证一定的灵活性。

这项能力同样可以应用在我们生活中最离不开的功能——搜索。

免费的大模型长文本来了

（图源：雷科技制图/360AI搜索）

本月初，360在北京举行了一场活动，旗下全新360AI搜索和360AI浏览器率先亮相。360AI搜索的核心在于“理解”、“提炼”、“总结”，即抛开传统搜素引擎将所有与之相关的内容为用户一一呈现的做法，主动介入搜索结果，在数以万计的匹配信息里提炼出最有效的信息。

360AI浏览器则是变成彻底的「AI工具」。周鸿祎解释道，360AI浏览器的定位是学习、生产力工具，它能帮助用户快速阅读书籍、文章，了解视频内容等。此外，360AI浏览器未来还将拥有续写功能，这同样基于大模型长文档的理解。

更重要的是，更长的文档内容理解有助于加速AI快速过渡到AGI（通用大模型）时代。正如前文所说，Long-LLM较之前最大的变化在于对超长文本的理解、记忆、总结能力，这些能力可以是大模型更加「拟人」，即记住样本的真实喜好从而判断其行为，又或是根据真实世界的物理规则，生成完全符合实际的内容。

Long-LLM能改变世界，但算力难以解决

早在去年底，大模型长文本技术就已经进入到火热阶段，但却鲜有AI企业将这项技术应用到大模型工具中，更别提免费向大众开放了。

OpenAI CEO Altman在接受公开访问时也表示，由于算力不足，GPT-4的32K token短期内无法向大众开放。要知道，OpenAI可是当前人工智能市场里获投资最高的头部企业之一，连它都空有技术却无法落地，不免让人对Long-LLM的未来感到担忧。

在算力不足的前提下有没有办法「投机取巧」呢？当然有。

目前主流节省算力的长文本技术通常有三种，分别是短文档重复检索、内容分组检索和模型本身的优化。前两种方案在技术原理上相对一致，都是将重复的内容进行「记忆」，节省理解时间，减少算力消耗；而模型本身的优化则要复杂许多，相当于用短文档推导出长文档，这非常考究模型本身的结构优化。

免费的大模型长文本来了

（图源：英伟达）

热点推送

本周关注

MORE
    关于中华网 广告服务 联系我们 招聘信息 版权声明 豁免条款 友情链接 中华网动态
    网上不良信息举报电话：010-56177181执行主编：张蕾
    京ICP备18035944号@版权所有 中华网