全民Long-LLM时代终于到来。
本月,中国初创AGI(通用人工智能)公司月之暗面宣布旗下大模型工具Kimi Chat正式升级到200万字参数量,与五个月前该大模型初次亮相时的20万字相比,提升十倍。Kimi Chat的升级彻底引爆市场,同时也引起长文本大模型(Long-LLM)细分赛道更加激烈的竞争。
昨日,阿里旗下的大模型工具通义千问宣布迎来重磅升级,向所有人开放最高1000万字的长文本处理能力,更重要的是,这项升级完全免费。此项升级对于专业领域的意义重大,例如金融、医疗、科研等从业人员,都能利用这项功能更快速地提取出核心关键词,节省文档归整、资料整理的时间。
不仅是阿里,百度文心一言也迎来了长文本处理能力的升级。据官方资料显示,文心一言将在下个月开放免费的200万-500万字长文本处理功能,较此前最高2.8万字的文档处理能力提升上百倍。
此外,360也在本月正式上线了360AI搜索,通过大模型重塑,结合长文本技术在海量搜索结果中理解并生成精准的答案提供给用户。而这款APP,也同样是完全免费的。
(图源:TechTalks)
长文本一直以来都是大模型工具「内卷」的方向,如何在超百万字的文档里做出有效的信息整理、观点归纳,都是技术上的难点。当然,正如半导体行业与消费电子产品市场之间的关系一样,很多消费者能感受到手机、电脑等产品性能正在飞跃式成长,但落实到实际体验上,似乎没有太多的变化。
而在生成式人工智能(GenAI)领域里,「卷」参数会是一个虚无缥缈的噱头,还是造福人类的行为,还很难回答。
在弄清楚「卷」参数到底有何意义之前,我们首先需要了解AI企业们到底在「卷」什么东西。
与衡量手机性能以跑分分数为准一样,大模型也有属于自己的「性能基准」——token,这是一个大模型专用的输入、输出基本单位。在OpenAI给出的准则里,1k token等于750个英文单词、500个中文汉字。
(图源:OpenAI)
同理,token数字越大,能够处理的内容篇幅就越长。ChatGPT-4目前的参数量为8k-32k token、Anthropic公司推出的Claude为100K token,而中国初创企业月之暗面推出的Kimi Chat则是达到了惊人的400K token。具体到实例,Kimi Chat能够在20秒左右读完1篇20万字的长篇小说、通文千义也能在数秒时间里读完80万字的《三体》。
(图源:雷科技制图/通义千问)
参数量剧增所带来的好处自然是大模型对于更长的内容拥有更快速的理解能力,这能够帮助用户从中提炼到所需的摘要、信息点,又或是直接生成整篇内容的总结。语言大模型之所以能够快速「引爆」整个市场,正是得益于这种速度惊人的理解能力。
(图源:雷科技制图/Kimi Chat)
但要彻底攻克长文本,大模型光靠堆砌token参数量并不能完全解决这个问题。超大数量的token的确能够快速阅读完长文档,但段落与段落间的内容也更容易出现「断裂」的情况,这与缺少模型的预先训练有关。目前拥有超大token的AI方案提供商,通常在Transformer预测词之前投喂词元模型,使整体结论更加完整。
(图源:Code-Llama)
比如Code-Llama,标称16K token参数量,但实际上是由一个个4K token窗口连接而成,最终产生出16k token总模型。而这就十分考验大模型工具在窗口之间的推理能力。试想一下,在专业领域中,长文内容都有紧密的逻辑性与关联性,假如大模型推理失误,则有可能出现最终生成的摘要牛头不对马嘴,这对于大模型工具的商业、个人应用,都是致命的打击。
当然,大模型的推理能力是可以通过训练得到进步的,这就不难解释为何阿里、百度都选择优先将长文本模型功能免费开放给个人用户,毕竟更多用户加入,模型推理能力的进化速度才能加快。
(图源:百度文心一言)
但免费应用也是一件好事情,长文本的快速阅读一直以来也是用户在大模型各项实际应用场景最关注的一项,比如正在写毕业论文的学生党,可能将超长的论文喂给大模型工具,让其快速提炼、总结,甚至找出论文中的研究结论。
阿里的通义千问将长文本档能力的拓展方向瞄准在专业领域的内容理解上,尤其是金融、医学等,对于这些行业的从业人员而言,从前需要花上几天或是十几天才能读完的文章,如今只需花上十几秒就能看完其中的精华之处。
但大模型长文本的能力远不止于此。
(图源:育碧)
不久前,知名游戏公司育碧公开的全新「NEO NPC」技术,正是Long-LLM(长文本大模型)升级后衍生的新方向。众所周知,3A游戏大作的灵魂往往与其精彩的剧本离不开关系,其中各式各样的游戏角色,也因其丰富的背景故事和鲜明的个性深受玩家喜好。大模型从1k token进化到100k token,甚至是400k token,能够让游戏剧本完整地覆盖到每个游戏角色里,让他们的对话、行为,既符合游戏的世界观,又能保证一定的灵活性。
这项能力同样可以应用在我们生活中最离不开的功能——搜索。
(图源:雷科技制图/360AI搜索)
本月初,360在北京举行了一场活动,旗下全新360AI搜索和360AI浏览器率先亮相。360AI搜索的核心在于“理解”、“提炼”、“总结”,即抛开传统搜素引擎将所有与之相关的内容为用户一一呈现的做法,主动介入搜索结果,在数以万计的匹配信息里提炼出最有效的信息。
360AI浏览器则是变成彻底的「AI工具」。周鸿祎解释道,360AI浏览器的定位是学习、生产力工具,它能帮助用户快速阅读书籍、文章,了解视频内容等。此外,360AI浏览器未来还将拥有续写功能,这同样基于大模型长文档的理解。
更重要的是,更长的文档内容理解有助于加速AI快速过渡到AGI(通用大模型)时代。正如前文所说,Long-LLM较之前最大的变化在于对超长文本的理解、记忆、总结能力,这些能力可以是大模型更加「拟人」,即记住样本的真实喜好从而判断其行为,又或是根据真实世界的物理规则,生成完全符合实际的内容。
早在去年底,大模型长文本技术就已经进入到火热阶段,但却鲜有AI企业将这项技术应用到大模型工具中,更别提免费向大众开放了。
OpenAI CEO Altman在接受公开访问时也表示,由于算力不足,GPT-4的32K token短期内无法向大众开放。要知道,OpenAI可是当前人工智能市场里获投资最高的头部企业之一,连它都空有技术却无法落地,不免让人对Long-LLM的未来感到担忧。
在算力不足的前提下有没有办法「投机取巧」呢?当然有。
目前主流节省算力的长文本技术通常有三种,分别是短文档重复检索、内容分组检索和模型本身的优化。前两种方案在技术原理上相对一致,都是将重复的内容进行「记忆」,节省理解时间,减少算力消耗;而模型本身的优化则要复杂许多,相当于用短文档推导出长文档,这非常考究模型本身的结构优化。
(图源:英伟达)
不过,无论采用哪种方法,其精度仍有待加强,这就是为何我们仍在期待更强大的计算卡出现,比如前不久GTC 2024上,英伟达发布的最强计算显卡Blackwell GB200。关于这颗当前最强AI加速卡的详细解析,雷科技在早前的文章里已有报道,欢迎各位订阅查看。
在当前,算力仍是阻碍Long-LLM成长的一大关键因素,但随着英伟达、英特尔等硬件供应商不断加码,这项技术在未来也将成为AI领域发展的风向标之一。
如果说OpenAI的Sora展现出其在AGI时代关于视频领域上的想象,那么Long-LLM则是奔向全场景通用智能的基桩。
大模型长文本技术能让AI助手记住用户的所有你与它谈论过的话题,这让你们之间能够创造真实的回忆,而不是像从前一样,在开始新对话之后,前面的「AI」就忘记了刚刚发生过的任何事情。这使得它能够变成更好的AI智能客服,毕竟即便是真人,也难以记住与每位咨询者发生过的对话。同样的,Long-LLM还能化身数字人主播、创造数字偶像等等。
或许,在大模型长文本技术的支持下,AGI时代将在不久后真正到来。
周二(10月21日)纽约尾盘(周三北京时间04:59),离岸人民币(CNH)兑美元报7.1268元,较周一纽约尾盘跌27点,日内整体交投于7.1162-7.1271元区间
2025-10-22离岸人民币,尾盘,纽约美光科技CEO表示,将投资2000亿美元用于在美国的存储器制造
2025-10-22美光科技,存储器,2000亿每经AI快讯,10月22日,奈飞美股盘后跌超6%。奈飞第三季度营收达115.1亿美元
2025-10-22奈飞,盘后,美股近期,一场席卷公募基金行业的风险等级重估潮密集来袭。 据不完全统计,9月以来已有近20家基金公司发布逾20份调整公告,涉及数百只产品。调整并非仅发生在作为产品源头的基金公司,银行、券商、第三方等销售渠道也同步联动
2025-10-22风险,基金,基金公司美国总统特朗普当地时间20日表示,他将于近期访问亚洲,其中包括到访日本。 这意味着,刚刚当选日本首位女首相的高市早苗即将面对上任后的首个重大外交考验
2025-10-22特朗普,哈马斯,美国COMEX黄金期货跌4.94%,报4144.1美元/盎司;现货黄金跌5.18%,报4130.41美元/盎司,盘中一度创自2013年4月以来的最大单日跌幅
2025-10-22白银,美元,现货近日,良品铺子(603719.SH)发布公告,宣告耗时3个月的控制权转让计划正式终止。武汉国资旗下长江国贸未能如约入主,宁波汉意创始团队仍为实控人
2025-10-22良品铺子,宁波,公司美泰第三季度调整毛利率50.2%,市场预计51%;三季度净销售额17.4亿美元,市场预计18.4亿美元;三季度调整后每股收益0.89美元,市场预计1.06美元
2025-10-22美元,Meta,每股收益德州仪器预计第四季度营收为42.2亿至45.8亿美元,市场预估为45亿美元
2025-10-22德州仪器,美元,45.8亿通用电气维尔萨(GE VERNOVA)同意以53亿美元收购墨西哥电力设备制造商PROLEC剩余50%股权
2025-10-22电力设备,通用电气,维尔德州仪器美股盘后跌超5%。公司三季度每股收益1.48美元,市场预估1.9美元
2025-10-22德州仪器,盘后,美元据上海市人民政府网站消息,上海市人民政府办公厅印发《上海市促进建筑业高质量发展加快培育增长新动能行动方案》(以下简称《行动方案》),其中提到,推动建筑企业整合升级。鼓励建筑企业同质化业务整合,实现错位竞争、链条互补
2025-10-22城乡建设,建筑企业,单位据报道,Anthropic拟与谷歌云达成数百亿美元合作协议
2025-10-22谷歌,Anthropic,美元当地时间10月21日,美股三大指数收盘涨跌不一,道指涨0.47%,标普500指数平收,纳指跌0.16%。其中,道指再创历史新高。费城金银指数大跌9.57%
2025-10-22美元,Meta,每股收益淡水河谷第三季度铁矿石产量9440万吨,市场预估9123万吨;镍产量4.68万吨,市场预估4.19万吨
2025-10-22淡水河谷,铁矿石,产量10月22日(星期三),今日报刊头条主要内容精华如下: A股龙头公司密集赴港上市 港股今年以来IPO募资总额超1900亿港元 今年以来,港股市场IPO募资总额超1900亿港元,位居全球交易所首位
2025-10-22新能源,同比,10奈飞联席首席执行官表示,第三季度实现史上最佳广告销售额,今年广告收入有望实现逾倍增长
2025-10-22奈飞,首席执行官,销售额美股市场:美股三大指数10月21日收盘涨跌不一,道指创历史新高
2025-10-22上涨,涨幅,美元大家好,今天是2025年10月22日星期三,欢迎来到今日投资机会! 投顾观点:市场或进入新一轮大轮动周期
2025-10-22市场,东方财富证券,湖北每日精选 中美关系: 有记者向外交部发言人郭嘉昆提问称,美国总统特朗普周一再次就台湾问题发表言论,并表示对与中方领导人的关系充满信心。特朗普还表示,他将于明年初访问中国
2025-10-22美元,基点,公司在岸人民币兑美元(CNY)北京时间03:00收报7.1230元,较上周五夜盘收盘涨47点。成交量407.38亿美元
2025-10-21在岸人民币,美元,收盘苏州龙杰特种纤维股份有限公司(简称“苏州龙杰”,603332.SH)重启的定增事项迎来新进展。近日,苏州龙杰披露定增募集说明书(申报稿)等修订后的申请文件,并对上交所下发的审核问询函进行了回复
2025-10-21公司,本次,项目10月20日,标准股份(600302)宣布将于10月21日开始停牌,公司控制权可能发生变更
2025-10-21标准股份,公司,西安工业投资集团COMEX黄金期货涨3.71%,报4369.5美元/盎司;现货黄金涨2.48%,报4357.36美元/盎司;盘中均一度创历史新高
2025-10-21COMEX黄金期货,3.71,盎司在A股市场持续活跃与新开户数大幅增长的推动下,证券服务类App用户规模延续增长态势。易观千帆最新数据显示,9月证券服务类App月活跃用户数攀升至1.74亿人,同比提升9.73%,再度刷新年内月活纪录
2025-10-21App,证券服务,用户美股市场:美股三大指数10月20日收盘全线上涨
2025-10-21上涨,涨幅,美元10月初,喀麦隆中部大区热带雨林里的数个村落里,村民们载歌载舞,庆祝中国企业建设的农村离网太阳能电站项目正式启用。这里夜晚的光亮不再仅有星光和月光,村民们终于能在灯光下、电视机前,为国家队“不屈雄狮”加油
2025-10-21非洲,电力,中国近日,乐道品牌第10万台量产车正式下线,同时也迎来第10万台交付。385天实现10万辆交付,乐道从“说得好”变成了“卖得好”
2025-10-21蔚来,李斌,盈利浦发银行日前发布《关于“浦发转债”到期兑付暨摘牌的公告》,意味着这只发行规模达500亿元的可转债即将“退场”
2025-10-21浦发转债,可转债,浦发银行周一(10月20日)纽约尾盘(周二北京时间04:59),离岸人民币(CNH)兑美元报7.1241元,较上周五纽约尾盘涨8点,日内整体交投于7.1289-7.1216元区间
2025-10-21离岸人民币,尾盘,纽约