推荐 品牌 财讯 乐活 母婴 数智 汽车 文娱 游戏 滚动
实时
当前位置：商业频道首页 > 头条推荐 > 正文

不到500美元训练出超水平大模型？

2024-06-17 07:43:50 A+A-

一则斯坦福大学Llama3-V团队抄袭清华系大模型的消息，近日引发热议。北京时间4日凌晨，该团队的两名成员在社交媒体上对这一学术不端行为公开致歉，并表示会将Llama3-V模型悉数撤下。

据悉，两人是斯坦福大学计算机科学专业的本科生，自称在团队中的角色是模型推广，而负责该项目代码编写的是毕业于南加利福尼亚大学Mustafa Aljadery。事发后，他们要求Mustafa提供原创性证明和训练代码，但未取得任何证据。

不到500美元训练出超水平大模型？

南都记者尝试联系率先发现清华系模型被套壳的网友，他表示只是做了一名开源社区工作者应该做的事。此次Llama3-V的抄袭行为，“相当于把可口可乐换成可日可乐就说是自己的项目”。

斯坦福大学AI团队发布模型被指抄袭

事情起源于5月29日，斯坦福大学AI团队发布Llama3-V开源模型，称它比当前开源SOTA视觉语言模型LLaVA的性能提高了10%-20%，不仅尺寸比GPT-4V小近99%，而且性能比肩GPT-4V、Gemini Ultra与Claude Opus。

更重要的是，该大模型的训练成本仅不到500美元。这一惊艳的成果，再加上3位作者出色的专业和技术研发背景，让Llama3-V一经发布就引发各方关注，并一度登上全球最大的开源大模型社区HuggingFace趋势榜第五位。

不过很快，质疑声便出现。6月2日下午，网友Magic Yang称发现了一个令人震惊的事实：Llama3-V项目中有大量疑似抄袭MiniCPM-Llama3-V 2.5的内容，同时晒出了多项涉嫌抄袭的证据。

比如在模型结构和配置文件上，二者高度雷同，只是变量名不同。Llama3-V的代码也几乎完全照抄MiniCPM-Llama3-V 2.5，仅做了一些重新格式化和变量重命名，包括但不限于图像切片、分词器、重采样器、数据加载等变量。

GitHub项目信息显示，MiniCPM-Llama3-V2.5共有8B个参数，整体性能超越GPT-4V-1106、GeminiPro、Qwen-VL-Max和Claude3等专有模型，配备了增强的OCR和指令跟踪能力，还可以支持英语、中文、法语等30多种语言的多模态对话。这款端测多模态开源模型，由清华大学自然语言处理实验室与面壁智能合作开发，于今年5月20日推出。

对话打假者：发现抄袭不难证实不易

南都记者尝试联系这位揭露Llama3-V涉嫌抄袭的网友MagicYang(知乎网名“社恐患者杨老师”)，他向南都记者回顾了这场打假的过程。杨老师表示，最近正在帮助一名博士生做有关运动处方的项目，想选择一个质量较好的开源模型作为微调的基座。此前他曾测试了MiniCPM-Llama3-V2.5，因此对MiniCPM的模型架构和代码都相对熟悉。

后来他注意到，Llama3-V项目在HuggingFace上排名非常靠前，且获得了相关博主推荐，于是想进一步做测试。但在这过程中，他发现二者在模型架构和代码上存在高度相似的情况，就此询问了Llama3-V作者。结果对方避重就轻，并不正面回应，随后更是将质疑帖子删除，且隐藏了MiniCPM-Llama3-V2.5的项目主页。

这一系列的操作，令人生疑。6月2日下午，杨老师把所知的证据发到MiniCPM-V的Github项目主页，并提醒面壁智能团队关注。相关对话截图显示，Llama3-V项目作者最初否认抄袭，并称他们的项目开始时间更早，只是使用了MiniCPM-V2的分词器。

杨老师告诉南都记者，作为一个有大模型经验的开发者，发现(抄袭行为)不难，但要证实不易。此事最终一锤定音，还是因为面壁智能团队使用内部数据集“清华简”做了对比测试。

“连错的都一模一样”，确信是套壳

6月2日深夜，面壁智能团队证实了抄袭行为的存在。经核实，除了社区网友列出的证据外，还发现Llama3-V项目与MiniCP-Llama3-V 2.5一样，可以识别出“清华简”战国古文字，“不仅对的一模一样，连错的都一模一样”。

据面壁智能首席科学家、清华大学长聘副教授刘知远介绍，“清华简”的识别能力，是MiniCPM-Llama3-V2.5研发时内置了一个彩蛋。这是该团队花费数月从清华简逐字扫描，人工标注而来的数据集，并未公开，由此“已经比较确信Llama3-V是对MiniCPM-Llama3-V2.5套壳。”

针对此事，面壁智能CEO李大海也发文称，深表遗憾。“技术创新不易，好的成果希望被更多人关注和认可，但不是以这种方式。”李大海呼吁，大家共建开放、合作、有信任的社区环境。

刘知远也表示，人工智能的飞速发展离不开全球算法、数据与模型的开源共享，让人们始终可以站在SOTA(意为“最新技术”的最佳状态)的肩上持续前进。“开源共享的基石是对开源协议的遵守，对其他贡献者的信任，对前人成果的尊重和致敬，Llama3-V团队无疑严重破坏了这一点。”同时他提到，Llama3-V团队的3位作者中，有两位是斯坦福大学本科生，未来还有很长的路，“如果知错能改，善莫大焉”。

北京时间4日凌晨，卷入此次风波的两名斯坦福大学本科生在社交平台上解释，称该项目由3人发布，他们只在其中帮忙推广模型，负责代码编写的是MustafaAljadery。事发后，他们曾尝试联系Mustafa发布原创性声明，并提供训练代码，但到目前为止还未看到任何证据。在这份联合声明中，两人再次向原作者道歉，并称对未尽职尽责确保Llama3-V的独创性而感到失望，现已将所有对Llama3-V的引用都删除了。

被推为主要责任方的Mustafa，是团队中唯一的全职成员。其本硕毕业于南加利福尼亚大学，主攻深度学习和数学，是一名软件工程师。截至目前，Mustafa尚未发声。

两名作者的解释，尚不能平息质疑。斯坦福人工智能实验室主任Christopher David Manning公开发文谴责这一抄袭行为，称两人借口推脱，是拒不认错的表现。

　面壁智能核心团队来自清华NLP实验室

此次被牵涉进抄袭风波中的面壁智能创立于2022年8月，团队的核心成员来自清华大学自然语言处理与社会人文计算实验室(THUNLP)——该实验室也撑起了去年大模型创业浪潮以来的“半壁江山”，跑出了生数科技、深言科技等人工智能企业和华为的“盘古大模型”。

今年4月，南都记者从面壁智能方面获悉，该公司已完成了新一轮数亿元融资，该轮次融资由春华创投、华为哈勃领投，北京市人工智能产业投资基金等跟投，而知乎作为战略股东持续跟投支持。据悉，该轮融资将用于人才引入、大模型底层算力与数据基础的建构以及推动大模型高效训练和应用落地。

　后续进展

6月5日，面壁智能发布消息称，作为开源社区的贡献者和受益者，面壁智能，OpenBMB&清华NLP实验室认真讨论决定，将面壁“小钢炮”MiniCPM免费商用。即日起，MiniCPM和MiniCPM-V权重将对学术研究完全开放，并且企业、个人在填写问卷登记后亦允许商业使用，社区使用MiniCPM系列模型需要遵循Apache2.0和《MiniCPM模型社区许可协议》。

(责任编辑：卢其龙 CN070)

热点推送

本周关注

MORE
    关于中华网 广告服务 联系我们 招聘信息 版权声明 豁免条款 友情链接 中华网动态
    网上不良信息举报电话：010-56177181执行主编：张蕾
    京ICP备18035944号@版权所有 中华网