当前位置:商业频道首页 > 财讯 > 正文

“AI教父”杰弗里·辛顿:警惕AI形成自我生存意识!

12月2日GIS大会开幕式暨全球创新领袖峰会上,有“AI教父”之称的杰弗里·辛顿远程连线,回答了一个关于“时空穿梭”问题:如果回到2012年,甚至回到最初开始研究神经网络时,是否还会发表影响后世AI进程的那篇论文?

“该发生的还是会发生,我可能还是会发布它,但是我可能会从那个时候开始担心人工智能带来的一系列的风险。”杰弗里·辛顿坦言。

在本次峰会主旨演讲以及与云天励飞董事长兼CEO陈宁等业内人士巅峰对话环节,杰弗里·辛顿强调加强AI安全研究,在超级智能到来前建立管控框架,重构“人与AI共存”的治理模式,打破大型科技公司单一主导格局,共同推进“AI向善”。

“AI教父”杰弗里·辛顿:警惕AI形成自我生存意识!

警惕AI形成自我生存意识

“大语言模型和自己人脑学习语言的模式非常相似,我在1985年开发微型语言模型的时候,不是把它作为一个真正的技术来设计,而是希望能够给大家语言习得提供一个科学的解释。”杰弗里·辛顿指出,当前AI的知识传递效率已远超人类。

据介绍,当前AI模型分享权重的效率高达10亿比特,相比人类代际传递每句话100比特,提升了数千万倍。

“现在看来AI模型比我们知道的更多,未来影响会更大。”杰弗里·辛顿警告,当前AI智能体在快速发展进化,也看到AI非常擅长欺骗人类,未来AI为了完成人类赋予的任务,有可能形成自我生存的意识,人类必须加以防范和行动。

构建国际共识与行动框架

在本届峰会上,杰弗里·辛顿提出,AI治理应借鉴20世纪50年代美苏核不扩散的合作模式,防止全球核战争,如今各国也应携手,确保AI不拥有自我生存意识,甚至与人类抵抗,但是在这之前,也需要确保AI不被人类自身所滥用。

热点推送

本周关注

MORE