当前位置: 首页 >  法制聚焦  >   >  正文

图灵奖得主杨立昆:AI的逻辑推理和规划能力有限,会犯事实错误和逻辑错误 环球新动态

  • 2023-06-11 12:39:57 来源:搜狐科技

出品|搜狐科技

作者|郑松毅


(资料图)

6月9日,2023智源人工智能大会在北京举办。法国当地时间凌晨四点,被誉为“世界深度学习三巨头”之一的杨立昆(Yann LeCun)在法国视频连线北京现场,发表了主题为《走向能够学习、推理和规划的大模型》的演讲,表达了对于人工智能的深度思考。

搜狐科技在智源大会现场观看了这场演讲,从杨立昆演讲时面露微笑的表情中,可以感受到杨立昆对于人工智能发展的积极乐观态度。此前在马斯克等人联名签署联名信提出人工智能发展将给人类文明带来风险时,杨立昆曾公开反驳,认为人工智能尚未发展到给人类构成严重威胁的程度。演讲中,杨立昆再次强调人工智能是可控的,他表示,“恐惧是由对潜在负面结果的预期引起的,而兴高采烈是由对积极结果的预测产生的,像这样由目标驱动的系统,我将之称为‘目标驱动的人工智能’,它会是可控的,因为我们可以通过成本函数为它设定目标,确保这些系统不会想要接管世界,相反,它会屈从于人类和安全。”

杨立昆表示,人工智能距离人类和动物的能力差距在于逻辑推理和规划,这是智能的重要特征,现在的大模型只能“本能反应”。

“如果你用一万亿或两万亿个token来训练它们,机器的性能是惊人的,但最终机器会犯事实错误、逻辑错误,它们的推理能力是有限的。”

杨立昆强调,基于自我监督的语言模型无法获得关于真实世界的知识。他认为,与人类和动物相比,机器的学习能力并不是很好。几十年来,研发系统的方式都是在用监督学习,但监督学习需要太多标签,学习任何东西都需要进行大量的尝试,强化学习的结果却不尽人意,这些系统是脆弱的,会犯愚钝和错误,且并不会真正地推理和计划。

“就像我们在演讲时,如何从一个观点表达到另一个观点,怎么解释事物,大脑里是有计划的,而不是一字一句的即兴发挥。也许在低层次上,我们在即兴发挥,但在高层次上,我们一定是在规划。所以规划的必要性是非常明显的。我的预测是,在相对短的几年内,理智的人肯定不会再使用自回归元素(自监督学习方法中的模型之一)。这些系统将很快被放弃,因为它们是无法修复的。”

他表示,为了让语言模型真正理解真实世界的知识,需要一个新的架构来取代,而这个架构就是他在一年前所发表的论文中提出的架构,“自主智能(Autonomous Intelligence)”。这是由一个配置模块控制整个系统,基于输入信息,进行预测、推理、决策的架构。其中的“世界模块”具备估计缺失信息、预测未来外界状态的能力。

谈及未来几年AI将面临的挑战,杨立昆指出三个方面,其一是学习世界的表征和预测模型;其二是学习推理,即学习如何有意识、有目的地运用思维去完成任务;最后一个挑战是如何通过将复杂任务分解成简单任务,以分层的方式运行来规划复杂的行动序列。

谈到这里,杨立昆介绍了他发表在论文中的另一个模型“世界模型(World Model)”,该模型可以想象一个场景,并根据场景预测行动结果。目的是找出一系列根据其自己的世界模型预测的行动,并最小化一系列成本的行动序列。

当杨立昆在提问环节被问及有关即将参加的一场关于AGI的地位和未来的辩论时,他表示这场辩论将围绕一个问题展开,即人工智能系统是否会对人类构成生存风险。Max Tegmark 和 Yoshua Bengio 将站在“会”的一边,认为强大的 AI 系统可能对人类构成存在风险。而杨立昆和 Melanie Mitchell 将站在“不”的一边。

“我们的观点不是说没有风险,而是说这些风险虽然存在,但很容易通过精心设计来减轻或抑制。”

杨立昆认为,超智能系统尚未被研发出来,待其被发明出后,再讨论“是否能使超智能系统对人类安全”也来得及。

责任编辑:

标签:

最新推荐

图灵奖得主杨立昆:AI的逻辑推理和规划能力有限,会犯事实错误和逻辑错误 环球新动态

演讲中,杨立昆再次强调人工智能是可控的,他表示,“恐惧是由对潜在负

当前信息:安卓新板皇将至!三星Galaxy Tab S9 Ultra通过FCC认证

三星即将于下个月正式发布全新款折叠式手机,与此同时还有GalaxyTabS9

脚麻是什么原因引起的男性(脚麻是什么原因引起的)

1、脚发麻有可能的原因:血液循环不好!体质一般较好的人一般不会脚麻,

热文:酒店退房时间从12点改为14点原因分析(酒店退房时间)

来为大家解答以上的问题。酒店退房时间从12点改为14点原因分析,酒店退

当前资讯!改弦更张与改弦易辙不同点是什么(改弦更张与改弦易辙的区别)

来为大家解答以上的问题。改弦更张与改弦易辙不同点是什么,改弦更张与

中国文学书籍大全_文学书籍大全

1、《麦田里的守望者》《麦田里的守望者》是美国作家杰罗姆·大卫·塞

荻生徂徕所处时代(荻生徂徕)_全球微动态

想必现在有很多小伙伴对于荻生徂徕方面的知识都比较想要了解,那么今天

国盛证券:银行基本面迎四重利好 信贷需求若改善则困境反转

智通财经APP获悉,国盛证券发布研报称,当前银行板块估值仅为0 50xPB,

每日快播:小规模纳税人连续12个月超过500万(连续12个月超过500万不是按年计)

来为大家解答以上的问题。小规模纳税人连续12个月超过500万,连续12个

5月国内挖掘机销量降46%,出口增速重回两位数|基建晴雨表

界面新闻记者|马悦然今年以来,国内挖掘机销量持续同比下滑。6月7日晚

通灵学院入口在哪(通灵学院入口)

1、在西瘟右下方的小岛上有个房子。2、踢门进去就可以了。本文就为大家

速讯:“中国文化产业竞争力百强区指数”首次发布 深圳南山区综合发展指数排名第一

深圳新闻网2023年6月10日讯(深圳特区报记者罗立兰焦子宇)6月8日下午

正天丸治疗头痛效果好吗(正天丸治头痛怎么样)

1、病情分析:你好,你的情况可能是偏头痛引起的,正天丸可以疏风活血,

火车计次票、定期票 如何购买使用

为进一步方便城市间人员乘车往来交流,满足广大旅客差异化出行需求,国

世界讯息:水淹道床影响列车运行!合肥发布情况通报

6月10日8时20分许,沪蓉线长安集至南分路间突发不明水源水淹道床,影响

何处招魂香草还生三户地说的是谁(何处招魂香草还生三户地) 天天聚看点

1、长沙屈原祠对联:  “何处招魂,香草还生三户地;当年呵壁,湘流

最后阶段如何备考?六位浙大学长分享经验,强基计划可以这样冲

潮新闻客户端记者陈素萍通讯员柯溢能6月10日,2023年高考正式落幕,大

世界即时:中经评论:以“村BA”点燃乡村活力

中经评论:以“村BA”点燃乡村活力---中国经济网评论员梁瑜认为,一个

三星正开发自有AI大语言模型 已投入全部GPU资源-天天快消息

据韩媒“ChosunIlbo”报道,三星电子已于本月初正式开启了大语言模型(

世界热点!奥拉星亚比印记有什么用(奥拉星亚比印记怎么弄)

来为大家解答以上的问题。奥拉星亚比印记有什么用,奥拉星亚比印记怎么

我是大运火炬手丨第一棒火炬手邹敬园:我在成都等你们

这是我第一次担任火炬手,倍感荣幸与光荣!邹敬园对即将到来的大运会,

新消息丨刘奕君:逆反大叔的坚韧

中年逆反、闹离婚,热播剧《熟年》中的倪伟强被很多人共情了,刘奕君的低

iso文件安装方法(iso文件安装)

来为大家解答以上的问题。iso文件安装方法,iso文件安装这个很多人还不

高质量发展调研行 | 在智慧港口见证大湾区经济活力——广州南沙港走访一线见闻 关注

提到港口,你会想到什么?头戴安全帽的工人在操作吊机,还是一辆辆卡车

每日精选:vs产品密钥2010_vs2013产品密钥

1、BWG7X-J98B3-W34RT-33B3R-JVYW9。本文就为大家分享到这里,希望小伙

原创组图 | “共建自贸港——遇见·相约夏日”钢琴音乐会亮相三亚-天天速看料

音乐会现场。音乐会专程邀请了星海音乐学院钢琴系教师、研究生导师、雅

新突破、国际首次 中国科学技术领域成果频出 环球新视野

记者昨天(6月9日)从航天科技集团一院了解到,研制团队近日借助北斗卫

每日简讯:新神U要来了!AMD官网发现Threadripper 7900X/PRO 7905WX系列处理器

据消息源@momomo_us透露,在AMD官网的OPN部分发现了尚未发布的Threadri

恭喜梅西!迈阿密新阵容曝光,球王新位置出人意料,冲第八座金球 要闻速递

在梅西官宣加盟了迈阿密国际之后,大家也知道下赛季大家将会看到一个养

全球热门:国内物价运行总体平稳——解读5月份CPI和PPI数据

北京6月9日电题:国内物价运行总体平稳——解读5月份CPI和PPI数据新华

国产最大盾构主轴承“破壁者”面世

国产最大盾构主轴承“破壁者”面世---人民网北京6月10日电(记者杨虞波

2023高考今日落幕,多地公布志愿填报时间

10日,2023全国高考将全部落幕,目前,全国多地陆续公布志愿填报时间。

排风扇规格风量(排风扇规格) 焦点信息

1、工业排风扇规格:土禾公司厂家直销工业风扇规格,铝合金工业风扇,塑

常州溧阳:乡村人才为一粒米注入“智慧科技” 铺就“网红村”生金“共富”路

春日油菜花成海,秋日稻浪无垠……近年来,常州溧阳南渡镇庆丰村以产旅

今日热讯:【共同缔造安全江夏⑫】做好安全江夏的“共同”文章

【共同缔造安全江夏⑫】做好安全江夏的“共同”文章---从开展突发事件

蒙娜丽莎回复深交所年报问询函,说明坏账计提合理性等问题-今热点

蒙娜丽莎回复深交所年报问询函,说明坏账计提合理性等问题,深交所,应收

高质量发展调研行 | 在智慧港口见证大湾区经济活力——广州南沙港走访一线见闻

提到港口,你会想到什么?头戴安全帽的工人在操作吊机,还是一辆辆卡车

当前速讯:查水费户号怎么查询交交水费(交水费的户号查询)

1、姓名。2、身份证号。3、或是房产所地在详细地址应该是可以查询到户

灵武:开展物业服务领域消防安全专项培训 环球信息

6月9日,灵武市消防救援大队联合灵武市住建局房管所开展物业服务领域消

环球要闻:普元信息与浪潮科技启动战略合作 携手耕耘市场

6月9日,浪潮科技与普元信息举行战略合作签约仪式,双方将围绕政府行业

学制苗族银饰 传承非遗之美 环球短讯

↑6月9日,湖南省长沙市朝阳小学王晓风老师在特色美育课上向学生们介绍

金山云美股涨7.72% 世界速读

中国经济网北京6月10日讯金山云(NASDAQ:KC)美股周五收报5 16美元,涨

外公撞死人 会对外孙女有什么影响

外公撞死人 会对外孙女有什么影响

新消息丨即将举行!成都大运会火炬传递启动仪式来啦

第31届世界大学生夏季运动会将于7月28日至8月8日在成都举行,这是我国

3亿珠宝,9亿豪宅,67亿身家,这些港圈老牌美人晚年真有钱 聚看点

今年56岁的王祖贤是个名副其实的单身富婆,早年她是港圈数一数二的女

江苏考生最爱报哪个专业?去哪里上学?大数据分析报告来了!

前言2021年江苏省新高考改革方案正式实施,新高考采取“3+1+2”的高中

观点:中超第一阶段结束 争冠保级谁惊喜谁意外?

中新网大连6月10日电(记者卞立群)“接下来会有一个假期,很多球员对于

三菱电机三菱重工空调拆解_三菱电机 三菱重工|即时焦点

1、三菱重工好。2、三菱重工(MitsubishiHeavyIndustries)创立于1884

传字节内测对话式 AI 产品,代号“Grace”;马斯克嘲讽苹果 头显;比亚迪 F 品牌定名“方程豹”_热议

不止「文心一言」,消息称百度将推出全新AI对话软件「万话」6月9日消息

X 广告
X 广告

精彩放送

国铁集团今起在12306网站(含App)试行在线选铺服务

微头条丨端午假期机票比“五一”便宜两成,你想好去哪玩了吗?

环球讯息:双摄像头布鲁布D1在其发布前夕打开包装

焦点!《有利的诈欺》绿叶抢眼,尹博再次伙拍金东旭斗戏

在这个位置时怎样使用灯光开启左转向灯 在这个位置时怎样使用灯光

天天精选!河南各地迎难而上全力抢收 多方聚力确保夏粮应收尽收

张怡宁将执教印度乒乓球队?假的! 全球新动态

【环球报资讯】用什么封密墙缝不渗水(门缝漏水用什么封堵)

中国经济体制改革研究会副会长樊纲:消费需求一时难以扩大,短期内仍寄希望于投资需求

每日焦点!极目帮办丨武汉一小区房屋渗水影响居住,社区称与物业公司协调处理

人工智能热潮背后——透视算力新趋势

全球今热点:图说一周遂昌

中方驳斥:无中生有、信口雌黄、恶意诋毁!

厦门专利奖获奖名单揭晓:42项上榜 涉及多个重点产业

女生嫩毛

灵武:开展物业服务领域消防安全专项培训

环球今日报丨美国前总统特朗普面临37项指控

福建省启动智慧财审系统 提升效率24.53%

中午吃什么?(中午吃什么饭简单方便?)

杜甫是个怎么样的人?他为什么被称为诗圣?

重点聚焦!【文体市场面面观】“两个效益”彰显文化企业使命担当

瓜帅坚称欧冠是梦想不是负担,讽意大利人0比0主义

重点聚焦!叶峰苏梦涵是哪部小说主角 叶峰苏梦涵

给排水专业就业前景分析_给排水专业就业前景_天天看点

【环球播资讯】vivox30图片(vivox30)

宜城视博广告有限公司|环球播报

日本首次参加北约“空中卫士”演习打什么算盘?

喜欢的繁体字怎么写书法_喜欢的繁体字怎么写 世界播报

诸城市属于哪个省份_诸城市属于哪个市

2023年北京产假新规(最新)2023北京法定产假多少天? 最新

优必选携手知名养老企业美邸,打造全球顶尖 AI 与机器人智慧康养整体解决方案

当前短讯!股票套牢了是什么意思(股票套牢是什么意思)

当前速读:香港怪谈2023_香港怪谈

广东省湛江市2023-06-06 22:45发布暴雨黄色预警_世界微动态

全球快报:辽宁省葫芦岛市2023-06-06 20:48发布大风蓝色预警

全球消息!与胡继勇牵手逛街的涉事女子被停职,中国石油大学 北京也回应了

买车帮(买车) 每日快看

环球微动态丨经典有意义的文案

改款Model 3变化盘点:这次可不是小修小补

世界快资讯:哪个品种的小米最好

中国大桥排名前15座大桥(中国名桥) 当前观察

兰州市七里河区:提升绿化景观品质 展现城市之美

海南2023年卫生资格考试查分入口_环球新视野

观热点:梅西:今夜不会再有难舍的旧梦

天天快消息!慧车天下行车记录仪连接不上_慧车天下行车记录仪

意媒:罗马与米兰尤文国米等队竞争弗拉泰西,萨索洛要价3500万欧 全球热议

国内AI初创企业Top 5,谁是中国的Open AI?

美股异动 | 优点互动(IDEX.US)涨超9% 成交量超3650万

两家花店倒闭后她在抖音电商卖花,一场直播带货4万单-天天亮点

世界微速讯:广东空调卖爆了 空调加工车间24小时不停歇

Copyright ©  2015-2022 华东律师网版权所有  备案号:京ICP备2022016840号-41   联系邮箱:2 913 236 @qq.com