直击WAIC丨图灵奖得主Joseph Sifakis:AGI需要新范式,实现自主性仍然遥远
21世纪经济报道 2023-07-09 10:59:57

“ICT(信息通信技术)和AI之间的加速融合正在创造自主系统,这是从弱AI到AGI(通用人工智能)的一大步。”

7月7日,在2023世界人工智能大会区块链+WEB3新发展论坛上,图灵奖得主、中国科学院外籍院士Joseph Sifakis也围绕人工智能带来诸多前沿技术的研究和思考。

他指出自主系统是迈向AGI的重要一步,而要实现这一步还有很长的路要走,未来前行方向包括设计出围绕可信组件构建可信系统的技术、发展新的科学和工程基础、验证智能系统等。


(相关资料图)

模型检查领域作出杰出贡献

不像同为图灵奖得主的Yann LeCun,既有一个相当中文的名字“杨立昆”,又在Meta这样为大众所熟知的科技大厂任首席科学家,还有一些诸如“深度学习之父”等响亮易懂的称号,Joseph Sifakis则隐秘许多,聊到他,自然离不开他在模型检查领域所做的杰出工作。

如人们对工程开发的预想,在实际部署之前,为了避免不必要的失败,包括系统在内的所有组成都要严格检测可能存在的错误和缺陷,因为很多时候,一个小小的bug就会让全部努力“付诸东流”。例如1996年6月,欧洲12国联合研制的Ariane 5型运载火箭在首次发射时,仅由于一行代码的溢出错误就导致火箭发射失败,数亿欧元因此放了“烟花”。

随着科技的发展,各种系统也越来越复杂,如今一台汽车所涉及的代码就可以达到上亿行,手动验证系统的安全性与可靠性就是一件几乎不可能实现的事情。

在这样的背景下,Joseph Sifakis在内的几位计算机科学家在1981年提出模型检查的概念。

在提出模型检查的概念后,Joseph Sifakis也一直在积极推动模型检查在嵌入式系统领域的应用,直到如今,模型检查依旧是一个活跃的研究和开发领域,研究人员努力提高其拓展性、准确性和可用性。Joseph Sifakis也因其在模型检验领域的杰出贡献在2007年共同荣获了计算机领域的最高奖项——图灵奖。

所谓嵌入式系统,简单理解即火箭、汽车、手机等设备等所搭载的各种控制系统,随着物联网的兴起,形形色色的智能化产品也让嵌入式系统出现在我们日常生活的每个角落。

“物联网革命的背后是,对互联的智能对象提供的资源管理自动化和增强人们生活质量需求的日益增长。”作为长期深耕行业的大牛,Joseph Sifakis早前也发表过许多相关的见解。

物联网之后,大模型掀起一波新的高潮,生成式AI重新点燃了人们对AGI的兴趣,而AGI的最终愿景就是机器代替人类完成各种复杂的任务,也就是在各种场景下构建可以自主运行的系统,Joseph Sifakis指出,构建自主系统是从弱人工智能到AGI的重要环节。

Joseph Sifakis专门强调了自动化系统和自主系统之间的区别,虽然二者都涉及与环境交互,但区别在于不同的意识感知和决策机制。

“自动化系统以恒温器为例,它只需要从环境中读温度取值,再对温度进行调节,这是一种静态的控制。而对于自动驾驶来说,事情要复杂得多,这种自主系统需要更加复杂的传感器和驱动器,并且要对得到的图像进行逐帧分析,识别障碍物,然后输入运动学的属性,感知功能相当于一个对外部世界的认知模型,自主系统基于这个模型进行决策,从而完成动态的目标管理。”Joseph Sifakis表示。

而要弥合自动化和自主性之间的差距,Joseph Sifakis认为还有很长的路要走,“这也是我们从自动驾驶中认识到的,过渡不是渐进的,为了实现完全自主的愿景,我认为需要发展新的科学和工程基础,而这需要一些时间。”

亟需新范式

“今天,弱Al为我们提供了构建智能系统的元素,但我们没有像建造桥梁房屋一样总结建立复杂智能系统的理论。”Joseph Sifakis表示。

环境的不确定性和决策的复杂性则共同组成了通往AGI路上的绊脚石,而Joseph Sifakis在内多位行业大牛也坚定认为无法绕开这些挑战实现真实可靠的自主和智能。

在ChatGPT爆火之后,美国斯坦福大学组织行为学副教授Michal Kosinski实验发现,ChatGPT回答问题的正确率高达93%,并认为其心智理论能力相当于9岁的人类儿童。

这也引来诸多AI领域人士的反对声音,如北京通用人工智能研究院院长朱松纯认为大语言模型并不符合通用人工智能的要求。

坚决反对“AI末日说”的杨立昆也表达过类似的观点:GPT等大模型的关键缺陷在于其只学习了文本或者其他单一数据,对现实世界的了解十分浅显,而人类的知识和文明不全是从书本上获得的,“书呆子”AI未必有多聪明。

“即使GPT能通过类似测试,也只是体现了它具备通过这个心智理论测试的能力,并不能说明它具有心智理论,同时我们也要反思:用这些传统测试任务来验证机器是否发展出心智理论的做法是否严谨合法?为何机器可以不用心智理论就能完成这些任务?”朱松纯表示。

而Joseph Sifakis则认为,人类的思维与大语言模型背后的神经网络之间有着两个根本区别:一是人类的思维更加稳健,相比之下,神经网络即使面对细微的问题变化,也会产生完全不同的答案,二是人类思维基于常识知识,更能避免在答案中产生矛盾。

不过,对于通用人工智能,两人都呼吁相似的从感知认知到决策执行的新范式。

Joseph Sifakis指出,传统构建系统工程的方法,虽然能够应用于飞机制造以及普通生产制造系统,但无法胜任更复杂的自主系统,而对于自动驾驶领域中另一种试图绕开环境感知与复杂决策的端到端的解决方案,即以行驶过程中由摄像头采集到的道路场景图像和人为操作车辆的控制参数数据作为数据样本训练的自动驾驶大模型,Joseph Sifakis也给予了否定。

“由于目前人工智能输出的方案缺乏可解释性,其输出的结果有时候未必可靠,系统工程的构建是一个突破点,我们需要从小规模、集中式、环境变量可被设定的自动化系统,转向复杂的、分布式的自主系统。”Joseph Sifakis说。

“我认为我们应该承认智能系统需要严格的验证方法,诚实地克服当前的限制性,开发新的基础,并在必要时可能修改认识和方法要求,但是要小心,要了解我们在做什么。”Joseph Sifakis补充道。

(文章来源:21世纪经济报道)

直击WAIC丨图灵奖得主Joseph Sifakis:AGI需要新范式,实现自主性仍然遥远

2023-07-09 10:59:57

飞机上男子抽搐 幸好三名哈医大二院医护

2023-07-09 10:37:44

我省生源地信用助学贷款申请指南来了

2023-07-09 10:35:03

哈尔滨机场今年旅客吞吐量破千万

2023-07-09 10:32:18

松北区北岸润和城小区 墙体苯板大块脱落

2023-07-09 10:37:10

LPL联赛格局确定,Uzi难进世界赛,EDG保底50分,目标是进入前六

2023-07-09 10:37:39

揭露福岛核废水真相,各国专家这样说

2023-07-09 10:42:35

同步轮规格尺寸 图纸(同步轮规格尺寸)

2023-07-09 10:30:56

同步带规格型号尺寸表图片(同步带轮规格型号尺寸表)

2023-07-09 10:33:37

宫斗寝戏记录哼(求宫斗侍寝戏记录)

2023-07-09 10:28:29

数学书七年级上册答案苏教版(数学书七年级上册)

2023-07-09 10:25:49

七年级上册数学课本人教版电子书(七年级上册数学)

2023-07-09 10:29:20

基金降费!头部基金公司率先行动,证监会:广泛听取市场意见,根据投资者需求制定

2023-07-09 10:37:17

SSD价格还要继续下跌:没买的要赚了

2023-07-09 10:36:44

15家上市银行股息率超6%,上半年板块整体涨超5%,投资银行股大赚了

2023-07-09 10:32:12

4个月卖了1700亿,彩票为什么开始吸引年轻人?

2023-07-09 10:25:34

河北保定回应公交停运:资金紧张电池超期限,纯电公交被迫全部退出

2023-07-09 10:27:36

密码机器下载_密码机器

2023-07-09 10:16:55

成德首例“一件事·跨域办”成功办理

2023-07-09 09:58:05

恭喜再次夺冠!王楚钦/孙颖莎7天2个冠军

2023-07-09 10:00:02

上半年全国铁路发送旅客17.7亿人次 接近2019年同期水平

2023-07-09 10:01:23

微博粉丝平台(微博粉丝购买)

2023-07-09 09:24:50

资产负债率是什么意思(资产是什么意思)

2023-07-09 09:30:54

幼儿教师学期工作总结及下一步(幼儿教师学期工作总结)

2023-07-09 09:28:07

什么是资产保全(什么是资产的定义)

2023-07-09 09:37:31

奥特莱斯折扣店地址(北京奥特莱斯折扣店地址)

2023-07-09 09:26:14

新造车自燃,气不过把电池子公司给卖了

2023-07-09 09:35:08

烽烟再起!元气森林能否“再将一军”?

2023-07-09 09:23:22

十多万一辆的自行车,是谁在买?

2023-07-09 09:28:47

CBD旁房子免费送?郑州一博主:贷款90万还了5年,房价从2万跌到1.2万

2023-07-09 09:30:41

“出轨”的国企领导身陷反腐风暴

2023-07-09 09:34:39

浙江绍兴试水培育“园村共同体”

2023-07-09 09:30:33

中国债务越累越高,保定没钱停公交,郑州却花34亿河道贴瓷砖

2023-07-09 08:54:19

北京:无人驾驶的出租车将正式上路

2023-07-09 09:03:14

求证 | 上海交通卡可以全国用了吗?刷社保卡到底怎样坐公交?一文说清

2023-07-09 08:59:47

接地符号字母标识(接地符号怎么打)

2023-07-09 08:35:38

港元人民币历史汇率(港元人民币)

2023-07-09 08:26:04

不燃放烟花爆竹图片(燃放烟花爆竹图片)

2023-07-09 08:37:08

中国邮政储蓄银行网点多吗(中国邮政储蓄银行网点查询)

2023-07-09 08:31:49

www.17173.com官网(www 5dgz com官网)

2023-07-09 08:34:10

吉利沃飞长空获超亿元首轮融资,“低空出行”成投资新风口?

2023-07-09 08:31:51

牧原股份2023年一季度财报:营业收入增长,净利润亏损,现金流量净额大幅下滑

2023-07-09 08:31:19

娄烦县机构改革调查 为全国400余小县“瘦身”寻解

2023-07-09 08:23:55

歌尔股份上半年净利同比预减超7成,苹果砍单风波影响如何破?

2023-07-09 08:24:08

大学生暑假涌向工厂流水线:月入五六千 目标赚出一台iPad

2023-07-09 08:35:54

饿其体肤空乏其身行拂乱其所为的意思 饿其体肤空乏其身行拂乱其所为

2023-07-09 08:17:21

控制权之争!“卫星导航第一股”原董事长被举报

2023-07-09 08:00:33

今年上半年全国铁路完成固定资产投资3049亿元

2023-07-09 08:02:11

福建哪里好玩景点排名自驾游(福建哪里好玩)

2023-07-09 07:35:20

圣安地列斯的兰博基尼(侠盗猎车圣安地列斯秘籍兰博基尼)

2023-07-09 07:27:03

贺州贺州论坛 红豆社区(贺州市红豆网)

2023-07-09 07:26:44

中国烟草价格表2021价格表(中国烟草价格)

2023-07-09 07:27:12

鼻窦炎的最佳治疗方法有哪些(鼻窦炎的最佳治疗方法)

2023-07-09 07:25:11

风口上的胎压监测!两大龙头,为何两极分化?

2023-07-09 07:27:12

“上海外滩夜景灯光太土”?

2023-07-09 07:34:46

军品防护装备双寡头之一,垄断军方核生化防护业务,但上市一年,业绩、股价全腰斩:追问华强科技业绩拐点

2023-07-09 07:33:13

天然气出口收入暴跌后,俄罗斯计划大幅提高国内天然气价格

2023-07-09 07:33:40

全球平均气温4天内3创新高,世界首富被晒伤!这里最高温已接近50℃,会带来哪些经济逆风?

2023-07-09 07:23:18

灵活就业率偏高?湖南要求这项数据超过20%的学校提交专报

2023-07-09 07:20:28

【你好武汉】再等几天,大量上市!

2023-07-09 07:22:13

法官乡村勘验记

2023-07-09 07:07:40

日本政府不应强推核污染水排海

2023-07-09 06:52:32

“不缺游客缺门票”如何解

2023-07-09 06:54:37

阿斯巴甜到底安不安全

2023-07-09 06:56:22

2023国际数字能源展聚焦能源领域前沿技术——共建“未来电网”驱动零碳变革

2023-07-09 06:55:34

11部门联合部署 开展论坛活动专项清理整治

2023-07-09 07:00:01

ip查找计算机名(ip查找)

2023-07-09 06:32:25

西安周边温泉度假酒店哪家好(西安周边温泉哪个好)

2023-07-09 06:33:39

三角梅剪枝图示(三角梨店招)

2023-07-09 06:27:24

奥拉星挂机软件(4399奥拉星外挂)

2023-07-09 06:26:36

小王子英文版好词好句摘抄(小王子英文版好句)

2023-07-09 06:37:01

中国新能源十大新趋势

2023-07-09 06:32:26

太狠了!8天暴跌40%……

2023-07-09 06:27:21

阳谷华泰和浦林成山签订战略合作协议

2023-07-09 06:11:22

白云街广九社区儿童公园开放啦!社区“边角地”变身“游乐场”

2023-07-09 05:57:21

“阿斯巴甜可能致癌”引热议 代糖食品还能吃吗?

2023-07-09 05:49:20

百色芒果 深圳展销 两地签下购销协议超2580吨

2023-07-09 05:55:10

景区爆满、演出售罄!北京迎暑期旅游高峰

2023-07-09 05:59:15

中国台湾屏东县海域发生5.4级地震

2023-07-09 05:51:47

中国工程院院士:我们算力超过时 GDP也可以超过美国了

2023-07-09 05:42:48

中国化学研制的加氢站已具备商业应用条件

2023-07-09 05:53:08

车祸致人死亡赔偿金需要垫付吗

2023-07-09 05:08:55

7月7日,00后依依十万实盘第三十七天(67W):左右挨打!

2023-07-09 02:17:18

公斤和磅的换算(公斤)

2023-07-08 23:37:45

桌面日历备忘录软件按(桌面日历备忘录软件)

2023-07-08 23:23:25

颜色五行属性相生相克(颜色五行属性)

2023-07-08 23:27:32

身高体重公式计算器(身高体重健康计算器)

2023-07-08 23:30:39

太原企业养老保险中心(太原市企业养老保险官网)

2023-07-08 23:34:03

OPEC+提振油价的拦路虎:美国撼动定价权

2023-07-08 23:30:33

雅化集团2023年一季度财报解读:营业收入增长14.21%,应收账款增长75.53%

2023-07-08 23:29:06

吴晓波悬赏100万!要抓“假吴晓波”

2023-07-08 23:26:22

重罚 71.2 亿“去马化”后的蚂蚁,回购估值缩水七成,重启上市之路?

2023-07-08 23:29:34

突然公告,顺丰要搞大事情?!

2023-07-08 23:36:35

济南人才市场档案保管电话(济南人才市场)

2023-07-08 23:20:24

何立峰会见美财政部长耶伦

2023-07-08 23:11:42

乘联会崔东树:中国二手车发展潜力及其巨大

2023-07-08 23:13:50

中金公司前总裁朱云来:养老基金核心在于根据现有储蓄能力匹配未来需求

2023-07-08 23:13:59

银河证券:指数行情需要等待 主线行情积极参与

2023-07-08 23:12:47

长治惠生活便民分类信息(20230708期)

2023-07-08 22:56:09

从算力联盟到大模型 三大电信运营商的AI蛋糕能做多大?

2023-07-08 22:52:29