原标题:专访加州大学伯克利分校教授Pieter Abbeel:最终我们要给AI设置一个“关闭按钮”否则很危险
打破机器人重复动作的局限,实现机器人自我学习、识别环境并反馈,人类应如何与AI相处?作为一种“新型电力”,AI及衍生机器人必定会在未来占据重要的一席之地,但想实现这一目标,实现广泛、普遍、合理使用AI的目标,人们仍需克服许多困难。
10月22日,第三方咨询机构安永发布报告指出,中国大陆企业对人工智能的未来发展持有相对谨慎和保守的态度,68%的受访企业预计,人工智能将在未来五年内,对行业产生较大甚至重大的影响;在政府的政策扶持和产业加快升级的背景下,企业的人工智能成熟度较高,但在网络安全、数据管理、创新管理等方面,尚存在不足。
2009到2019年间,中国大陆的人工智能投资笔数不断攀升,共累计投资2827亿人民币。在对人工智能的投资中,计算机视觉和智能机器人是主要投资领域。
一直以来,加州大学伯克利分校教授、伯克利人工智能实验室主任Pieter Abbeel主要的研究领域专注于机器人与机器学习,尤其在深度强化学习领域处于领先地位。同时,他还是 Covariant.Ai (仓库和工厂智能和机器人自动化)、Gradescope(人工智能打分系统)的联合创始人和首席科学家。
近日,他在接受21世纪经济报道记者专访时认为,从工业机器人到家用机器人的发展过程中,最大的改变是,将重复动作的机器人转变为机器人2.0,即能看见并能根据所处的情况产生反馈的机器人。今年以来,机器人对环境作出反馈的功能,已经发挥了实用功能。
值得人类关注的是,当AI真正“觉醒”后,它们会统治世界吗?AI与人类惧怕的恶距离有多远?
以下为对话实录:
《21世纪》:今年上半年,全球都受到了新冠肺炎疫情的影响。在人类生活中,AI扮演了怎样的角色?它会越来越重要吗?
Pieter Abbeel:在病毒大流行的背景下,像后勤基础设施这样迫使员工聚集的工作,变得危险且重要,因为我们每个人都需要在网上购物,就需要物流。因此,我希望大型仓库一类的场所运行起来可以更加自动化,更加安全可靠。另外,机器学习也有助于追踪事物的发展和控制。
我希望在未来,AI可以帮助人们应对病毒、进行医疗服务。目前,我们在疫苗研发和药物治疗方面没有明显的进展,但是我相信AI有潜力在医疗服务方面有突出贡献,远比我们目前所达到的成果更好。
《21世纪》:AI的发展分为几个阶段,您认为目前我们处于哪个阶段?
Pieter Abbeel:在最早的50-60年代,我们关注搜索和理论推理,发现AI可以证实一些人类尚无法证实的理论,也可以成为高超的棋手。但这些都基于非常清晰的规则,你可以理解为何AI会这样做。
在上世纪末和本世纪初,AI在模块识别和概率推理方面有了很大的进展。目前,受益于大量的数据,我们在这两方面有了更大的进步,比如说计算机视觉。尽管这一技术问题没有完全解决,但是在这过程中产生了许多成果,并投入到实际的商业活动中。
目前,我们正处于一个模块识别高度发达的阶段。人们想要解决一个问题,需要大量数据帮助计算机学习。
比如,机器人想要识别出一个行人或车辆,就需要在投入工作前学习无数行人和车辆的照片。但在未来,机器人可以自主学习,机器自动地去学习大量的数据,就像新生儿一样自主地观察世界,不需要人类去反复地教它,不需要标注大量信息。可能在未来五年,我们可以利用并看到无标识数据的影响,之后衍生出更多应用。
《21世纪》:普通人还不能在日常生活中应用深度强化学习,那么在目前这一阶段最大的困难和最急迫的需求是什么?
Pieter Abbeel:的确,深度强化学习离普通人的生活很远。但是,当我们考虑机器人只需要学习输入的图片,而非实际的动作或模仿时,科技已经有了很大的进步。在过去的几年里,我们将深度强化学习和自主学习相结合,发现向状态学习和向图像学习,可以达到同样的效果,我认为这是一个重要的突破。但是它还是不够高效,还需要进行大量测试。
另一方面,如果我想要落地一套系统,我不会从强制学习开始,而是从模仿开始。我会首先收集人们驾驶车辆、完成工作的示范,之后让机器人去模仿,这更加方便。之后再运用强制学习来提高、完善。
《21世纪》:我们距离广泛使用家用机器人还需要多长时间?在发展家用机器人的过程中,我们面临哪些困难和机遇?
Pieter Abbeel:每个家庭都有不同的情况、布置,有的家庭有宠物或者孩子,常常会把房间弄得一团糟。因此,当我考虑设计机器人时,就需要考虑机器人将来工作环境的构造。
我们可以在工厂里看到各种机器人在进行工作,但是它们只是在不停地重复同一个动作。
《21世纪》:AI已经被广泛应用在自动驾驶、医疗服务和教育等领域,将来还会在其他哪些领域展现商业潜力?
Pieter Abbeel:我的博士导师说,AI是新型电力,它将无处不在。我很同意他的观点。基于更多数据,很多人都可以对AI进行精准的预测,进而发挥其商业优势。
在2020年,我看到的最大变化有:一,语言处理。今年,出现了一些预测性语言模型,如Google开发的产品。这些模型相较于之前有了很大的进步,人们会基于此开发出许多应用。比如对话机器人、运动机器人、娱乐机器人,它们可以和人们流畅地对话,进而提高机器语言转化的能力。
二,机器人技术。许多事情不能仅仅靠重复动作来完成,你需要观察、反馈。未来几年,机器人将完成大部分人类的手部工作劳动。
在这一方面,尽管人们最常讨论的是自动驾驶技术,但我觉得它的开发进展要比人们想象中的更困难,因为AI可能产生的错误是致命的,而没有公司愿意让你知道他们的系统可能会致命,因此这一技术的可靠性还不够。在实验室,你可能会开发出一个十分优秀的自动驾驶产品,但当把它引入现实生活中时,不同的车辆会遇到不同的驾驶员,系统很难达到高度的可靠性。
《21世纪》:在诸如安全、隐私等领域,AI面临了哪些道德挑战?我们能有什么解决措施?
Pieter Abbeel:的确很多人都有这样的疑问,因为我们看到过很多AI未被合理使用的例子,比如侦测工具失灵、警察抓错嫌疑人等等。因此,我们应该对AI的道德问题保持谨慎的态度。如果一个人犯错了,那他只是犯了一个错误。但是如果AI犯错了,那么将会发生无数次错误。
问题的关键在于,如何在AI做出道德选择时测量它。尽管有时这一测量并不完美,但至少在测量后,我们可以开始研究并训练它做出更好的决定。在技术的发展下,会有好的解决方法,但的确还有很长的路要走。
《21世纪》:当AI真正“觉醒”后,您认为它们会统治世界吗?
Pieter Abbeel:我目前对这个问题还没有答案。在现实生活中,一个人更聪明并不意味着他就有更大的权力。但是,如果AI比人类聪明上十万倍,或许AI可能会统治世界或赚很多钱。这取决于我们想要的是什么,是要控制它们,还是当它们足够聪明后做任何自己想做的事情?这是一个复杂的问题。
《21世纪》:是否有什么措施可以防止事态发展到这一步?比如说设定一些程序的标准?
Pieter Abbeel:在伯克利有一个人类AI共存中心,我们也在研究怎样将AI置于控制之下,比如设置“关闭按钮”,但可能一个机器人会通过肢体或情感的方式,阻止你关闭它。所以我们需要一个能够理解人类正在观察它,但不能完全理解人类意图的AI系统。我们不希望AI能够完全知道人类的需求,否则就会很危险。
你不能给机器人十分明确、严格的目标,机器人需要知道它们并不理解一切。
责任编辑:李思阳
- 1 重磅:大佬刘益谦重仓坚守这只股4年
- 2 酿酒行业领跌 大单抛出超10亿元五粮液
- 3 王传福表哥吕向阳又搞新动作了 方向是新能...
- 4 北京将出台户外广告、牌匾标识新规:拒绝“...
- 5 8天7板小康股份:新能源汽车板块的营收占...
- 6 特斯拉申请召回超9000辆Model X...
- 7 济南多个楼盘都有人脸识别 看房“避免被拍...
- 8 乘联会谈中概股造车新势力:高估值也是很好...
- 9 小米公司就“未来得屌丝者得天下”言论道歉...
- 10 北京航空航天大学蔡维德:数字货币带来科技...
- 11 11月25日上市公司晚间公告速递
- 12 套牢BAT巨头三年的联通混改 问题出在哪...
- 13 119期冰丫头双色球预测奖号:蓝球杀码参...
- 14 逗妹吐槽:在你来湖人前我们就已经是fam...
- 15 申爱赋能赛道 2020上海马拉松路线补给...
- 16 卡斯蒂列霍:迪亚斯10岁的时候我就认识他...
- 17 为了确保参加大师赛 保尔特竟然刻意躲着女...
- 18 名宿:尤文今天比赛苦不堪言 好在有圣莫拉...
- 19 加斯佩里尼:我们不会给利物浦那么多“礼物...
- 20 德里赫特:我们踢得不好 第一个丢球我也有...
- 21 皮尔洛:我们的侵略性还不够 德里赫特回归...
- 22 小米高管发表“屌丝”言论引网友不满 当事...
- 23 WTT澳门赛国乒首败 赵子豪1-3不敌坪...
- 24 以后你们就要给张一鸣还“花呗”了
- 25 微信:今年已对超过620万个恶意注册违规...
- 26 半月谈:我们的网络社会需要一场“适老化”...
- 27 跑步关节要省着用!两个动作保养你的膝盖
- 28 乘联会谈中概股造车新势力:高估值也是很好...
- 29 台积电入局,芯片封装或成半导体发展下一个...
- 30 阿里健康上半年营收同比增长74% 扭亏为...
- 31 小米就未来得屌丝者得天下言论道歉:该员工...
- 32 王传福表哥吕向阳又搞新动作了 方向是新能...
- 33 茂硕电源:控制权拟变更 济南国资委或成为...
- 34 宋志平:做好上市公司是我们的初心和良知
- 35 布鲁日中场:多特拥有一个闭着眼都能进球的...
- 36 新冠病毒“牛津疫苗”有效率70% 真的不...
- 37 8天7板小康股份:新能源汽车板块的营收占...
- 38 清华大学去年年底已开始6G的试验
- 39 20067期足彩冷门排序:桑托斯赢球全国...
- 40 276期老刀排列三预测:012路码分析
- 41 日乙提醒:新泻天鹅防线不稳 主场表现令人...
- 42 济南多个楼盘都有人脸识别 看房“避免被拍...
- 43 都说创业是“九死一生” 创业公司如何起死...
- 44 看房要戴头盔?是谁给了经营者“偷拍”客户...
- 45 李炜光:来而不往非礼也的税收什么才是最重...
- 46 40个项目签约数字经济产业合作大会 总金...
- 47 巴甲提醒:塞阿拉防守状态堪忧 近期火力不...
- 48 新一代航海家全球首秀 林肯国产化元年实现...
- 49 售楼处人脸识别?专家:若非提前告知 客户...
- 50 话题探讨:围棋AI给职业棋手世界带来的影...
- 51 沙漠上神秘的仙女圈 竟源于草类自我“救赎...
- 52 金世煐"逼宫&...
- 53 建行纳闽分行撤回发行30亿美元区块链债券...
- 54 李克强主持召开国务院党组会议
- 55 国务院党组会议:加快打造市场化法治化国际...
- 56 Razer雷蛇推出口罩新品!三层百摺式口...
- 57 国务院党组会议:抓紧制定政府部门权力和责...
- 58 使用北京健康宝遇到这些问题?看这里!
- 59 生态环境部等四部门:全面禁止进口固体废物
- 60 一个时代的结束!微软开始终结IE:全力发...
- 61 售楼处安装人脸识别系统偷拍看房者 评:谁...
- 62 277期钟玄福彩3D预测奖号:胆码参考
- 63 小米发布道歉信 为员工言论道歉
- 64 我们暗访了蛋壳公寓一探究竟
- 65 94岁老人被抱起做人脸识别 评:忽视老人...
- 66 我们卧底了一个网络写手群,千字3元不如要...
- 67 我们卧底了一个网络写手群 千字3元不如要...
- 68 生态环境部:正推进“十四五”重点流域和海...
- 69 外媒:英国政府推出网站,警告科技公司接受...
- 70 小米取代华为,想多了
- 71 欧盟计划提高锂电池产量 2025年实现自...
- 72 戴头盔看房的无奈背后 谁来保护我们的“脸...
- 73 打赏实名制有助打击直播刷量“机器人”
- 74 Windows 10设置应用界面开始向部...
- 75 家暴之后:一个县城女人的伤痛与选择
- 76 大学生质疑火车票用词不雅,最新回应
- 77 一夜之间,济南山师东路秀水街商城变废墟
- 78 注销校园贷账户?多名在校生和毕业生被骗!
- 79 南宁一女子网上买“特码”,30多万元打水...
- 80 羽绒服护身!今早北京-3到1℃,出门要防...
- 81 湖北新冠疫情专家李十月逝世 出差途中突发...
- 82 《我们恋爱吧》冷冷迷惑发言惹怒黄圣依朱正...
- 83 扬扬为30+女舞者发声:一个舞者最成熟的...
- 84 舞蹈风暴胡沈员:爆火是为了让现代舞被更多...
- 85 石家庄:将启动重污染天气Ⅱ级应急响应
- 86 《我们的歌》高燃团战 GAI周延风格百变...
- 87 清华、浙大学生作品被抄?回应来了!
- 88 《我们恋爱吧》冷冷告白遭拒 五角恋陷入僵...
- 89 媒体:94岁老人被抱起做人脸识别,失了人...
- 90 抓获19人!云南大理打掉一个涉恶犯罪团伙
- 91 小儿子着急上厕所,一个“失误”揭开18年...
- 92 成都市对成都大学毛洪涛事件的调查即将有初...
- 93 美国加州破获服刑人员诈领失业救济金案件
- 94 疫情下,一个8岁美国男孩,拯救了全家人!
- 95 这种癌症将被消除!
- 96 “精神打工人?”小偷夜夜不睡 一月偷30...
- 97 美国单日新增确诊超17万例 累计确诊超1...
- 98 蓬佩奥抨击拜登团队:他们有点活在幻想世界
- 99 南京一广场地面下沉致多家店铺墙体开裂,有...
- 100 美国累计新冠肺炎确诊病例超1243万例