3月底,非营利组织未来生命研究所发表一封公开信,呼吁暂停研发比GPT-4更强大的人工智能(AI)系统至少6个月。公开信获得了千余名该领域专家、科技人员、产业高层的签名,其中包括中国科学家曾毅。
作为联合国教科文组织人工智能伦理特设专家组专家,曾毅也是中国科学院自动化研究所研究员、人工智能伦理与治理中心主任。当下的人工智能亟需解决哪些负面影响?身为AI技术和伦理专家,为何会在这封引发空前关注的公开信上签名?围绕这些话题,本报记者与曾毅进行了对话。
文汇报:您为何认为暂停6个月AI大模型研发是必要的?如何看待此次辛顿用离职发出的AI警告?
(资料图片)
曾毅:生成式AI大模型的发展速度可以在几周内将潜在风险转变为实存风险,不负责任地研发和使用AI可能在短期内对社会造成显著而急迫的风险。
眼下,人工智能企业都在布局大模型,但很少有人说如何去防范风险。正因为我们对AI潜在的风险还没有完全准备好,但已经开始过早且过于激进地尝试,所以我觉得暂停6个月是必要的,先去解决一些潜在风险,先好好思考一下。当然,6个月只是一个倡议,是一个可以尝试的时段,能够取得一定效果肯定比不做准备要强得多。但是,6个月之内是否能够充分思考相关风险,并做到防范?我觉得这是不够的。
我认为,应对AI潜在威胁与应对气候变化危机并不存在重要性的差别,AI带给人类的挑战可能更紧迫。而且,AI技术每往前发展一步,人类对于伦理安全方面的考虑也需要前进一步。AI治理对其未来发展而言已经不是一道选择题,而是必答题。
文汇报:人类历史上有过很多次由新技术诞生而引发的危机时刻,您认为此次生成式AI给人类带来的影响和以往一样吗?
曾毅:生成式AI技术有能力合成虚假信息,极大降低了社会信任,该项技术的滥用、恶用,使得现今眼见、耳听都难以为实。这对于人与社会之间的关系提出了前所未有的挑战。从长远来看,生成式AI大模型等技术正在试图模糊人与AI之间的界限。
现阶段的AI只是看似智能的信息处理工具,并不具有真正的理解能力和真正意义的智能。它可以用来辅助人类决策,却不能代替人类决策,因为它并不是责任主体,也不具有生命。然而,诸多应用领域正在尝试用其替代人类,无法作为责任主体的AI工具被错误地赋予责任主体的责任与义务,这将对人类与社会发展产生深远而广泛的影响。
文汇报:您认为人类有可能始终掌控AI,让它永远只作为工具存在吗?要实现这一目标,人类有哪些手段?
曾毅:我们没有选择,对于作为工具的AI,我们必须竭力做好伦理安全框架、测试和负责任的部署,同时引导AI赋能可持续发展目标的实现。目前,AI赋能的实践主要在教育与健康领域,因为这两个领域有更明确的经济收益。而对于一些全球性的议题,例如生物多样性保护、气候变化、公平公正等对于人类的生存与发展极为重要的问题,AI的贡献微乎其微,这是人类使用AI这一工具时必须意识到并采取行动的。
我们应从制度建设和技术护航两方面引导AI向善。从制度建设与实践角度讲,制定伦理安全原则、规范及相关立法是必要的社会保障。从技术护航角度看,通过AI技术实现伦理安全关切,落地法律法规要求,并根据目前的技术瓶颈及时与制度建设互动,实现敏捷自适应治理是关键所在。
文汇报:在您的设想中,未来人类与AI应当是一种什么样的关系?
曾毅:现在,AI正以一种试探、尝试的方式去改变社会,人类社会则是以一种被动的姿态去应对,而不是我们所期待的主动去迎接技术变革,更多人是疲于应对。
如果把技术发展脉络放到更长的历史当中来看,人类应该回归其自身的位置,从事更多具有创造性的、情感交互的工作。比如在家照顾孩子和老人,关爱社会中的年长者和弱势群体,这些工作恰恰是AI最难替代的。在城市发展中,有必要给人留出没有必要使用AI的空间,并且让人们可以有选择权,决定使用或者不用这项技术。
文汇报:不少专家认为,AI最大的影响在于教育。在您看来,AI时代应培养孩子的哪些能力?
曾毅:现在有很多家长非常焦虑,总是在想我的孩子是不是应该尽早地接触人工智能。在我看来恰恰相反。如果真的学有余力的话,让孩子去学一门心理学,接触认知心理学的基础,让他对人本身有更多的认识——人类的智慧到底是怎么回事?我们的内心是什么样的?人如何为人?事实上,生成式AI让人更明白“何以为人”。因此,我觉得孩子们有必要学点哲学,在年轻的时候就去思考这些问题。
作者:沈湫莎
图片:pixabay.com
责任编辑:任荃
*文汇独家稿件,转载请注明出处。
标签:
上一篇 : 武汉招商引资暨“专精特新”企业恳谈会在穗召开
下一篇 : 最后一页
3月底,非营利组织未来生命研究所发表一封公开信,呼吁暂停研发比GPT-4更强大的人工智能(AI)系统至少6个
05-12 16:50:48
湖北日报讯5月9日,“相约英雄城聚力新动能”2023武汉招商引资暨“专精特新”企业恳谈会在广州召开,佳...
05-12 16:19:53
【前4个月肉鸡均价处于近10年高位产业链各环节利润错配】截至5月11日,多家拥有养殖业务的上市公司发布了4
05-12 15:52:45
央视网消息:随着数字经济的快速发展,数字贸易成为经济全球化的“稳定器”和“新引擎”。商务部国际贸...
05-11 22:28:10
北京结婚登记内地居民需要什么材料?✔所需照片要求:结婚双方需要共同提交三张二寸(高3 5cm×宽5 3cm)近期
05-11 18:55:55
近日中科环保披露,截至2023年4月28日公司股东户数为5 4万户,较3月31日减少2707 0户,减幅为4 77%。户均持
05-11 17:56:03
日前,张家口下花园区人民检察院在区政务服务中心大厅设置“检察官信箱”,进一步发挥检察机关在优化法...
05-11 17:27:30
5月11日,港交所宣布,为协助结算参与者参与香港证券市场港币-人民币双柜台模式的运作,香港结算将于2023年
05-11 16:57:20
PowerMill软件功能介绍-15:02PowerMill是一款专业的CAM(计算机辅助制造)软件,由英国Autodesk公司研发和
05-11 16:36:38
05月11日,川投能源股价继续上涨。截至今日收盘,川投能源上涨1 77%,收盘价为14 94元,盘中股价最高触及15
05-11 16:03:37
截至2023年5月11日收盘,长飞光纤(601869)报收于33 11元,下跌0 87%,换手率0 62%,成交量2 53万手,成交额8428 0万元。
05-11 15:26:11
1、预拱度,规范上叫模板“起拱”。2、见于GB50204-2002《混凝土结构工程施工质量验收规范》第4 2 5条 对于
05-11 14:57:13
中国日报5月11日电(记者赵磊)周三晚间,由中国航天科技集团有限公司所属中国运载火箭技术研究院抓总研制
05-11 14:11:39
为更好地维护公众金融利益,履行邮储银行公众教育社会责任,积极推动金融知识普及工作,近日,邮储银行简阳
05-11 13:44:31
5月11日消息,谷歌Pixle7a正式发布,售价499美元(约合人民币3500元)。核心配置上,谷歌Pixel7a采用6 1英
05-11 12:56:52
新海南客户端、南海网、南国都市报5月11日消息(记者王洪旭)5月11日,海南自贸港博鳌乐城进口特许药械政策
05-11 12:31:37
5月11日上午,截至目前连板池:学大教育7天4板,国新文化5天4板,引力传媒、中国高科4天3板,国光电器4天2
05-11 12:01:59
【ITBEAR科技资讯】5月11日消息,据悉,格力电器旗下的直播间“明珠羽童精选”更名为“格力明珠精选”,...
05-11 11:22:39
1、太阳系的行星都按自己的椭圆轨道绕太阳公转,行星之间的距离是时时在变化之中。2、当两行星处于各自椭圆
05-11 11:06:14
5月11日早间,达达集团(Nasdaq:DADA)公布了2023年一季度财务业绩。财报显示,达达集团Q1总营收为25 7
05-11 10:32:28
本报北京5月10日电(记者韩鑫)运用空气动力学设计,风阻更小、速度更快的公路自行车,采用碳纤维材质的车
05-11 10:06:26
原标题:河南一季度电子商务增速回升跨境电商持续增长中新网郑州5月10日电(杨大勇)记者10日从河南省统计局
05-11 09:49:44
关于鸡蛋有什么功效和作用的内容,包含核桃壳煮鸡蛋有什么功效与作用?毛鸡蛋有什么功效与作用鸡蛋有什么作
05-11 09:35:07
港媒曝洪欣给儿子改姓曾发文与张丹峰不再是夫妻关系
05-11 09:13:09
智通财经APP获悉,欧洲央行管委、法国央行行长维勒鲁瓦(FrancoisVilleroydeGalhau)表示,欧洲央行在加息以
05-11 08:12:45
相比持续好转的宏观数据,微观感受却并未出现明显改善。为何会出现微观宏观感受背离?如何能够减少“温...
05-11 07:43:02
当地时间5月10日晚,以色列国防军表示,随着巴勒斯坦武装组织当晚从加沙地带再度向以色列南部和中部发射火
05-11 06:46:46
卷尺种类及其优缺点人们依赖的许多工具通常被认为是理所当然的。卷尺是家居装修以及许多工作环境中最常用的
05-11 06:24:20
Palm2相比于2022年公布的Palm有着更好的语言能力,它接受了上百种语言文本训练,使得Palm2在理解、生成和翻
05-11 06:06:53
天舟六号货运飞船与火箭成功分离并进入预定轨道,飞船太阳能帆板顺利展开工作,发射取得圆满成功。后续,天
05-11 05:03:07
为什么同样是做运营,有的人朝九晚六月薪过万,有的人天天打杂工资还低?其实这种情况可能并不是人出现了什
05-11 02:05:59
金融界10月10日消息大秦铁路(行情601006,诊股)公告,2022年9月,公司核心经营资产大秦线完成货物运输量36
05-10 23:49:52
智通财经APP讯,绿地香港公布,2023年前4个月,该集团的合约销售约为人民币49 83亿元,同比增长13 64%;已售
05-10 22:21:27
TCL中环(002129):控股子公司中环晶体拟以1 4亿元收购TCL王牌惠州的全资子公司内蒙古TCL光电科技有限公司10
05-10 21:37:01
1、我来告诉你西宁曹复家堡机场到制西宁火车站怎么走:曹家堡机场坐机场大巴到市内终点站西宁城市候机楼,
05-10 21:02:41
井冈山市气象台2023年05月10日18时49分发布大雾黄色预警信号:预计未来12小时内,柏露乡、碧溪镇、茨坪镇、
05-10 20:02:45
5月10日下午,realme真我手机召开新品发布会,正式发布了越级影像旗舰——真我11系列。其中,真我11Pro+带
05-10 19:09:47
1、中国-中亚峰会将于5月18日-19日在西安举行。2、这场中国和中亚五国元首首次举办的线下峰会,将开启中国
05-10 19:01:07
5月10日,记者从四川省人民检察院获悉,四川省委第二巡视组原组长周宇(正厅级)涉嫌受贿罪一案,经四川省
05-10 18:13:15
点击下方卡片,关注“CVer”公众号AI CV重磅干货,第一时间送达今天Amusi看到这么一则新闻: 今年高校毕业
05-10 17:53:43
2019年、2020年、2021年、2022年、2023年第一季度,金刚光伏的净利润均为负。 文/NE-SALON新能荟小编团 5
05-10 17:10:00
在昨日A股冲高遇阻回落的冲击下,今日沪深两市大盘是一个继续低开的格局,开盘后空方力量继续占据上风,打
05-10 17:00:33
深圳自主创业补贴流程和深圳创业补贴什么时候发放呢?像深圳这样年轻而充满活力的城市,吸引了大批青年才俊
05-10 16:10:42
第十四届陆家嘴论坛(2023)将于2023年6月8日至9日在上海中心大厦举办。
05-10 16:08:13
富瑞发布研究报告称,维持长实集团(01113)“持有”评级,目标价51港元。公司公布提全购伦敦上市的房托...
05-10 15:27:18
1、我的家每个人都有一个家,而且每个人都会很爱他自己的家,因此,我也不例外。2、家,能给人一种温暖的感
05-10 15:10:48
《逆水寒手游》公测碎梦培养建议其实正因为脆所以自己会注意,且舞阳城不是第一天就开了,玩了10天了,再不
05-10 14:28:08
云南大山包黑颈鹤保护区仍有19只黑颈鹤。
05-10 13:50:38
自上个月底,荣耀正式发布了荣耀X50i新机,这款新机主打的就是轻薄时尚的外观,以及大内存、大存储,甚至标
05-10 13:13:00
今日早盘,A股延续昨日的调整继续走低,知识产权概念逆势走强,板块指数一度大涨近3%,创历史新高。拓尔思
05-10 12:23:36
3月底,非营利组织未来生命研究所发表一封公开信,呼吁暂停研发比GPT-4更强大的人工智能(AI)系统至少6个
2023-05-12
湖北日报讯5月9日,“相约英雄城聚力新动能”2023武汉招商引资暨“专精特新”企业恳谈会在广州召开,佳...
2023-05-12
【前4个月肉鸡均价处于近10年高位产业链各环节利润错配】截至5月11日,多家拥有养殖业务的上市公司发布了4
2023-05-12
央视网消息:随着数字经济的快速发展,数字贸易成为经济全球化的“稳定器”和“新引擎”。商务部国际贸...
2023-05-11
北京结婚登记内地居民需要什么材料?✔所需照片要求:结婚双方需要共同提交三张二寸(高3 5cm×宽5 3cm)近期
2023-05-11
3月底,非营利组织未来生命研究所发表一封公开信,呼吁暂停研发比GPT-4更强大的人工智能(AI)系统至少6个
湖北日报讯5月9日,“相约英雄城聚力新动能”2023武汉招商引资暨“专精特新”企业恳谈会在广州召开,佳...
【前4个月肉鸡均价处于近10年高位产业链各环节利润错配】截至5月11日,多家拥有养殖业务的上市公司发布了4
央视网消息:随着数字经济的快速发展,数字贸易成为经济全球化的“稳定器”和“新引擎”。商务部国际贸...
北京结婚登记内地居民需要什么材料?✔所需照片要求:结婚双方需要共同提交三张二寸(高3 5cm×宽5 3cm)近期
Copyright © 2015-2022 大众纤维网版权所有 备案号:豫ICP备20014643号-14 联系邮箱: 905 14 41 07@qq.com