人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
东西问丨旅比科学家宋志伟：为何越是在当下，越要加强国际科技交流合作？****** 中新社布鲁塞尔1月31日电 题：旅比科学家宋志伟：为何越是在当下，越要加强国际科技交流合作？ 中新社记者 德永健  以国际科技交流合作“推手”形容宋志伟并不为过。作为计算机专家，宋志伟旅居比利时已有37载，现任IBM(美国国际商用机器公司)合伙人，统领IBM在荷兰、比利时、卢森堡三国的软件测试业务，是这家跨国巨头在欧洲地区为数不多的华人总监。 繁忙工作之余，宋志伟致力于推动国际科技交流合作。2022年11月，在宋志伟的组织下，2022世界青年科学家峰会在比利时首都布鲁塞尔举办欧洲专场活动，来自17个国家的150余名专家学者、青年科学家代表等齐聚一堂，分享在生命健康、数字经济、新能源等领域的前沿进展，激励青年科学家创新创业。 自2019年由中国科学技术协会和浙江省人民政府发起，这是世界青年科学家峰会首度“登陆”欧洲。宋志伟坦言，此次欧洲专场活动无论是会议规模还是嘉宾规格都超出预期，活动发出的《联合行动倡议》亦得到积极响应，会场涌动的“热情”让他感到“越是在当下，越要加强国际科技交流合作”。 近日，中新社“东西问”专访宋志伟，探讨相关话题。 现将访谈实录摘要如下： 中新社记者：世界青年科学家峰会欧洲专场活动不仅成功举办，而且超出预期，背后的原因是什么？ 宋志伟：这说明人们都关心国际科技交流合作，认为这是好事。比如这次活动共得到22家欧洲本地科研院所的支持，包括欧洲研究和创新中心、欧盟科研人员服务中心等顶尖院所，参与院所的数量比预想多。 在专题报告环节，包括3名院士在内的15位专家学者担任演讲嘉宾。这3名院士都是各自领域的“学术带头人”，会后的反馈非常好。 为了鼓励对话、行动和改革，活动发出《联合行动倡议》并得到积极响应，一些代表提议来年可以把会场放到他们的国家，还有代表希望加大参与力度，这表明大家对活动是认可的。  2019世界青年科学家峰会在浙江温州举办。王刚 摄中新社记者：您多年致力于推动国际科技交流合作，为什么这次把目光转向青年科学家？ 宋志伟：从科学的角度来说，青年科学家可能更着眼于基础科学，着眼于青年之间的合作，表面上看不太会涉及类似5G、量子计算这些具有战略意义的课题，但他们更开放，更有活力，代表着“科学的未来”。 另一方面，科学界发生了很大变化。在我们那个年代，科学技术不像现在这么发达，科学家的成长大多“按部就班”，如今世界上任何一个角落，任何一位年轻人都有可能做出大事，只要有好的想法，能把自己的东西付诸实践，就可以走进市场。 所以，这次欧洲专场活动希望搭建一个平台，帮助青年科学家获得更多人力、财力等资源创新创业；这些创新不一定局限于基础科学领域，如果在应用科学领域实现创新，不仅可以造福于现实生活，也会推动现代科学发展。  《2020世界青年科学家峰会宣言》在浙江温州发布。钱晨菲 摄中新社记者：为什么越是在当下，越要加强国际科技交流合作？ 宋志伟：我想援引人类命运共同体理念，不论有什么分歧，谁也不能把谁“逐出地球”。对青年科学家而言，这些年轻人在会场上相识，总有一天这些国际交流的经历会融入成长历程，让他们看待世界的胸怀变得更加宽广，从而把人类命运共同体理念向前推进。 反之，如果想“画地为牢”，人为割裂，当今世界的科技革命和产业变革也不允许。以我供职的IBM为例，过去是按市场需求划分组织架构，比如分成金融、通信、政府采购、工业制造等部门，但现在无论是金融还是通信，都要用到“云技术”，互相关联，由统一的“云平台”主导。 从这个意义上说，必须促进国际科技交流合作。现在科技创新可能来自世界各个角落，如果交流渠道多，覆盖范围广，竞争力会变得更强；只想把自己限定在某一领域或特定地理空间，已经不可能了。  工作人员在湖南省资兴市东江湖大数据中心机房进行设备运行巡查。李科 摄中新社记者：如何克服国际科技交流合作中的困难和阻力？ 宋志伟：国际环境带来的阻力一直都有，只不过当下显得比较突出。我曾告诉团队，重要的是“找准定位”，如果出发点是想让“地球村”变得更好，为人类命运共同体的福祉服务，就会很有底气，这样的国际交流合作永远都不会错。 与海外人才交往，需要以诚相待。在征集海外人才创新创业项目时，作为专业人士，我会跟踪项目在中国落地情况，不会中途撒手不管，也不会刻意隐藏什么东西，只有遵照专业、透明原则，才能彼此建立互信。 另外，要有开放心态。在国际科技交流合作中，很多时候即使不是学术交流，哪怕是朋友间的交流，对科研创新都有帮助，所以一定要“往外走”，跳出“舒适区”，不同观点和不同文化背景互相接触可能发生碰撞，但也会让科学家受益匪浅。(完) 受访者简介：  宋志伟，旅比计算机专家；1986年赴比利时留学，1997年加盟IBM(美国国际商用机器公司)，现任IBM合伙人；2016年出任中国科学技术协会欧洲海智创新创业基地主任；去年11月，组织举办2022世界青年科学家峰会欧洲专场活动。
|
