人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
3斤肉上桌只剩1斤多店家称是正常现象****** □ 本报记者 张守坤 “我们点了3斤肉,结果菜端上桌之后重量只有1斤多。从店员到厨师再到老板都说菜品缩水是正常现象。” 在天津工作的张文(化名)不久前和几位朋友一起来到一家铁锅炖吃饭。店内富有东北特色的装修和座无虚席的大厅让张文对菜品充满期待,但等到菜上了桌,张文感觉到不对。 张文告诉《法治日报》记者,他们点的3斤肉包括1斤鸡肉、2斤鹅肉,服务员把菜倒进锅里后,分量一眼看上去就不对,而且只能看到鸡头和鸡爪。“我们刚开始以为是饭店少上了鹅肉,便叫来服务员询问情况。服务员表示菜品已经上全了,还找来了厨师,厨师说这些肉都是他刚刚炒过的,鹅肉鸡肉都在不会有错。” 最后,饭店老板也来了,坚持说菜品没有任何问题:“我们的肉分量都是足的,只是生肉变成熟肉的过程中会缩水,1斤生肉制成菜品可能在6两左右,这都很正常,不信的话可以去后厨看。”但当张文真准备去看时,老板却又借故离开,摆摆手说“店里生意忙,不要再闹了”,还说多送他们一份花卷和贴饼。 “这样看来,3斤肉熟了后可能只剩一半,缩水多少全由老板说了算,根本不公平。”张文说,除了肉量少,肉的“内容”也让他们感到不满。“锅里鸡脖鸡头鸡屁股都有,还有全是白膘的带皮鹅肉,真正能吃的没多少。” 缺斤短两、菜品缩水、以次充好、掺杂水分……张文就餐时遇到的糟心情况并非个例。北京市民孙洋(化名)不久前来到一家蒸汽石锅鱼店就餐,在选鱼时,老板不仅将桶和里面的水一起称重,结账时本来3斤多的鱼,却按4斤计算收费。 近日,海南省三亚市综合行政执法局发布多批旅游市场整治典型案例,就有商家擅自偷换消费者提供用于海鲜加工的活鱼、在销售皮皮虾的过程中存在掺杂水分、缺斤短两等情况。 中国法学会消费者权益保护法研究会副秘书长陈音江向记者介绍,类似这种“缩水”的缺斤短两行为,是餐饮界不够诚信守法商家的借口。不只是肉,很多食材煮熟后都会严重缩水,餐饮机构作为专业一方,生熟关系应当提前进行说明,或者在菜单上标明,顾客要求对菜品进行查看,称量时也应配合,充分保障消费者的知情权和选择权。 陈音江举例说,假如消费者要了一份炒鸡,结果全是或者大部分是鸡头鸡脚这样的边角料,明显不符合一般人的消费习惯,属于以次充好,涉嫌侵犯消费者的知情权和公平交易权。 中国政法大学副教授、中国法学会商法学研究会理事兼副秘书长朱晓娟认为,就餐中的消费者权益保障问题是关系民生的重大问题,各方应共同打造和维护安全、合理、公平的就餐质量、环境与秩序。 朱晓娟建议,商家要树立长线思维,诚实守信,应该依照餐饮行业惯例对就餐食材的计量方式等进行明示告知。对于行业协会而言,应该针对餐饮消费中反映的普遍问题进行针对性行业指引,出台自律管理细则,引导餐饮行业建立并执行合理的行业惯例,要求餐饮企业对事关消费者合法权益的相关事项进行必要的解释与说明,做到让消费者明明白白消费,充分发挥行业协会的引领作用。 北京瀛和(三亚)律师事务所执行主任张华认为,监管部门除了关注餐饮经营企业的许可、卫生条件等硬件外,对于餐饮消费中损害消费者权益的问题应进行主动监管,采取抽查、约谈等方式进行事前事中的防范与规制,对于有关投诉,要及时回应与处置。 在江苏省法学会经济法研究会理事长、江苏大学法学院副教授杜乐其看来,有关部门应加大信息化管理力度,比如某餐厅出现欺诈行为,就要第一时间将此餐厅的信用记录发布在官方网站或者公众号。同时监管部门可以加强对投诉的途径和方法的宣传力度,提高消费者的维权意识和能力。 “还应规范餐厅菜单和发票的设计,实现信息对称。菜单、发票的设计要规范、全面,比如注明菜肴的名称、分量、价格以及原料的规格;在客人结账时提供规范的发票,发票上有菜肴名称、单位、单价以及总价,这样如果消费者遭遇欺诈,发票就会成为一个有力的证据。只有充分实现消费者与经营者的信息对称,才能最大限度地防止消费者被欺诈。”杜乐其说。 (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |