在今年世界人工智能大会上,由中国科学院上海分院主办,2019年世界人工智能大会ai科技沙龙于8月28日举办,近百位人工智能领域知名学者和科研机构专家、产业界、金融界人士分享了对人工智能的认识。
在本次活动中,牛津大学计算机科学系主任迈克尔·伍尔德里奇以《人工智能“能”与“不能”》为主题进行分享。他认为人工智能并不是万能的,并用生动的例子诠释自己的观点:“一个男人说:我现在要离开你。一个女人问:她是谁?寥寥数语,其中蕴含的丰富信息机器人是无法理解的。”他强调,“如何理解人类的世界是人工智能面临的下一个挑战。”
迈克尔·伍尔德里奇是欧洲第一人工智能权威,熟识人工智能的产、学、研整个链条。迈克尔·伍尔德里奇早在1997年创办了欧洲计算领域的卓越网络agentlink,当时堪称欧洲学术界的宠儿。2012年,他加入牛津大学,此前在利物浦大学做了12年的计算机科学教授,研究领域包括人工智能和多智能体系统(multi-agent systems)等。
2015年,他当选为国际人工智能联合会议(ijcai)主席。《人工智能研究杂志》副主编、《人工智能杂志》副主编。美国人工智能协会(aaai)、欧洲人工智能学会(eurai)、人工智能与行为模拟协会(aisb)、英国计算机协会(bcs)、欧洲科学院成员。
发表过三百多篇有关智能体和多智能体系统的学术论文,曾担任《自主代理与多代理系统》杂志联合主编、《人工智能研究杂志》副主编、《人工智能杂志》副主编,并担任《应用逻辑杂志》、《逻辑和计算杂志》、《应用人工智能》、《计算智能》等杂志的编辑委员会成员。
人工智能的成就目前仍很有限。现在的人工智能系统能够执行20年前计算机不可能完成的任务。比如,现在全世界每天都有数以百万计的人在使用文本自动翻译工具;无人驾驶汽车即将问世,未来10年将出现在马路上;计算机现在比人更善于识别人脸等。尽管这些成就令人印象深刻,但人们还是不知道应该如何使机器具有意识和自我感知。因此,在可预见的未来,人工智能接管世界仍将是科幻小说的情节。
人工智能也“偏心”
人工智能系统越来越多地被用于做出决策,这对人们产生了直接影响。例如,银行发现人工智能系统善于预测潜在客户是否会成为优质客户。他们可以通过使用大量的客户记录,来“培训”一个人工智能系统。一段时间后,这一系统将能够分析潜在客户的详细信息,从而预测其是否优质。对于银行来说,可以迅速而低廉地决定是否需要一个特定的客户。但对于客户自身而言,应该会感到担忧:如果银行的人工智能系统在某种程度上“偏心”怎么办?
这种情况,称为“算法偏见”。当前人工智能浪潮的一个特点是,系统无法像人那样,解释或合理化其所做的决定。所以,银行可能会使用人工智能系统来决定不与你做生意,但却不能给你解释原因。
这些问题不容忽视。一种解决办法是,建议对人工智能技术的使用进行监管。伍尔德里奇认为通过一般法律来管理人工智能的使用是不现实的,这似乎有点像试图通过立法来管理数学的使用。一个似乎正在被接受的办法是,如果软件做出了影响你的决定,那么你应该有权知道这个决定是如何做出的,使用了哪些和你有关的数据,标准是什么。使人工智能可解释化和透明化,是当今这一领域面临的最大挑战之一。
警惕人工智能的“偏心”
在某些情况下,人工智能决策可能直接事关生死,比如在战场上使用人工智能系统。尽管目前还没有证据表明这种“致命性自主武器”已经被使用,但确实已经具备了可能性。过去5年来,人工智能领域的科学家们积极行动,希望政府认识到这一问题的严重性并做出应对。最近英国政府在一份报告中明确表示,永远不给人工智能系统伤害人的权力。
人工智能只是一种技术,就像任何技术一样,可以用来造福人类,也可能带来危害。条件反射式的立法,对于把控人工智能不太可能奏效。我们需要以负责和道德的方式使用人工智能,国际社会需要直面并应对人工智能带来的挑战。