GIUBO首页
广告招租
关于人工智能 除了“伦理”和“责任”你还担心什么?
机器人网 2019-05-30 09:24:22 点击:
第三轮人工智能的热潮汹涌澎湃。最近,浙江大学原校长潘云鹤院士提出了人工智能2.0的概念,认为基于一系列全新前沿技术的新一代人工智能已经初露端倪,将在不远的未来深刻改变我们的生活。
 
  1978年,当潘云鹤从湖北襄樊回到家乡杭州,迈入浙大学校门,他的身份是浙大计算机系系主任何志均教授的5位硕士研究生之一,他当时报考的方向就是人工智能。
 
  40多年过去,人工智能作为一个专业方向,在中国高校经历了消失又重现的过程。今年,浙大新增人工智能本科专业,并依托人工智能省部共建协同创新中心招收人工智能方向工程博士。这些学生将和老校长潘云鹤,在同一个方向上探索钻研。
 
  教育部已经提出,到2020年,建立50家人工智能学院、研究院或交叉研究中心,培养一大批人工智能人才。
 

 
  然则,人工智能人才究竟如何培养?除了学习相关科技之外,随着人工智能与社会生活密集交织,一些至关重要的人文性的思考,似乎也需纳入人工智能教育范畴之中。
 
  前两天,浙大举办了一场学术对谈,来自计算机学院、马克思主义学院和法学院的专家交流了关于人工智能和伦理学、法学关系的认识。大家的一个共识是,在如火如荼开展的人工智能人才交叉培养中,一定不能少了“伦理”和“责任”的内容。
 
 
  这一轮人工智能发展出的巨大威力,集中表现在AlphaGo及其后继者和人类对弈时不断取得的胜利。浙大计算机学院吴飞教授回顾了DeepMind公司取得的这一伟大成果,它让世界看到人工智能在当前先进技术的支持下所能达到的高度。
 
  下围棋也好、玩电子游戏也好,这些毕竟不是有很大伦理风险的事情。但是,一旦人工智能开始代替我们开车、做手术,甚至在法庭上代替我们做出裁判,这时相应的伦理规制就变得举足轻重了。
 
 
  “无人驾驶汽车,在遇到伦理学上经典的电车难题时,它会做出怎样的选择?是冲向一个人,还是冲向五个人?它做出选择,是基于人类的灌输,还是其自我的智能?”张彦问道。
 
  我们让医疗机器人代替我们做出诊断,代替我们拿起手术刀,但如果由此发生医疗事故,我们究竟该归因于开发产品的企业、产品拥有者还是人工智能产品本身?
 
  无人超市似乎开启了全新的零售体验,但自然灾害发生时AI贩售员竟自动提高了紧缺的矿泉水的售价,这又是谁之过呢?
 
  媒体调查显示,近半数网友遭遇过企业“大数据杀熟”,这样一个社会权力结构严重不对称的未来,真的是可欲的吗?
 
  更关键的问题,归结于技术和人的关系。传统地看,谈论伦理的主体是“人”。在浙大马克思主义学院张彦教授看来,随着人工智能的不断发展,我们对于人的理解越来越物化和去意义化,人和机器的边界越来越模糊。我们该如何对待机器和自身的关系?人和机器应该整合吗?如果人对快乐和痛苦的感受可以通过其他物理和化学手段来满足,那么,人还有参与社会互动的需要和动力吗?
 
 
  技术越复杂,稳定性就越差;人工智能就是一项极其复杂的从而目前仍非常缺乏稳定性的技术。张彦认为,人类当前对人工智能的了解很大程度上仅限于其功能性,对于人工智能技术运用所制定伦理规范仍然是很抽象的,在现实生活中稍加运用就会出现诸多难点。
 
  比如,合同这样一个典型的博弈过程,过去只会发生在人与人之间,需要甲乙双方自己寻找信息,做出决策。而人工智能可以寻找有目标导向的大量信息,精准决策,如果我们和人工智能交易,极大的可能是像李世石、柯洁面对AlphaGo那样全面落于下风。“规范人工智能这一强大的对手,是否需要加强对方的告知义务与确定告知界限?”浙大法学院周江洪教授说。
 
  还有比这更引人深思的问题——人工智能现在已经能够帮助法官判案了,判决书写得比人类法官还要完美。浙大的科研团队通过向人工智能“喂食”案例,逐渐教会了机器听讼断案。你会接受一个机器人为你做出裁决吗?“AlphaGo告诉我们,学习的数据越多,机器就越智能。但到了法庭上,却不是数据越多越正义。过于精确的数据,很多时候加大了人工智能做出合乎正义的判决的难度。”周江洪说。
 

 
  人工智能的发展和应用是全球性的,如何协调人工智能技术与伦理规则的发展步调,也需形成全球性的共识。张彦表示,一个有代表性的趋势是,人们不再像过去那样坚持技术的绝对中立立场,而更倾向于在具体情境中对伦理问题做出判断。

标签: 伦理 人工智能 责任 来源:机器人网