AI社会伦理

    ——“给人工智能一颗良芯”

欢迎访问

AI社会伦理

当前位置: 首页 > 研究成果 > AI社会伦理 > 正文

曹建峰:人工智能——机器歧视及应对之策

2017年01月01日 00:01  点击:[]

人工智能——机器歧视及应对之策

曹建峰 腾讯研究院法律研究中心研究员

 

算法、大数据以及人工智能等都在干涉和影响着人们的现实生活。算法将我们在网络世界中的各种足迹和活动、上网习惯、购物记录、GPS位置数据等统统转变为对我们的评分和各种预测。我们在网络中的存在日益受到算法左右,我们日益生活在一个打分社会。从信用评分到犯罪风险评分,我们日益生活在由各种打分构建的“算法牢狱”当中,但却忽视了其中的算法和机器歧视问题。随着自动化决策系统被广泛应用在教育、就业、信用、贷款、保险、广告、医疗、治安、刑事司法程序等诸多领域,算法和机器歧视问题变得日益突出。

人们希望利用算法和数学为人类社会各种事务和决策工作带来完全的客观性,然而,这不过是妄想。无论如何,算法和代码的设计都是编程人员的主观判断和选择。他们是否可以不偏不倚地将既定的规则和政策原封不动地编写进程序,这值得怀疑。规则的代码化所带来的不透明、不准确、不公平、无法审查等问题,是否可以将道德、伦理、法律等一股脑儿外包给技术,以及如何实现并保障自动化决策的公平性,都是需要认真思考、认真对待的问题。

一、人工智能迎来发展浪潮

过去被动执行命令的计算机正越来越具有自主性和创造性。阿尔法狗、虚拟现实、无人驾驶汽车、机器人作家等诸多新技术和新事物层出不穷。最优秀的算法不但可以通过图灵测试,而且其创作的诗歌已经可以迷惑人类的审美。面对人工智能创作的十四行诗,连诗歌知识丰富的人类判官也难以判断究竟出自人类诗人之手,还是人工智能诗人之手。人类与机器之间的分野逐渐变得模糊起来。

2010年以来,在大数据、机器学习以及超级计算机这三个相互加强的因素的推动下,人工智能迎来新一轮发展浪潮,开始突飞猛进,相关创业、投资和并购显著加强。不甘落后的政府开始出台国家人工智能战略。2016年10月,美国和英国双双出台国家人工智能战略。《美国国家人工智能研发战略计划》涵盖七大方面,包括长期投资AI研究,开发人类—AI协作的有效方式,认知并解决潜在的法律、道德、社会等影响,确保AI系统的可靠性和安全性,为AI开放、共享公共数据和环境,通过标准和基准测量、评估AI技术,更好理解AI的劳动力需求。[1]英国政府发布的《机器人学与人工智能》提出了机器人学与自主系统2020战略,希望成为这一领域的全球领导者,其雄心和野心可见一斑。以色列、印度、欧盟等诸多国家和地区也在纷纷跟进。

二、人工智能决策日益流行

虽然现在依然处在狭窄人工智能(Narrow AI)阶段,尚未迎来通用人工智能(General AI)阶段,但不妨碍人工智能介入并影响人类社会的各种决策工作。如今,在网络空间,算法可以决定人们看到什么新闻,收到什么广告,听到什么歌曲,人们的网络存在或者说数字存在(Digital Existence)日益受到算法左右。今日头条的成功某种程度上是算法是胜