摘要：2017年10月,《纽约客》杂志的封面图再次引发对人工智能(AI)的热议。虽然图片描述的情景想象起来有些可怕——人类坐地乞讨,而机器人则扮演了施予者的角色,但不得不承认,和其他任何一种技术革新一样,AI在创造价值的同时也带来了风险。随着人工智能决策日益盛行,算法歧视就是常见风险之一。比如,图像识别软件就犯下过种族主义错误。2015年7月,谷歌公司的图片软件曾错将黑人的照片标记为'大猩猩';2016年3月,微软公司的人工智能聊天机器人Tay上线后被'教'成了一个集反犹太人、性别歧视、种族歧视等于一身的'不良少女'。有些歧视或许还无关紧要,但在涉及信用评估、犯罪风险评估、雇佣评估等重大事项时,人工智能所做出的决策将影响甚至决定贷款额度、刑法选择、雇佣与否,这时歧视就会带来严重影响。因此,在大量的资金和精力都被投入到研究加速人工智能的发展中时,这也意味着,我们应该且必须花费更多精力思考人工智能的应用给社会、经济和道德带来的影响,并采取行动弥补可能造成的负能量。本文作者DUNSTAN ALLISON-HOPE从商业与人权的角度分享了人工智能应用所带来的人权挑战及应对建议,以此启发投资和应用AI的工商界思索可能的商业风险。

单位：