算法也有公平正义
2018/8/2 11:14:54 点击率[70] 评论[0]
【法宝引证码】
    【学科类别】法律信息
    【出处】《深圳特区报》2018年7月31日
    【写作时间】2018年
    【中文关键字】算法;公平正义;价值观
    【全文】

      “起初,我们塑造了工具,最后工具又反过来塑造我们。”面对着时代的日新月异,人类有必要在应用算法技术的同时,加强技术的规范和监管。
     
      最近,我的导师香港大学法律学院的傅华伶教授在一篇文章中称“算法即宪法”。这样的论断并非危言耸听。在人类步入互联网、大数据和智能化时代后,一切对象,包括人类,在算法技术(algorithmic technology)的代码和程序中都只是可计算、可预测、可控制的客体。
     
      恰如布莱恩·阿瑟在《技术的本质》指出的那样,“我们无法抛弃技术而去谈时代,因为技术总比其它任何事物都更能代表一个时代的特征。我们活在技术的潮流之中,时代的更迭与技术的发展息息相关。”人类很早就应用了算法技术,并一直生活在算法的世界里,中国古代的勾股定理、古埃及的金字塔、古巴比伦的十六进制都是算法应用的典型。当下时代,算法技术更是发挥着极大的作用。它能够规划日常的出行线路、发现个体的喜爱偏好、处理复杂的金融交易、管理精密的生产流程、参与前沿的科学实验、战胜人类的象棋冠军……有人甚至断言,算法终将统治世界。在这个意义上,算法即宪法自然是有道理的。
     
      不过,良法是善治的前提。如果算法是“恶法”,那么建立在广泛用户数据基础上的算法输出恐怕就后果不堪设想了。目前,我们应用的算法,大部分都是机构开发和推广的,主动权并不取决于用户个体的力量。作为机构意志的模型,算法的实施初衷、数据运用、程序开发、代码嵌入、结果表征往往与机构掌控者的利益追求紧密相连。换言之,技术始终摆脱不了人的干预。正如互联网先驱凯文·凯利所言,“人们在把自然逻辑输入机器的同时,也将技术逻辑带到了生命之中,机器人、计算机程序等人工制造物也越来越具有生命属性”。
     
      前不久备受诟病的“大数据杀熟”,就是上述“生命属性”的例证。同一间酒店、同一趟航班,算法技术会根据使用者的消费习惯,甚至是手机档次,给出不同的价格。算法技术表现出的逐利特征,在商家的操纵下,被暴露得一览无余。更可怕的是,大数据杀熟背后隐藏的歧视本质,直接宣告了“算法正义”的破产。只是,算法歧视通常比以往的数字歧视更加隐秘,却又表现得似乎更加“正确”。于是,很多时候我们并没有注意到它的普遍存在。
     
      2015年芝加哥法院使用的犯罪风险评估算法COMPAS被证明对黑人犯罪嫌疑人造成了系统性歧视,白人更多被错误地评估为具有低犯罪风险,而黑人被错误地评估为具有高犯罪风险的几率比白人高出一倍。美国卡内基梅隆大学的一项研究显示,谷歌的广告系统存在性别歧视。在推送“年薪20万美元的以上职位”的高收入工作招聘信息时,男性用户组收到1852次推送,女性用户组仅仅收到318次。女性得到的推荐机会,仅为男性的六分之一。哈佛大学的研究也表明,“查询被逮捕记录”的广告会更加频繁地找上黑人。
     
      自动化决策是算法内在力量,它包括排序、分类、关联和过滤等环节。相应地,排序被滥用、分类不透明以及刻意去过滤,很容易引发算法过程中的歧视问题。只是由于算法技术的专业性、复杂性和不透明性,公众很难接近、发现影响排序的权重比例和影响因子,很容易忽视算法歧视的现象和影响,也很难去纠正算法不公引发的问题。
     
      传播学者麦克卢汉就曾经不无担心地预言,“起初,我们塑造了工具,最后工具又反过来塑造我们。”面对着时代的日新月异,人类有必要在应用算法技术的同时,加强技术的规范和监管。2014年以来,许多投身人工智能发展的国家开始呼吁建立算法技术的伦理准则和法律框架。比如,美国政府认为必须充分考虑算法技术中暗藏的对用户和社会造成影响的偏见,解决公司、机构和组织运用算法系统的透明度问题,进而避免歧视现象的发生。欧盟数据保护委员会也指出,要警惕大数据对穷人或者弱势群体的歧视,并提出应该慎重讨论是否可以让机器代替人类来做道德、法律等判断的问题,这其实就是公平正义能否算法化的问题。
     
      显然,讨论这样的宏大的命题,不是三言两语就能说清楚的。惟愿这些简短的文字,能够让我们意识到:算法并非那么完美,技术也应有正确的价值观。

    【作者简介】
    蔡斐,西南政法大学副教授。

    本网站文章仅代表作者个人观点,不代表本网站的观点与看法。
    转载请注明出自北大法律信息网
0
北大法律信息网
www.chinalawinfo.com
法律动态
网站简介
合作意向
网站地图
资源导航
版权声明
北大法宝
www.pkulaw.cn
法宝动态
法宝优势
经典客户
免费试用
产品服务
专业定制
购买指南
邮件订阅
法律会刊
北大英华
www.pkulaw.com
英华简介
主要业务
产品列表
英华网站
联系我们
用户反馈
返回顶部
二维码