| 1,892 | 27 | 394 |
| 下载次数 | 被引频次 | 阅读次数 |
聚焦社会治理领域的算法应用伦理问题，以欧美社会治理中的智能算法应用为例，通过案例分析和归纳演绎相结合的方法，阐释智能算法嵌入社会治理面临的应用伦理风险，即算法“黑箱”与社会信任危机、算法歧视与社会不平等、隐私泄露与社会监视。基于此，从技术、伦理准则与法律、媒体三个层面提出欧美社会治理算法应用伦理的规制路径：一是优化算法技术，提升算法准确性和安全性；二是完善算法伦理准则和法律，构建智能算法善治体系；三是加强算法伦理的媒体监督，构建多元主体协商共治路径。本研究能够为我国人工智能伦理治理提供重要的启示与借鉴作用。
Abstract：[1]Eleni Kosta.Algorithmic state surveillance challenging the notion of agency in human rights[J].Regulation and Governance,2020(1).
[2]BD.Mittelstadt,P.Allo,M.Taddeo,et al.The ethics of algorithms:Mapping the debate,Big Data&Society[J].2016(2).
[3]BD.Mittelstadt.Principles alone cannot guarantee ethical AI[J].Nature Machine Intellihence,2019(1).
[4]R.Bellanova,MD.Goede.The algorithmic regulation of security An infrastructural perspective[J].Regulation and Governance,2020(1).
[5]Karen Yeung,Martin Lodge.Algorithmic Regulation[M].Oxford University Press,2019.
[6]Alex Griffiths.The Practical Challenges of Implementing Algorithmic Regulation for Public Services[C]//Karen Yeung,Martin Lodge.Algorithmic Regulation.Oxford:Oxford University Press,2019.
[7]Reuben Bins.Human Judgment in algorithmic loops:Individual justice and automated decision-making[J].Regulation and Governance,2020(1).
[8]J.Morley,L.Floridi,L.Kinsey,et al.From What to How An Initial Review of Publicly Available AI Ethics Tools,Methods and Research to Translate Principles into Practices[J].Science and Engineering Ethics,2020(4).
[9]王小芳，王磊.“技术利维坦”:人工智能嵌入社会治理的潜在风险与政府应对[J].电子政务，2019(5).
[10]何哲.人工智能时代的社会转型与行政伦理：机器能否管理人?[J].电子政务，2017(11).
[11]任蓉.算法嵌入政府治理的风险及其防控[J].电子政务，2021(7).
[12]本清松，彭小兵.人工智能应用嵌入政府治理：实践、机制与风险架构——以杭州城市大脑为例[J].甘肃行政学院学报，2020(3).
[13]何哲.人工智能技术的社会风险与治理[J].电子政务，2020(9).
[14]Lena Ulbricht,Karen Yeung.Algorithmic regulation:A maturing concept for investigating regulation of and through algorithms[J].Regulation and Governance,2021(8).
[15]Christopher Steiner.Automate This:How Algorithms Came to Rule Our World[M].Penguin Press,2010.
[16]温凤鸣，解学芳.短视频推荐算法的运行逻辑与伦理隐忧——基于行动者网络理论视角[J].西南民族大学学报(人文社会科学版),2022(2).
[17]Frank Pasquale.The Black Box Society:The Secret Algorithms That Control Money and Information[M].Harvard University Press,2015.
[18]Cathc,S.Wachter,BD.Mittelstadt,et al.Artificial intelligence and the“Good Society”:the US,EU,and UK approach[J].Science and engineering ethics,2018(2).
[19]黎常，金杨华.科技伦理视角下的人工智能研究[J].科研管理，2021(8).
[20]罗智敏.算法歧视的司法审查——意大利户户送有限责任公司算法歧视案评析[J].交大法学，2021(2).
[21]阎天.女性就业中的算法歧视：缘起、挑战与应对[J].妇女研究论丛，2021(5).
[22]江溯.自动化决策、刑事司法与算法规制——由卢米斯案引发的思考[J].东方法学，2020(3).
[23]CDEI.Review into bias in algorithmic decision-making[EB/OL].(2020-12-20)[2022-12-12].https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/957259/Review_into_bias_in_algorithmic_decision-making.pdf.
[24]Eubanks V.Automating Inequality:How High-Tech Tools Profile,Police,and Punish the Poor[M].New York:St.Martin’s Press,2018.
[25]马特.无隐私即无自由——现代情景下的个人隐私保护[J].法学杂志，2007(5).
[26]28.1万起数据泄露：GDPR生效后，欧洲已有这些处罚[EB/OL].(2021-01-22)[2022-12-22].https://www.sohu.com/a/446199200_161795.
[27]Lee Rainie,Barry Wellman.Networked:the new social operating system[M].MIT Press,2012.
[28]Ian Ayres.Super Crunchers:Why Thinking-by-Numbers Is the New Way to Be Smart[M].Random House Digital Inc,2007.
[29]Rawlins A.Math is racist:how data is driving inequality[EB/OL].(2016-09-06)[2022-11-20].https://money.cnn.com/2016/09/06/technology/weapons-of-math-destruction/.
[30]Tramer F,Atlidakis V,Geambasu R,et al.Fair test:Discovering Unwarranted Associations in Data-Driven Applications[C].Proceedings of the IEEE European Symposium on Security and Privacy,2017.
[31]E.Raff,J.Sylverster,S.Mills,et al.Fair Forests:Regularized Tree Induction to Minimize Model Bias[C].Proceedings of the 2018 AAAI/ACM conference on AI,ethics,and society,2018.
[32]徐阳.基于政务数据的隐私保护模型研究[D].南京信息工程大学，2014.
[33]李升.论人工智能伦理准则的细化与完善[D].浙江大学，2020.
[34]林爱珺，陈亦新.智媒传播中信息价值开发的伦理风险及综合治理[J].山东大学学报(哲学社会科学版),2020(6).
[35]李芳，刘鑫怡.欧盟人工智能立法最新动向[J].科技中国，2021(6).
[36]Ray Kurzweil.The Age of Spiritual Machines:When Computers Exceed Human Intelligence[M].Penguin Press,2000.
①粒度指的是数据仓库的数据单位中保存数据的细化或综合程度的级别，用来表示数据统计的精细程度，细化程度越高，粒度级越小，细化程度越低，粒度级越大。可参阅：[美]W.H因曼《数据仓库》,王志海，等，译，北京：机械工业出版社，2000年，第87-95页。
②信息来源于学者尤班克斯在《自动不平等》中提供的美国社会治理算法应用伦理失范案例以及研究者对算法技术原理的理解。可参阅：[美]弗吉尼亚·尤班克斯《自动不平等》,李明倩，译，北京：商务印书馆，2021年。
③资料来源于《自动不平等》一书。实验背景：为了更好地管理受虐待儿童，给予他们更精确的社会福利和保护措施，阿勒格尼县民政部建立了一个存储了10亿条电子记录的数据库，新西兰奥克兰理工大学的经济学家拉赫玛和南加州大学儿童数据网络主任艾米丽·普特南·霍恩斯坦等人通过挖掘数据存储库并建立儿童受虐风险评估算法(Allegheny Family Screening Tool,AFST)来预测阿勒格尼县可能面临受虐风险的儿童。算法预测模型使用了131个变量，包括儿童接受公共福利的时间长度、以往参与儿童福利系统的情况、母亲的年龄、孩子是否为单亲所生、孩子父母的精神健康和改造历史记录等。在试验阶段，发现AFST算法对儿童受虐风险的评估并不准确。可参阅：[美]弗吉尼亚·尤班克斯《自动不平等》,李明倩，译，北京：商务印书馆，2021年，第四章。
④白箱算法指代码具有可检查性和可理解性的算法或用来训练算法的可用数据集。观点可参阅：于剑2017年发表于《中兴通讯技术》的论文《深度学习的能与不能》。
⑤匿名化指的是将个人数据移除可识别个人身份的部分。
⑥十大核心伦理原则是研究者根据全球包括美国《阿西洛马人工智能原则》《人工智能通用准则》《谷歌AI人工智能》《微软人工智能十条原则》等28份、英国《人工智能伦理准则》《伦理规范：人工智能商用开发的五项核心原则》等12份、中国《新一代人工智能治理原则》《人工智能北京共识》《新一代人工智能伦理规范》等13份，以及欧盟、日本、新加坡、韩国、澳大利亚、德国、芬兰等24个国家和地区公布的共104份人工智能伦理准则规范文件进行语义网络分析得出的结论。
⑦“技术漂迁”概念是由美国技术哲学家兰登·温纳在《自主性技术》中提出的，意指技术创新潮流向高度不确定性的目的地移动，人们对技术的控制或引导的力量尚不成熟，使整个社会处于一个“非故意后果”的浩瀚海洋中随波逐流的状态。以上观点可参阅：[美]兰登.温纳《自主性技术》,杨海燕，译，北京：北京大学出版社，2014年，第二章。
基本信息:
中图分类号:B82-057;TP18
引用信息:
[1]温凤鸣,解学芳.欧美社会治理中算法应用的伦理风险与规制路径研究[J].西南民族大学学报(人文社会科学版),2023,44(09):130-139.
基金信息:
江西省社会科学基金项目“短视频智能传播的伦理风险及其治理研究(22XW06)”; 江西省高校人文社会科学研究项目“短视频智能传播中的用户隐私保护机制研究”(XW22205); 教育部人文社科规划基金项目“人工智能驱动网络文化产业创新的价值风险与治理研究”(20YJA860004)的阶段性成果
2023-09-10
2023-09-10