• 中国科学学与科技政策研究会
  • 中国科学院科技政策与管理科学研究所
  • 清华大学科学技术与社会研究中心
ISSN 1003-2053 CN 11-1805/G3

科学学研究 ›› 2023, Vol. 41 ›› Issue (9): 1545-1551.

• 科学学理论与方法 • 上一篇    下一篇

行动者网络理论视域下的算法黑箱与风险治理

张海柱   

  1. 东北大学文法学院
  • 收稿日期:2022-07-31 修回日期:2022-10-24 出版日期:2023-09-15 发布日期:2023-09-21
  • 通讯作者: 张海柱

  • Received:2022-07-31 Revised:2022-10-24 Online:2023-09-15 Published:2023-09-21

摘要: 人工智能算法不透明或无法解释导致的“算法黑箱”被视为引发算法偏见、歧视或操纵等社会风险的重要原因。既有研究在使用黑箱隐喻时,多将算法视为一种“实体性存在”(代码或模型),谋求通过代码公开或模型解释等方式打开黑箱。然而基于行动者网络理论考察发现,算法本质上是社会与技术性行动者关联互动形成的“关系性存在”。黑箱并非算法技术本身的属性,而是以算法为核心的社会科技系统或行动者网络的特征。为了揭示可能被黑箱隐匿的风险,需要打开黑箱以呈现算法行动者网络中的行动者及其关系。相应地,算法风险治理需要确立算法设计与应用的公共性原则,构建开放包容的算法行动者网络,并实现基于批判性反思的算法信任。