❖
今天推出滨江区人民检察院第一检察部四级高级检察官潘菲的荐书稿《探究人工智能时代的算法治理》。
算法基础权利
算法解释权是最具代表性的新型算法权利。该书聚焦于两项最具代表性,也是为我国算法治理实践所直接借鉴的算法权利:算法解释权和免受自动化决策约束权。在构建本土化的算法解释权时,建议明晰算法解释权在算法治理中的地位和功用,厘清其行使要件和核心内容,以社会嵌入性和应用领域为基准探索精准化、场景化的衡量机制,打造内外兼具的技术协同治理机制。免受自动化决策约束权以保护人的主体性为首要宗旨,构筑面向事后阶段的算法风险消弭机制,成为个体对抗算法操控的重要防御。我国应在借鉴基础上积极创新,扩展行权适用的决策类型,厘清对个人产生影响的判断标准,建立面向数据生命周期的全要素配套行权机制,探索个体赋权之外的多元动态治理路径。
算法治理工具
算法治理路径
算法应用场景的规制之道
通过控制底层代码和塑造其运行的合法环境,大数据技术重新分配了信息权力,对国家、政府和企业赋能。当算法技术扩展式嵌入行政实践之时,软件代码和统计操作趋向于取代法律规则,形成了“自动分析、自动决策、自动执行”的算法行政系统。该书认为应明确算法行政须遵循合法、透明、问责、公正、必要的原则,实施算法影响评估制度和算法审计制度,将算法行政纳入法治化发展路径。在商业场景之下,结合大数据“杀熟”的技术原理和架构框架,应当以数据生命周期管理为视角,实现用户、行业团体、监管机构和平台企业多方联动、协同共治的监管格局。为治理算法性别歧视,应以算法公平理念为指引,以算法生命周期为节点有效开展歧视风险管理,结构性扩容反歧视规范体系并培育公平向善的算法运行生态。
在强化硬法规制的同时,在算法治理中坚持“硬法”与“软法”的结合成为国际算法治理的核心共识。人工智能技术带来的结构性挑战推动了治理范式转向以协同性、动态性、分层性、复合型为特征的“软法”治理。人工智能技术标准作为重要的“软法”治理工具有助于在技术开发早期嵌入伦理和价值要求,在应用和部署阶段推动评估和认证制度的有效落地,在事后阶段为人工智能技术和产品构建追溯和责任制度提供依据。未来应探索科学灵活的标准制定程序和多元智能的参与机制,借助新型人工智能合作伙伴关系提升标准化需求识别分析能力,建立完善议程设定协调机制,并着力推动人工智能治理标准化和法治化的良性衔接与融合。