自动化侦查决策的现状与挑战

1. 自动化侦查决策的实践态势

1.1 自动化侦查决策的实践样态

1.1.1 技术机理

• 自动化侦查决策有两种基本样态：基于人工编码的自动化决策和基于机器学习的自动化决策。
• 基于人工编码的决策是专家系统，其算法规则运用了人类专门知识、经验。
• 基于机器学习的决策是通过历史数据学习自动构建规则，包括无监督学习、监督学习和强化学习。

1.1.2 决策的时间特征

• 自动化侦查决策可以分为回溯性决策、监控性决策、预测性决策。
• 回溯性决策针对已发生犯罪事实，监控性决策是基于数据模型监控实时决策，预测性决策是对未发生犯罪事实的预测决策。

1.1.3 决策的影响程度

• 自动化侦查决策可以划分为战略决策与战术决策。
• 战略决策是对全局性问题的决策，战术性决策是针对具体问题的决策。

1.2 自动化侦查决策的特点

1.2.1 决策逻辑变化

• 传统人工决策是基于主观经验、因果关系的定性决策。
• 自动化决策是量化统计决策，基于过去数据的相关关系做出决断。

1.2.2 自动性和自主性

• 专家系统具有自动性但几乎无自主性。
• 机器学习具有强自主性，直接从事物原始特征出发自动学习和生成认知结果。

1.3 自动化侦查决策的发展趋势

1.3.1 自动化决策的生态化

• 自动化决策已嵌入侦查的方方面面，形成侦查运行的底层结构和隐形秩序。
• 侦查行为几乎无法摆脱无处不在的系统，形成了高度自主的精细化治理秩序。

1.3.2 以大数据、算法平台为核心的系统化

• 自动化决策与警务信息化发展共进，已初步形成以大数据平台为核心的自动化系统。

2. 自动化侦查决策的风险

2.1 事实错误的风险

• 数据质量瑕疵或错误、算法局限性、侦查人员盲从性、决策偏差系统放大机制都可能导致犯罪事实错误。
• 数据记录的脱域性、不均衡性、结构的混杂型、记录的缺省甚至错误数据都会影响数据准确性。
• 算法简化可能导致“以偏盖全”的错误，算法依赖历史数据难以应对创新犯罪。
• 侦查人员对自动化决策结果的盲从性，难以纠正事实错误。
• 决策偏差、放大可能成为错案的根源。

2.2 自动化侦查决策歧视与公平公正冲突

2.2.1 歧视的内涵和类型

• 自动化决策歧视是决策偏见引发消极后果的情况。
• 主要类型包括专家编码型歧视、学习型歧视、以偏概全型歧视。

2.2.2 歧视的特点

• 隐蔽性、聚集和放大效应、结构性锁定是自动化决策歧视的特点。
• 隐蔽性使得歧视难以识别，聚集和放大效应使得歧视在系统中不断循环、累积和放大。
• 结构性锁定使得个人难以挑战系统性的决策歧视。

2.2.3 对公平公正的影响

• 自动化决策歧视侵犯了公民平等权和社会公平正义，影响执法公正。
• 自动化决策歧视的聚集和放大可能演化为冤假错案的风险。

2.3 自动化侦查决策与人的主体性紧张

2.3.1 人的数据化和计算减损了人的尊严

• 自动化决策将个人作为数据进行计算，个人被算法操纵。
• 个人受到自动化决策结果的约束，困在决策系统里。
• 犯罪前的预测性决策和监控型决策中，否定了人的向善性，否定人的自由意志。

2.3.2 侦查人员自由裁量权被系统俘获

• 自动化侦查系统控制侦查人员的主体性。
• 侦查人员获取的线索或信息多是经过自动化系统过滤过的。
• 自动化决策的结果成为侦查人员的认知和行动依据，侦查人员的自由裁量权受到压制或剥夺。

2.4 瞬时决策和程序的过程性冲突

• 侦查程序的过程性具有规范侦查权力的行使和植入权利制约、第三方权力的制衡的意义。
• 自动化侦查决策是瞬时完成的，将侦查措施压缩其中，缺乏过程性。
• 缺乏过程的自动化侦查决策难以植入第三方权力如检察权对侦查权的监督制衡。

2.5 决策黑箱与适度公开的冲突

• 机器学习决策的黑箱使得决策过程不透明，难以穿透。
• 决策黑箱使得错误的数据、无效的假设和存在缺陷的算法模型以及由此产生的错误难以得到纠正。
• 决策黑箱影响到公民知情权，影响辩护权的实现。
• 决策黑箱遮蔽了因果关系，使得责任追究成为难题。
• 决策黑箱影响社会、第三方权力对侦查权的监督。

3. 自动化侦查决策的发展进路

3.1 建立数据质量和算法评估机制

3.1.1 构建数据质量机制

• 数据质量直接影响着自动化决策的准确性。
• 数据质量要注意数据的准确性和及时性。
• 需要构建数据质量保证机制，包括建立数据采集客观、及时机制和数据质量的核检机制和及时纠错机制。

3.1.2 构建算法评估机制

• 为了提升自动化决策的精准性和对个人权利影响限制在一定范围内，需要构建自动化决策的评估机制。
• 算法精准性评估是防范事实错误的关键措施。
• 个人权利影响的评估机制是打击犯罪与保护个人权利平衡的重要机制。

3.2 构建以人为本、人机协同的侦查决策机制

3.2.1 以人为本

• 侦查决策必须以人为本，确保人的主体性地位，确保自动化决策不过度侵犯人的权利。
• 在制度上确立侦查决策相对的人的主体性地位，保护决策相对人尤其是犯罪嫌疑人的尊严。
• 确立侦查人员在侦查决策中的主导地位，人控制机器，而不是机器控制人。

3.2.2 构建人机协同的侦查决策机制

• 构建人机协同的侦查决策机制，首先要划定自动化决策和人工决策的事项清单。
• 确定自动化决策的功能边界，自动化决策只能是辅助决策。
• 形成自动化决策与人工决策协同演进的决策机制。

3.3 构建与自动化决策相适应的权利体系

• 构建与自动化决策相适应的权利体系，既是人的主体性地位的体现，也是对抗自动化决策风险、保护个人权利的重要手段。
• 要在侦查程序导入个人自动化决策权利体系，将《个人信息保护法》中规定的权利导入到侦查程序中，构建个人信息权利体系。
• 进一步完善自动化侦查决策程序权利体系。