自动化侦查决策的挑战与应对

1. 自动化侦查决策的现状与挑战

1.1 自动化侦查决策的实践样态

1.1.1 技术机理的多样性

• 基于人工编码的自动化决策，如指纹比对、DNA比对等，通过预先明确的算法规则进行决策。
• 基于机器学习的自动化决策，通过从历史数据中学习而自动构建规则，如无监督学习、监督学习和强化学习模式。
• 实践中，自动化侦查决策往往是两种决策形态的混合。

1.1.2 决策的时间特征

• 回溯性决策：对已发生的犯罪事实进行发现和识别。
• 监控性决策：基于数据模型进行实时监控决策。
• 预测性决策：对尚未发生的犯罪事实进行预测决策。

1.1.3 决策的影响程度

• 战略决策：对侦查活动中的全局性问题进行决策。
• 战术性决策：针对刑事案件中具体问题的决策。

1.2 自动化侦查决策的特点

1.2.1 决策逻辑的转变

• 从传统的人工决策到自动化决策，决策的逻辑发生了根本变化。
• 传统的人工决策是基于主观经验的、由果溯因的定性决策。
• 自动化决策是基于过去数据之间的相关关系来做出决断。

1.2.2 决策的自动性和自主性

• 专家系统具有自动性，但几乎没有自主性。
• 机器学习具有更强的自主性，由计算机直接从事物原始特征出发，自动学习和生成高级的认知结果。

1.3 自动化侦查决策的发展趋势

1.3.1 自动化决策的生态化

• 自动化决策已嵌入到侦查的方方面面，形成了侦查运行的基本生态。
• 侦查行为几乎无法摆脱无处不在的系统，形成了高度自主的精细化治理秩序。

1.3.2 系统化发展

• 随着大数据平台和算法技术的发展，自动化决策与警务信息化形成了共进的逻辑。
• 初步形成了以大数据平台为核心的数据自动收集、汇聚、精准分析研判决策到自动推送、及时反馈评价的自动化系统。

2. 自动化侦查决策的风险

2.1 事实错误的风险

2.1.1 数据质量的瑕疵或错误

• 数据记录的瑕疵或错误，如数据偏在性、脱域性、不均衡性等，可能导致决策中“偏见进，偏见出”。
• 数据记录的瑕疵或错误，可能导致无辜公民被错误羁押。

2.1.2 算法自身的局限

• 算法的简化可能导致“以偏盖全”的错误。
• 算法是相关关系的量化计算，偏离了传统的因果联系的确定性。
• 历史的数据及其算法难以应对“勇于”创新的犯罪。

2.1.3 侦查人员对自动化决策结果的盲从性

• 自动化系统内，侦查人员获取的信息是经过算法过滤和推荐，难以提出相反意见。
• 一旦自动化决策确定为嫌疑，就会证实嫌疑，侦查人员难以提出相反意见。

2.1.4 决策偏差的系统性放大

• 决策偏差、放大就可能成为错案的根源。

2.2 自动化侦查决策歧视与公平公正冲突

2.2.1 自动化侦查决策歧视的内涵和类型

• 专家编码型歧视：专家在编制预先标准和算法规则中，有意无意将歧视注入其中。
• 学习型歧视：机器学习对社会歧视的自主习得。
• 以偏概全型歧视：算法模型本身的僵化性所产生。

2.2.2 自动化侦查决策歧视的特点

• 隐蔽性：自动化决策歧视以其客观的外在现象掩盖了其歧视的性质。
• 聚集和放大效应：自动化决策歧视的聚集和放大，形成恶行循环和放大机制。
• 歧视的结构性锁定：一旦某一主体遭受一次算法歧视，就难以摆脱。

2.2.3 自动化侦查决策歧视对公平公正的影响

• 自动化决策歧视侵犯了公民平等权和社会公平正义。
• 自动化决策歧视会形成选择性执法、执法歧视，从而影响执法公正。

2.3 自动化侦查决策与人的主体性紧张

2.3.1 人的数据化和计算减损了人的尊严，消解了人的主体性

• 自动化侦查决策将鲜活的侦查相对人作为冰冷的数据，使人沦落为机器计算的代码和概率数目字。
• 个人受到自动化决策结果的约束，困在决策系统里，难以修正。

2.3.2 侦查人员被困在自动化决策系统中，自由裁量权被系统俘获

• 自动化侦查是以系统化的方式进行的，侦查人员获取的线索或信息多是经过自动化系统过滤过的。
• 侦查人员的自由裁量权受到压制或剥夺，难以独立提出自主性意见以挑战自动化决策。

2.4 瞬时决策和程序的过程性冲突

2.4.1 压缩的侦查程序

• 自动化侦查决策是瞬时完成的，对侦查程序进行了压缩，将预测、监视、线索发现、证据提取和嫌疑认定等进行封装和压缩为一个纯技术过程。
• 压缩的侦查程序使得侦查行为得不到有效规制，缺乏权力和权利的互动，侦查决策成为单向度的机器侦查权行使过程。

2.4.2 决策黑箱与适度公开的冲突

• 自动化侦查决策的黑箱，将影响生命和自由的决定被包含在一个难以穿透的“黑盒子”中。
• 决策黑箱影响到公民知情权，影响到控辩权等的实现。
• 决策黑箱遮蔽了因果关系，这使得责任追究成为难题。
• 决策黑箱影响社会、第三方权力对侦查权的监督。

3. 自动化侦查决策的发展进路

3.1 建立数据质量和算法评估机制

3.1.1 构建数据质量机制

• 建立数据采集客观、及时机制，保证数据的准确性和及时性。
• 建立数据质量的核检机制和及时纠错机制，防范瑕疵和错误，并形成纠正机制。

3.1.2 构建算法评估机制

• 建立自动化决策精准性的检验和测试的指标体系。
• 建立用前评估制度，通过评估的方可使用，并将评估结果记录在案。
• 建立定期采取检验和测试的机制。

3.2 构建以人为本、人机协同的侦查决策机制

3.2.1 以人为本

• 在制度上确立侦查决策相对的人的主体性地位。
• 确立侦查人员在侦查决策中的主导地位，人控制机器，而不是机器控制人。

3.2.2 构建人机协同的侦查决策机制

• 划定自动化决策和人工决策的事项清单。
• 确定自动化决策的功能边界。
• 形成自动化决策与人工决策协同演进的决策机制。

3.3 构建与自动化决策相适应的权利体系

• 在侦查程序导入个人自动化决策权利体系，构建个人信息权利体系。
• 进一步完善自动化侦查决策程序权利体系。