China Behavioral Law Society Development Network

中国行为法学会事业发展网
  • 中国行为法学会第六届四次理事会在京召开
  • 沉痛悼念马宝善同志
  • 中国行为法学会医疗健康法治研究专业委员会战略合作研讨会在京召开
  • 学会动态 | 第二届“澜沧江—湄公河次区域”国际法治论坛在云南警官学院举行
  • [完整版|图文]《中国法治实施报告(2022)》隆重发布
  • 《企业商事刑事风险防范指引丛书》 启动交流会在京召开
  • 中国行为法学会侦查学专业委员会第十四届全国侦查学术研讨会暨第七届现代侦查技战法论坛在浙江绍兴召开
  • 《民营经济促进法(草案)》征求意见座谈会在长沙举行
  • 为人民抒怀、为时代放歌 《人民就是江山》——大型公益原创歌曲交响 音乐会在京举办

   时政要闻

郭雪慧 | 论人工智能证据的独立性

来源:中国法学 | 作者:管理员 | 发布时间 :2026-10-26 15:11:45 | 23 次浏览: | 🔊 点击朗读正文 ❚❚ ▶ | 分享到:

(二)人工智能证据的准入规则

证据准入是证据材料适用于司法证明的第一道门槛,其核心功能在于排除不具备证据能力的材料。对于人工智能证据准入资格问题,宜采用合法性、相关性、可靠性三重审查维度。合法性审查要聚焦证据收集、固定流程的法定性,这是所有证据审查时不可或缺的基础要件。相关性审查则指向证据与案件事实的实质关联性,这是证据发挥证明效用的前提。可靠性审查聚焦人工智能证据生成全流程的合规性和结果真实性,是人工智能证据具备合法性和可采性的关键。三者紧密衔接、互为支撑,共同构成人工智能证据准入资格的审查框架。

1.合法性审查

对人工智能证据的合法性审查主要围绕收集、固定、保管等程序的合法性展开,核心是确保收集流程符合法律规范的规定。在收集主体合法性层面,刑事诉讼公诉案件和检察公益诉讼中的证据收集主体分别为公安机关、检察机关等具有法定侦查或调查权力的机关,其他单位与个人未经法律授权不得擅自开展取证工作;民事诉讼、行政诉讼、法律规定的机关和有关组织提起的民事公益诉讼中,当事人可自行收集证据,但必须严守法律划定的边界。若人工智能证据涉及国家秘密、商业秘密、个人隐私,取证主体还须具备对应资质,并严格履行保密程序。证据收集程序合法性要求遵循先固定原始载体、后提取证据内容的原则;针对云端存储等无法固定原始载体的情形,应当采用在线提取、镜像备份等技术手段固定证据,同步制作详尽提取笔录,完整记载提取时间、提取地点、操作流程、提取人员、见证人等全部信息。严禁采用未经授权侵入信息系统、非法获取他人数据等违法手段取证,通过此类非法方式获取的人工智能证据应当依法予以排除。证据保管程序合法性要求建立专门化证据保管制度,明确保管主体、保管方式与保管期限,并配套加密、异地备份等技术防护措施,防范证据出现篡改、丢失、信息泄露等问题。

2.相关性审查

对人工智能证据相关性进行审查时,宜采用“实质关联+证明价值”双重标准。评估证据的证明价值,也就是评估证据对案件事实的证明作用大小。证明价值极其微弱的,即使存在实质性关联,也可以酌情不予采纳,这将有力提升诉讼效率。法官可以通过经验推论完成对事实的认定,最终作出中立的裁判。在人工智能证据相关性审查的过程中需要避免陷入技术崇拜的误区,不能仅凭其技术含量高就认定其与案件事实具备相关性,而要结合案件的具体情况进行综合判断。对大数据分析报告等复杂的人工智能证据,可以借助专家辅助人判断其与案件事实的关联程度。

3.可靠性审查

可靠性是指单一证据或证据来源本身值得采信的属性。可靠性审查是人工智能证据资格准入的核心之一,也是人工智能证据审查区别于传统证据审查的关键所在,需要从数据可靠性、算法可靠性和系统可靠性三个层面全方位构建可靠性审查体系。

首先,数据可靠性是人工智能证据可靠性的基石。与合法性审查往往聚焦收集、固定与保管等程序层面的合法性不同,数据可靠性审查针对的是作为人工智能证据生成基础的输入数据本身质量,其中包括数据来源的可靠性、真实性、准确性、完整性与代表性等,程序合法只是数据来源可靠的一项基础要求。就数据来源而言,输入的数据必须合法,必须通过合法途径收集,不存在非法获取的情形。比如,医疗人工智能系统的数据需要来源于经过患者授权的合法医疗数据,而非通过非法途径获取的隐私数据。同时,数据的真实性和准确性也至关重要,要考虑到数据存在出错的可能性。对此,需要审查输入数据是否存在篡改、伪造、错误等问题。第三方数据平台提供的数据,应当来源于资质与信誉良好的平台,必要时要求提供方出具真实性证明文件。在数据完整性和代表性方面,要确认输入的数据是否完整覆盖相关领域的信息,是否存在缺失或者片面性问题。

其次,算法可靠性是人工智能证据可靠性的核心。算法是人工智能系统生成结果的逻辑基石。人工智能系统录入数据与最终输出结果之间,存在难以被人类完整认知的隐藏层级,这也是学界所指的算法黑箱。算法黑箱的核心问题在于信息不对称和不公开,算法黑箱特性增加了人工智能证据审查的难度。对此,需要采用“形式审查+实质核验”的双重方式。其中,形式审查要求证据提供者提交算法的设计原理、逻辑框架和参数设置等说明性文件,审查是否存在明显的逻辑缺陷或者偏见。在对人工智能证据进行实质核验时,可以采用“第三方测试+交叉测试”的模式,由具备法定资质的第三方技术机构测试算法正确性和稳定性,同时,将系统输出结果与其他证据进行交叉验证。对涉及商业秘密的算法,可以采用“有限披露+保密审查”的方式,由法官在保密环境下审查,或者委托第三方机构进行保密性测试,这样既保障了算法的保密性,又确保了审查的有效性。

最后,系统可靠性是人工智能证据可靠性的保障。人工智能系统的硬件设备、软件环境和运行状态都会影响最终生成结果的可靠性。对系统可靠性进行审查,需要重点关注硬件配置是否达标、有无故障、性能是否正常等问题,同时要关注软件环境是否安全稳定,是否存在恶意病毒等安全隐患,审查系统是否经过相关质量认证与检测,是否符合行业或者国家安全标准,等等。

4.附条件准入的特殊情形

在一些特殊情形下,人工智能证据材料虽然无法完全满足上述准入标准,但满足特定条件时,也可以允许其作为适格证据进入诉讼程序。这一规定不仅能充分发挥人工智能证据的证明作用,也能防范潜在风险。在紧急情况下收集的证据,比如在重大刑事案件中为了及时侦破案件而紧急提取的人工智能证据,尽管没有完全遵守法定的收集程序,但并未严重侵犯公民合法权益,这种情形下的人工智能证据可以作为证据使用。附条件准入的人工智能证据,需要明确准入条件以及后续审查要求,通过补充程序弥补现存的缺陷。

机器本身并不涉及主观诚实与否的问题,不过其运行所依托的算法程序却可能潜藏各类瑕疵,包括算法偏差、算法歧视和算法不透明带来的黑箱难题。对于瑕疵人工智能证据材料的后续审查,要求证据提供者在规定的时限内补充提交第三方测试报告和算法说明等可靠性材料。无法证明补充材料具有可靠性,或者通过验证发现其存在严重缺陷时,该证据材料应当予以排除。此外,附条件准入的人工智能证据在庭审中需要接受严格的质证和审查。

(三)人工智能证据的审查规则

证据是串联过往事实与当下案件事实的核心纽带,在诉讼中,纳入审查认定的有效证据越充分,办案人员精准认定事实的可靠程度就越高。根据人工智能证据的独特性,人工智能证据审查规则的构建主要可以从以下方面展开:

1.建立分类审查规则

根据人工智能证据的外在表现,可以将人工智能证据分为智能分析报告类证据、智能识别结果类证据、智能预测和溯源类证据、智能数据合成类证据四类。这种划分方式便于法官和侦查人员快速对不同人工智能证据载体进行区分。但是,仅仅依靠外在形式分类不足以支撑司法机关从规则维度审查人工智能证据的真实性和可靠性。基于此,可以根据人工智能证据在生成阶段的人为介入程度,进一步将上述四类人工智能证据分别归入自主生成型、辅助生成型和技术处理型三大类别,构建一套能够适应算法潜在风险并区分审查强度的分类审查机制,化解审查对象多层复合性带来的难题。

自主生成型人工智能证据的生成无需工作人员持续介入,由人工智能系统自主运算所产生的资金往来分析证据、涉案人员行踪追溯证据,以及全程依靠人工智能系统独立运算得出的人脸比对证据等,都属于这一类。辅助生成型人工智能证据是由办案人员完成对案件信息的筛选与整理,并设置对应的运行参数,再交由人工智能系统处理所生成的。图像合成、多维度数据重组后所形成的证据,大多属于这类证据。技术处理型人工智能证据是借助人工智能工具完成声纹匹配、破损图像修复等技术操作所获得的证据。对于自主生成型人工智能证据的审查,核心在于生成全过程无人类干预,应采用严格的可靠性审查规范。对于辅助生成型人工智能证据的审查,审查重点应聚焦人类干预的合法性、合理性,同时兼顾人工智能系统的可靠性,必要时需要干预主体出庭说明干预过程与理由。针对涉及重大利益的案件,法院可主动委托第三方机构对人类干预的合理性与系统可靠性进行验证。对技术处理型人工智能证据的审查,其可靠性主要取决于原始证据的合法性、真实性以及技术的可靠性,需要采用原始证据与处理技术相结合的审查模式。

   通知公告

  • 暂无相关记录!
【编辑:杨昊一】