论坛实录FORUM RECORD

今天在这里，我想讲一个具体问题，就是“深度伪造技术对电子数据司法适用带来的新挑战”。

大家看这些图片，这些图片可以达到以假乱真的程度，这些图片刚出来的时候，大家根本不知道是假的。这就给我们提出了很大的挑战——眼见是否为实？如果说图片是否是PS合成的我们很好判断的话，对于深度合成技术生成的这些图片我们能不能识别出来？因为PS我们通过图层分析和颗粒度比对是能够很容易判断出来，但是这种深度合成技术是通过一些特殊的神经网络算法生成图片，本质上是一张新图片，很难判断出来。虽然说这是一个技术问题，但是它带给我们很多法律方面的思考。比如说现在人脸识别技术在很多场景下都在使用，我们的手机支付、门禁进出等都在使用人脸识别，深度伪造技术实际上很容易攻破目前这种人脸识别系统，给我们在人身同一性比对方面带来更大不确定性。如果我们在证据适用领域遇到这些问题，我们怎么来判断？深度合成技术的适用场景是非常广的，包括视频伪造、动作操纵、图像生成、声音克隆、文本伪造等很多方面，证据法学和自然科学的发展密切相关，深度伪造技术的使用就给我们带来了非常具体的法律问题。

首先，证据真实性的审查变得更加困难。刚刚前面两位专家都说到了MD5值的问题，现在我们作为完整性校验，通过哈希函数加密形成一个值，后面再比对这个值变化了没有。但是这里还有一个问题我们要思考，比如说我们从某个云服务器上提取了一个图片，形成了一个MD5值，到最后我们到法庭庭审质证的时候，一般是通过MD5值的比对来验证图片的完整性，但是有没有想到在最初形成这个MD5值之前的那一步是个什么情况？也许可能在进入云服务器的时候就是一个深度伪造出来的东西，那么这时再将提取时候的MD5值和最后庭审质证时候的MD5值进行比对，证据鉴真的意义到底大不大？这个数据前面究竟是什么算法，是什么逻辑生成的？我们从最高人民法院的司法解释中可以看到，电子数据审查的是原始存储介质，存储介质或许是原始的，但是存储的时候这个数据本身又是怎么生成的？如果不知道算法逻辑，不知道数据生成、存储方式，可能我们无法判断。而且我还在思考一个问题，就是我们的视听资料和电子数据是不是还需要现在这样并列分类？因为过去我们讲的视听资料主要是模拟信号的，但是现在录音带、录像带基本看不到了，现在看到的音频、视频等基本都是数字形态生成、存储的，那么在司法实践中，我们到底把视频、音频等具备视听特征的证据材料归为视听资料还是电子数据？深度合成技术应用之下，我们怎么审查判断这一类证据？是以电子数据的“原始存储介质标准”还是以视听资料的“原件、复制件”标准来进行判断？这些都是值得我们去思考的。

第二点就是鉴定意见的可靠性会动摇。大家都知道，鉴定意见在案件诉讼中具有非常重要的地位，甚至被高度依赖，尤其是随着案件复杂性的增大，这种趋势更为明显。但是，在技术对抗领域，我们很明显地感受到“道高一尺，魔高一丈”，面对新兴技术的出现，鉴定工作实际上有一个跟进过程，并不一定能够同步应对。目前，对于深度伪造技术的鉴定，鉴定工具和鉴定标准总体上还是在处于“在路上”的状态，所以，鉴定人做出的鉴定意见是否可靠需要谨慎判断。

第三点是辩方的证据对抗空间进一步压缩。控辩平衡是刑事诉讼的底层逻辑，我们看到，这些年我们在大数据侦查、智慧检务、智慧司法投入很大，成效也很好，但是辩护端却没发现什么实质进展，控辩失衡越来越严重。辩方的数字辩护、智能辩护我们目前到底做了多少推进性工作？我们到底有多少既深谙法律、又通晓技术逻辑的辩护律师？辩方有没有能力在新型证据上能够形成一种实质上的对抗？答案不难得出。尤其是深度伪造这类新兴、复杂技术的使用，辩方的证据对抗空间将一步被压缩。数字时代下，我们的证据质证程序是否需要进一步完善？我们的诉讼制度是否需要革新？需要深思。