在数字浪潮的推动下,人工智能(AI)的发展为全世界带来前所未有的新变革。得益于近来大模型的进步和算法的突破,以AI换脸为代表的AI技术正在迅速成熟;而在娱乐性质的短视频二次创作的需求导向下,AI换脸技术形成了很高的热度,加上算法和模型本身的开源性质,使得AI换脸技术迭代极快,生成的效果也越来越逼真,具有创新性和实用性;这同时也导致了AI换脸技术在网络上泛滥,仅需简单搜索即可找到五花八门的AI换脸应用和工具软件,使用教程和示例等,其中不乏能够实现较好效果的深度合成模型,具有普及性和易用性。AI换脸技术正在越来越接近普罗大众,本文从鉴定人的角度浅谈一下AI换脸技术带来的的潜在风险和识别方法。
潜在风险01隐私泄露和身份盗窃- AI换脸技术可以被用于制作假视频或照片,这些伪造的内容可能包含个人隐私信息,如面部识别数据、声音片段等。一旦这些信息被滥用,可能会导致身份盗窃、财务欺诈或其他形式的网络犯罪。
02虚假信息传播- 伪造的视频或照片很容易误导公众,尤其是在社交媒体时代。当这些信息被用于散播政治谣言、制造假新闻或煽动公众情绪时,可能会对社会稳定造成负面影响。
03侵犯版权和肖像权- AI换脸技术可能被用于将某人的面部特征替换到另一个人的身体上,从而侵犯了他人的肖像权。此外,该技术也可能被用于制作盗版电影或电视节目,侵犯版权所有者的权益。
04网络欺凌和仇恨言论- 伪造的视频或照片可能被用于网络欺凌或仇恨言论的传播。当这些虚假内容针对特定群体或个人时,可能会加剧社会分裂和歧视。
05法律与道德挑战- AI换脸技术的发展对现行法律和道德准则提出了挑战。例如,伪造的视频证据在法庭上的可信度问题、社交媒体上虚假信息的监管责任等。这些问题需要法律界、科技界和公众共同面对和解决。
06技术误用和滥用- AI换脸技术可能被用于恶意目的,如制造色情内容、传播恐怖主义信息等。此外,该技术的滥用还可能导致公众对人工智能技术的信任度下降,影响人工智能技术的健康发展。
识别方法01关于图像方面可以观察人脸图像的光强分布和色调分布、透视比例、景深关系,还可以分析图像现场的视角是否有不合理之处,观察是否有被篡改、修饰的痕迹,观察人脸面部区域边缘的像素分布是否正常,观察人脸图像表情动作行为是否有不合理情况等。
02关于语音方面可以观察语音是否有连续性同一性,语义是否能够关联有逻辑,同时还可以观察背景音的连续性和来源等情况,以及语音与人物面部表情动作是否能够一一对应。
03关于身份特征方面可对检材人脸图像和样本人脸图像中的身份特征进行人像同一性鉴定, 对检材语音和样本语音的身份特征进行语音同一性鉴定。
04关于动作行为检验方面可对检材人脸图像的动作行为进行检验分析, 对检材人脸图像的头部运动行为和面部运动行为进行一致性和合理性检验 ,对检材人脸图像的面部组件运动行为进行一致性和合理性检验。适用时,还可对检材人脸图像的运动行为与检材语音进行关联性和一致性检验。
05关于文件信息方面可使用相关技术软件对该视频图像进行检测识别。
06信号统计分析可对图像本底噪声分布进行统计分析,适用时,还可对检材语音的本底噪声分布进行统计分析。
在可预见的将来,人工智能技术将渗透到社会生活的每一个角落。而AI换脸技术的发展,也对声像资料鉴定行业提出了越来越严峻的挑战。我机构将持续关注AI技术发展动态,提升技术水平,为社会各界提供优质的司法鉴定服务。