实验室建设

发布“AI伪造人脸鉴别平台”

电信研究院   2020-04-23

 

中国泰尔实验室下泰尔终端实验室在电信终端产业协会(TAF)下的智能终端安全生态工作委员会产业大会中发布了“AI伪造人脸鉴别平台,该平台基于单帧和多帧的方法,利用人脸生物特征及抖动精度等特性,结合多轮训练模型及测试集技术,能够识别图像、视频文件的异常,进而辨别其真伪。

 

随着人工智能技术的发展,影视制作以及医学成像等领域所面临的复杂问题得以有效解决,通过深度学习技术即可制作合成逼真的图像和音视频。然而这些技术在给我们日常工作和生活带来便利的同时,也存在被不法分子利用的风险,如去年出现的几款一夜爆火的移动APP,借助Deepfake技术,只需上传一张照片就能秒变戏精,与偶像同台飙戏,在某些国家的选举活动中,就出现了足以以假乱真的伪造视频。这些高质量的伪造音视频让人不再相信眼见为实,对个人的声誉和生活带来了极大的威胁,甚至对国家安全造成损害。因此,在数字领域中寻求真相变得越来越重要。



图:测试内容和曲线

 

 泰尔终端实验室长期致力于人工智能技术领域的探索和研究,在人工智能产品的通用测试以及安全测试方面积累了丰富经验。为防止和应对日益增多的类似Deepfake等技术带来的安全风险,实验室的技术专家经过潜心研究打造出“AI伪造人脸鉴别平台,该平台在发布前经过技术人员多轮测试验证,平台对图像和视频真伪鉴别准确率达到了98.9%,可实际用于对伪造图片和视频的真伪测试及鉴别,为广大互联网内容运营商及消费者提供真假鉴别服务,同时亦可协助政府与行业监管机构开展AI换脸技术取证与鉴定。

 

随着AI技术及测试方法的不断发展,实验室将会继续提升基于深度学习检测模型的健壮性、可扩展性和可推广性,努力实现将平台检测方法集成到诸如支持社交媒体之类的各种类型终端中,通过为产业提供本地化鉴别应用,提高其在处理深层伪造过程中的有效性,从而控制深层伪造所带来的不良影响。同时,我实验室会积极配合国家及各级政府,为防治深度伪造技术的恶意滥用提供有力技术保障。



如果您或您的企业想了解更加详细的相关资讯,可直接联系我们。

联系邮箱 guowei1@caict.ac.cn