公安部：多措并举应对“AI换脸”“深度伪造”等新型技术犯罪

7月24日，国务院新闻办举行“开局起步‘十五五’”主题新闻发布会，公安部刑事侦查局局长姜国利就公安机关如何应对“AI换脸”“深度伪造”等新型技术犯罪挑战作出回应。

姜国利表示，近年来不法分子利用人工智能等新技术实施违法犯罪时有发生，涉及电信网络诈骗、侵犯个人隐私、破坏社会信任甚至威胁国家安全等多个领域，公安机关对此高度重视，采取了多方面的打击和整治措施。

姜国利介绍，当前利用人工智能实施的新型犯罪主要表现在三个方面：一是利用AI技术伪造身份，侵入政企信息系统，对他人信息和财产实施盗窃；二是伪装成熟人或权威人士，骗取受害者信任后实施诈骗；三是利用AI工具生成网络谣言，扰乱社会公共秩序。针对上述违法犯罪，公安机关全力打击，同时严厉打击提供技术支撑的犯罪团伙，努力从根源上铲除犯罪土壤。今年上半年，全国共侦办利用人工智能工具生成网络谣言案件170余起，依法查处190余人。

在智能预警方面，公安机关依托大数据分析，搭建风险研判模型，对高频陌生视频通话、静默录音来电、短时间多次调取人脸素材、境外发起的视频请求等新型诈骗手法进行综合研判，形成精准预警指令和线索，推送各地公安机关开展预警劝阻工作。同时，在国家反诈中心App上布建了人工智能内容鉴定功能，用户可上传可疑视频、语音、图片，一键检测是否存在人工智能生成痕迹，鉴别伪造信息。

在行业监管方面，公安部联合国家网信办、工业和信息化部、国家广电总局发布《人工智能生成合成内容标识办法》，规范内容标识，向公众提示AI合成内容。同时加强监督检查，针对AI大模型可能存在的安全风险开展重点监测，并及时通报运营主体消除隐患。今年上半年，共开展人工智能应用服务监督检查600余次，对相关服务提供者进行警告、责令整改、关停等行政执法30余次。

在建章立制方面，公安机关积极推进《网络犯罪防治法》等法律法规立法进程，完善人工智能风险治理法律规范体系；研究构建人工智能安全审查制度，防范AI服务被滥用于实施违法犯罪；同时研究制定人工智能代码生成、深度合成图像等领域的安全标准，不断推进和完善人工智能安全标准体系建设。

姜国利表示，公安机关将持续强化对新型技术犯罪的打击和防范能力，切实维护人民群众的合法权益和社会大局稳定。

（图片来自国新网）