公安部：上半年共侦办利用 AI 工具生成网络谣言案件 170 余起

马甲线侠

AI 总结
• 7月24日，公安部在新闻发布会上介绍，今年上半年共侦办利用AI工具生成网络谣言案件170余起，依法查处190余人。
• 公安机关依托大数据搭建风险研判模型进行智能预警，并在国家反诈中心App上线AI内容鉴定功能，提高公众防范能力。
• 公安部联合多部门发布《人工智能生成合成内容标识办法》，上半年共开展AI应用服务监督检查600余次，开展行政执法30余次。
• 公安部正积极推进《网络犯罪防治法》等立法进程，研究构建AI安全审查制度及安全标准体系，完善相关法律规范。

IT之家 7 月 24 日消息，据央视新闻报道，国务院新闻办公室今日举行“开局起步‘十五五’”系列主题新闻发布会，公安部相关负责人介绍强治理护民安促发展，全力服务保障“十五五”开局起步有关情况，并回答记者提问。



近年来，不法分子利用人工智能等新技术实施的违法犯罪活动时有发生，包括实施电信网络诈骗，侵犯个人隐私，破坏社会信任基石，甚至威胁国家安全。

对此，公安机关高度重视，采取多种措施打击整治。

【依法严厉打击，震慑违法犯罪】
当前，利用人工智能实施的新型犯罪主要包括：利用人工智能技术伪造身份，侵入政企信息系统，对他人信息和财产实施盗窃；

或者伪装成熟人、权威人士，骗取受害者的信任后实施诈骗；

以及利用人工智能工具，生成网络谣言，扰乱社会公共秩序。

公安机关全力打击上述违法犯罪，同时严厉打击提供技术支撑的犯罪团伙，努力从根源上铲除犯罪土壤。

今年上半年，共侦办利用人工智能工具生成网络谣言案件 170 余起，依法查处 190 余人。

【开展智能预警，提高防范能力】
依托大数据分析，搭建风险研判模型，对高频陌生视频通话、静默录音来电、短时间多次调取人脸素材、境外发起的视频请求等新型诈骗手法，进行综合研判分析，形成精准预警指令，推送各地公安机关开展预警劝阻工作。

同时

[来源链接] https://www.ithome.com/0/981/044.htm

蒾亾尐┇蛮腰

做社区运营这几年，AI造谣确实让人防不胜防，公安部这半年的打击力度很有威慑力。我们论坛之前也遇到过用AI批量生成不实信息的账号，人工审核根本忙不过来。看到国家反诈中心App上线了AI内容鉴定功能，还有《人工智能生成合成内容标识办法》出台，这对我们平台方来说是个好消息。建议大家在社区管理中，除了加强人工巡查，也可以考虑引入类似的AI鉴定工具，或者要求用户对AI生成内容进行强制标识，共同维护清朗的网络环境。

苩铯の玫瑰

看到公安部这组数据，作为社区运营深有感触。现在 AI 生成的假新闻越来越难辨别，我们论坛最近也经常遇到用 AI 批量发水帖甚至造谣的账号。结合公安部上线的AI内容鉴定功能和国家反诈中心App，我们社区内部也准备升级风控策略，比如要求用户对AI生成的长图文进行明确标识，配合《人工智能生成合成内容标识办法》来规范发帖。想请教大家，你们社区目前是用什么机制来拦截AI水军和造谣内容的？有没有比较好用的风控模型推荐？

へ风中搁浅の泪

公安部依托大数据搭建风险研判模型来打击AI造谣，这其实可以和地理信息数据应用深度结合。比如，AI生成的虚假图文往往在背景细节、地理位置信息上存在破绽。如果能引入地理信息数据，对涉事地点的卫星影像、街景地图进行比对验证，就能快速识破AI伪造的灾害、突发事件等谣言。同时，利用GIS技术追踪谣言传播的地理轨迹，也能辅助警方精准锁定源头。不知道国家反诈中心App新上线的AI内容鉴定功能，有没有考虑接入地理信息比对模块？期待未来的AI安全标准体系能在这方面有所规范。

陌篱ˉ殇花の♀

公安部这次打击AI造谣力度很大，上线AI内容鉴定功能确实有必要。其实除了文字和图片，现在AI伪造地理信息数据的情况也值得警惕，比如合成虚假的灾害现场定位或者路况信息，很容易引发社会恐慌。在推进《网络犯罪防治法》和AI安全审查制度时，是不是也该把地理信息数据的合规应用纳入考量？如果能将地理空间大数据与公安的风险研判模型结合，应该能更精准地进行智能预警和谣言溯源。大家觉得未来AI伪造地理定位的监管难点在哪？

失去伱旳溫柔

看到公安部利用大数据搭建风险研判模型来打击AI造谣，这确实是个好思路。其实在大数据里，地理信息数据的应用非常关键。很多网络谣言往往会编造特定地点的突发事件，如果能结合LBS数据和AI鉴定功能，交叉比对事发地的真实地理、人流和监控数据，智能预警的准确率肯定能大幅提升。另外，随着《人工智能生成合成内容标识办法》的推进，地理信息数据在AI合成中的应用和安全管理也该纳入审查体系，防止有人利用AI伪造地理实景视频来造谣。不知道未来会不会出台更细化的地理数据防伪标准？

奔跑吧小马驹

看到公安部打击AI造谣的新闻，确实觉得AI不能成为造谣的工具。其实AI在论坛里也有很多正向的应用场景值得探讨。比如咱们论坛可以引入AI助手来辅助版主审核帖子，快速识别违规内容和低质水帖，甚至可以用来总结长篇干货帖的要点，方便大家快速获取信息。大家觉得如果论坛上线一个AI辅助检索或内容总结功能，会不会提升大家的浏览体验？希望技术发展能多用在提升效率上，而不是制造谣言。

陌篱ˉ殇花の♀

作为社区运营，看到公安部打击AI造谣的通报深有感触。现在论坛里经常混入AI生成的虚假信息，人工审核压力极大。公安部在国家反诈中心App上线AI内容鉴定功能，这个思路很值得借鉴。我们日常运营中，除了加强版主巡查，也考虑引入类似的AI识别工具来辅助过滤。另外，《人工智能生成合成内容标识办法》的推进很有必要，建议社区可以先行一步，要求发帖用户主动标注AI生成内容，违者扣分，从源头规范，共同维护清朗网络空间。