每周，“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护上值得关注的动态。
本周，我们重点关注：全国已有433款大模型完成备案；超三千款违规AI产品被处置，AI造谣、低俗内容将作为接下来整治重点；AI智能体对话存在低俗擦边内容，筑梦岛APP被上海市网信办依法约谈。
海外方面，AI教父专访提出对AI安全的两种担忧；Django缔造者直指Agent三大致命威胁，MCP更不安全。
6月18日消息，在2025上海世界移动通信大会（MWC上海2025）开幕式上，国家互联网信息办公室副主任王京涛表示，截至目前，中国已经有433款大模型完成备案，上线提供服务。面向未来，中国要坚持发展与安全并重研究，加强发展战略、治理规则和技术标准的对接协调，推动人工智能朝着有益、安全、公平的方向健康、有序发展。要尊重各国网络主权，尊重各国的互联网发展道路和治理模式，共同构筑和平、开放、安全、合作、有序的网络空间。5G、人工智能等前沿科技对经济社会高质量发展的带动效应正在不断释放。全球移动通信系统协会（GSMA）发布的《中国移动经济发展2025》预测，到2030年，移动技术及数字化转型将为中国经济贡献2万亿美元，占GDP总量的8.3%。
6月20日，中央网信办公布“清朗·整治AI技术滥用”专项行动第一阶段重点整治成果。该阶段累计处置违规小程序、应用程序、智能体等AI产品3500余款，清理违法违规信息96万余条，处置账号3700余个。
自今年4月专项行动启动以来，中央网信办聚焦AI换脸拟声侵犯公众权益、AI内容标识缺失误导公众等AI技术滥用乱象，部署各地网信部门加大违规AI产品处置力度，切断违规产品营销引流渠道，督促重点网站平台健全技术安全保障措施，推动生成合成内容标识加速落地。在此次通报中，中央网信办列举了各地网信部门及重点网站平台采取的多项治理措施和成果。腾讯规范应用程序管理，提高准入门槛，优化巡查机制，驳回、处置违规小程序、应用程序等共计570余款。微博通过策略识别、用户举报等多渠道审核，累计处置违规内容4800余条，并公布典型案例。通义平台围绕数据生命周期建立安全管理体系，在数据采集、训练、使用等阶段加强训练语料管理。抖音建立“红蓝对抗”机制，模拟攻击案例，修复潜在安全漏洞，优化模型对虚假信息的识别能力。阿里、快手、稀宇等重点平台积极推进元数据隐式标识落地落实。小红书在模型后置训练阶段输入专业领域数据，提升模型对医疗、金融、未成年人等重点领域问题的理解能力。
下一步，中央网信办将聚焦AI造谣、低俗内容等7类突出问题，开展“清朗·整治AI技术滥用”专项行动第二阶段工作，构建技术监测体系，形成处置处罚规范，推动内容标识如期落地，形成长效工作机制，着力维护清朗网络生态，推动人工智能向善向好。
近期有媒体报道，筑梦岛APP 等AI聊天软件存在虚拟角色互动生成低俗内容等问题，经核实，该平台AI智能体内容生成环节存在低俗擦边等违规内容，危害未成年人身心健康。
6月19日上午，上海市网信办依法约谈筑梦岛APP运营企业主要负责人，要求平台立即整改，健全AI生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。
6月18日，国家网络安全通报中心发布消息称，经国家计算机病毒应急处理中心检测，64款移动应用存在违法违规收集使用个人信息情况。64款问题应用中包括多个知名茶饮、咖啡品牌的点单小程序，比如喜茶、奈雪、霸王茶姬、茶颜悦色、库迪、星巴克、茶百道、古茗、太平洋咖啡、挪瓦咖啡等，且这些小程序多数存在2-4个问题。
64款应用中，30款未向用户提供撤回同意收集个人信息的途径、方式，或者未提供便捷的撤回同意方式，问题最严重。其次是未采取相应的加密、去标识化等安全技术措施，29款应用存在这一问题。另外，25款应用的隐私政策未逐一列出App（包括委托的第三方或嵌入的第三方代码、插件）收集使用个人信息的目的、方式、范围等。14款应用的个人信息处理者向其他个人信息处理者提供其处理的个人信息的，未向个人告知接收方的名称或者姓名、联系方式、处理目的、处理方式和个人信息的种类，并取得个人的单独同意。通报提到，问题应用系经国家计算机病毒应急处理中心检测，检测时间为2025年5月23日至6月11日。
6月16日，图灵奖、诺贝PG电子通信尔奖获得者，被誉为AI教父的Geoffrey Hinton接受媒体专访，探讨了AI的发展、安全、应用。他表示虽然AI存在一定的风险，但在帮助人类提升科研、工作、生活水平质量等方面是非常高效，当然也会抢走一部分人的工作，从而创造一些全新的职位。他提到了，对AI安全的主要担忧，一种是人类滥用AI带来的风险，这是大多数风险，也是所有短期风险；另一种是AI变得超级智能并决定不再需要人类，这是真实的风险，关于这种生存威胁，完全不知道如何应对，也不知道它会是什么样子。
6月19日有媒体报道，知名独立程序员、社交会议目录 Lanyrd 联合创始人、Django Web 框架联合创建者Simon Willison在个人博客中，详细介绍了 Agent 的“致命三重威胁”：（1）访问你的私人数据；（2）暴露于不可信内容；（3）能够以可用于窃取数据的方式进行外部通信。他表示，当 Agent 同时具备上述 3 个特征时，攻击者就可以轻松地利用它们来窃取你的数据，控制 Agent 的行为。这是因为 Agent 会遵循它们所接收到的任何指令，无论这些指令来自哪里。另外，MCP 允许用户将不同的工具组合在一起，这可能导致安全风险；目前还没有完全可靠的防范措施来防止提示注入攻击；用户需要了解这些风险，并采取措施来保护他们的数据；用户应该避免将访问私人数据、暴露于不受信任的内容和外部通信能力结合在一起。
资本市场重要信息！吴清陆家嘴论坛开出“1+6”新政：未盈利企业上市利好来啦
