上海市委网信办今日发布公告，标志着其“清朗·整治 AI 应用乱象”专项行动第一阶段工作圆满收官。
该专项行动自 2026 年 4 月下旬启动，旨在应对未履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI 数据投毒、生成合成内容标识不到位、滥用 AI 技术从事违法违规活动以及开源模型安全管理不到位等七大突出问题，从而加强技术源头的治理。
为推进此项工作，上海市委网信办于 5 月 13 日召集了重点平台推进会议，向包括 AI 平台、互联网内容平台、电商平台、应用商店及开源社区在内的五类共计 17 家重点网站平台提出了具体要求，并指导其完善安全及举报机制。随后，在 5 月 15 日，稀宇、千问、小红书、哔哩哔哩、拼多多等重点平台相继发布了专项治理公告。同期，上海举报中心官网开通了专项举报渠道，至今已接收处理涉及 AI 类的违法不良信息举报及来自 12345 市民热线的相关线索超过 20 件。
在专项行动的首阶段，上海市委网信办指导这 17 家重点网站平台进行了自查自纠。在此过程中，累计清理拦截了包括去除 AI 标识的工具教程、数据投毒、未经授权的“换脸拟声”内容、AI 谣言以及低俗 AI 内容在内的违法违规信息超过 487 万条。同时，共处置了超过 1.8 万个违规账号，下架了 1.4 万余个违规智能体，并处理了 1300 余件违规商品。对于屡次违规的账号，采取了分级约束直至封禁的措施。各平台也根据自身特点展开了治理：稀宇持续下架“一键脱衣”和赌球博彩等违规智能体，并打击利用 AI 编写病毒和钓鱼软件等恶意行为；小红书则致力于打击 AI 代运营账号，禁止销售去除 AI 标识的商品，并推动与内容制作平台的隐式标识互认；哔哩哔哩在内容发布页面加强了提示，将“AI 生成”设为必选标签，以引导创作者规范发布；魔搭社区则全面清理了涉低俗内容的违规数据集，并加强了对开源模型的审核与管理。此外，上海市委网信办还委托 3 家专业机构，对 32 款用户量大、影响力高的 AI 产品进行了专项巡查测试，并对 4 家企业进行了现场检查，重点督促其整改 AI 标识落实不到位、平台安全及审核能力不足等问题。
在协同治理方面，上海市委网信办进一步深化了上海市大模型合规指导服务中心与各区委网信办的合作，开展了 16 场 AI 安全合规培训进街镇活动，旨在加强政策指导和业务受理，并对“应备未备”的服务进行了排查和安全评估督导。目前，上海已完成 169 款大模型的备案，以及 183 款调用已备案模型 API 的生成式人工智能应用的登记。在关键领域，市区两级在浦东软件园联合举办了“AI 场景落地中的安全挑战和合规赋能”主题沙龙，通过专家分享和政企对话促进治理协同。针对医疗和政务等重点领域，坚持“先测评后上线”的原则，联合市数据局持续优化政务智能应用测评验证中心的能力并制定安全规范，同时协同市卫健委依托医疗大模型应用检测验证中心，确保医疗 AI 应用的安全可靠。此外，还联动市市场监管局对头部 GEO 企业进行了调研，探索源头治理的路径。
在未成年人保护和拟人化 AI 服务规范方面，上海市委网信办围绕即将于 2026 年 7 月 15 日正式生效的《人工智能拟人化互动服务管理暂行办法》，开展了多项准备工作，向近百家重点平台进行了法规宣贯，并指导企业结合自身业务推进合规建设。针对部分应用存在的未成年人模式形同虚设、身份验证失效以及不良内容生成等风险，督导企业严格执行未成年人身份验证，防范情感依赖和消费诱导，并对问题突出、群众和媒体反映强烈的个别应用进行了监管执法。
据悉，专项行动的第二阶段将重点关注利用 AI 技术生成“数字泔水”、制作发布虚假信息、传播暴力低俗内容、仿冒他人、侵犯未成年人权益以及从事网络水军活动等问题，持续清理违法不良信息，并依法处置违规账号和平台。在整个专项行动期间，上海市委网信办将继续通过专项举报入口接收公众提供的违规线索。
糖果派对专注糖果派对娱乐平台，为用户提供专业可靠的体验。
糖果派对深耕海量热门游戏免费试玩领域，用心服务每一位用户。
mr. robul islam
围绕糖果派对在线试玩，糖果派对持续打磨更优质的服务。
在及时更新的官方活动资讯方面，糖果派对提供贴心周到的支持。
糖果派对深耕海量热门游戏免费试玩领域，用心服务每一位用户。