AI技术的滥用问题引发广泛关注，上海网信办近日公布“清朗行动”第一阶段成果，着力整治违规使用人工智能。
本次整治行动的重点在于合规化管理，全面清除不符合规定的AI产品及相关信息。
通过对小红书、哔哩哔哩、拼多多等15家主要网站平台的指导，上海网信办集中整顿“一键脱衣”、未经许可的人脸或声音克隆编辑、未备案等违法AI产品及其促销、炒作和教程信息。
在专项行动中，小红书和哔哩哔哩发布治理公告，并设立了有害AI内容举报处置渠道，星野则开展全面排查与清理工作。
各大网站及AI平台联合行动，拦截并清理了82万余条违规信息，处理超过1400个违规账户，注销2700余个违规智能体。这一系列措施有效减少了网络中的非法AI信息。
在“制作-传播”环节，借助政策指导、生态合作和技术实施，稀宇科技、阶跃星辰、通义、小红书、哔哩哔哩、Soul等平台已基本完成显式标识规范的上线工作，并加速开发隐式标识和传播链互认验证。小红书牵头编写图片模态元数据标识指南，上海的标识工作取得了阶段性成果。
