上海市委网信办指导小红书、B站等平台清理违规AI

强源头治理 促规范发展 上海市委网信办深入开展“清朗·整治AI技术滥用”专项(zhuānxiàng)行动第一阶段工作(gōngzuò)

为贯彻落实中央网信办“清朗·整治AI技术滥用”工作部署，4月下旬以来(yǐlái)，上海市委(shànghǎishìwěi)网信办聚焦6类突出问题(wèntí)深入开展第一阶段专项行动。现向社会公布阶段性工作成果，进一步凝聚共识，共同(gòngtóng)营造清朗网络生态。

全面清理整治违规AI产品(chǎnpǐn)和信息

上海市委网信办指导小红书、哔哩(bìlī)哔哩、拼多多等15家重点网站平台，集中清理“一键脱衣(tuōyī)”、未经(wèijīng)授权的人脸或(huò)人声(rénshēng)克隆编辑、未备案等违规AI产品、商品及(jí)相关营销、炒作(chǎozuò)、推广、教程信息(xìnxī)。小红书、哔哩哔哩主动发布专项行动治理公告，开通了有害AI内容的举报受理处置渠道；星野开展智能体全面排查清理。各重点网站和AI平台共拦截清理相关违法违规信息82万余条，处置违规账号1400余个，下线违规智能体2700余个。经整治，网络违规AI信息显著减少。

上海市委网信办深化大模型合规指导(zhǐdǎo)服务中心作用，指导各类(gèlèi)提供生成式人工智能服务的主体落实合规义务(yìwù)，强化安全评估，迄今已完成82款大(kuǎndà)模型备案，87款应用登记。对3款未履行备案或登记程序提供服务且存在风险的应用，依法约谈并给予行政处罚。

提升AI平台(píngtái)安全风控能力

上海市委网信办指导重点AI平台加强(jiāqiáng)技术源头治理，深化自查自纠(zìcházìjiū)，加强训练语料管理机制，加强新版本新应用上线、API接入应用的安全管理，用好大模型能力持续提升(tíshēng)安全水平(shuǐpíng)，建立健全与业务规模相适应的风控机制。组织专业机构对8家企业14款AI类应用开展了巡查测试，对部分重点平台开展现场检查和上门指导，发现并督导整改优化内容审核、意图识别等安全措施(ānquáncuòshī)的薄弱环节(bóruòhuánjié)。通过(tōngguò)系统性排查和闭环(bìhuán)整改，上海重点AI平台和重点平台AI应用的合规性、安全可控性持续增强。

强化重点领域AI安全(ānquán)管理

针对关乎人民群众“生命线”“钱袋子”和(hé)“未成年人保护”等社会高度关注的(de)AI应用，上海市委网信办(bàn)会同市卫健委、金融监管等主管部门(zhǔguǎnbùmén)，对申请备案、登记(dēngjì)的垂域模型和应用加强审核和业务指导，对33款已完成备案、登记提供医疗健康、金融、教育、情感陪伴服务的AI应用开展督导检查，要求完善行业领域安全审核和控制机制，加强专业知识库和检索(jiǎnsuǒ)增强能力建设，提升输出准确性，防范虚假、误导、诱导沉迷对患者、投资者、未成年人带来(dàilái)的不良影响。

联合市卫健委，指导上海人工智能实验室举办了(le)医疗大模型开源评测社区上线发布会和上海网络安全(ānquán)(ānquán)博览会“医学人工智能安全”论坛，面向全市(quánshì)各医疗机构、医疗服务企业开展AI安全宣贯和合规指导，依托上海市医疗大模型应用检测验证中心对16家机构20个AI医疗场景开展评估，结合模型安全性评价和业务验证，强化行业规范和伦理审查，指导安全加固(jiāgù)，引导(yǐndǎo)规范应用。

强化AIGC标识示范和全链条治理(zhìlǐ)

上海市委(shànghǎishìwěi)网信办将高标准落实《人工智能生成(shēngchéng)合成内容标识(biāozhì)办法(bànfǎ)》及配套强制性国家标准作为专项治理的关键抓手，切实保障公众知情权。先后组织开展了4场面向大模型企业(qǐyè)、重点网站平台、应用企业的法规宣贯和专题交流，覆盖企业400余家，深入解读标识要求和技术路径，推动企业从“要我落实”转向“我要落实”。指导成立AIGC标识生态联盟，上海人工智能安全治理实验室(shíyànshì)联合重点大模型企业、网站平台，合力推进标识互认、能力(nénglì)共享与标准协同。

围绕“制作-传播”环节，指导重点网站(wǎngzhàn)平台加快(jiākuài)配备显式与隐式(yǐnshì)标识功能，不断提升(tíshēng)AIGC内容、AI高风险行为的检测识别和治理能力。通过政策指导、生态协同与技术落地，稀宇科技、阶跃星辰(xīngchén)、通义、小红书、哔哩哔哩、Soul等已基本完成显式标识规范上线，加快开发上线隐式标识和传播链互认验证(yànzhèng)，小红书牵头编制图片模态元数据标识实践指南，上海标识工作取得阶段性成效。

上海市委(shànghǎishìwěi)网信办将持续深化专项行动，统筹技术治理(zhìlǐ)、制度建设和生态优化，强化对重点问题、平台、环节的常态化监管，推动智能向善。第二阶段将聚焦AI造谣、低俗内容(nèiróng)等7类突出问题加大整治力度，维护良好网络生态。上海将切实落实习近平总书记考察上海的重要指示，力争(lìzhēng)在人工智能发展(fāzhǎn)和治理各方面走在前列，产生示范效应。

更多热点速报、权威资讯、深度(shēndù)分析尽在北京日报App