AI换脸、网售低俗商品……上海网信办发布网络生态治理八个典型案例

2025-03-22 14:02:02

　　【案例简介】巴黎奥运会期间，有网民无底线炒作运动员负面话题，侮辱■★◆◆■★、诋毁、诽谤国家运动员，发表拉踩引战言论■★★■◆，煽动网民情绪，严重破坏网上和谐的观赛氛围■◆。上海市网信办指导属地平台集中整治，依法依约对6000多个违规账号采取警告、限制功能◆■■■、禁言、永久封禁等阶梯式处置措施。属地重点平台建立健全常态化治理机制，定期发布公告展示治理成果。

　　【案例简介】2024年3月，网上有“自媒体”账号大量发布◆■■■■“xx图书馆300元/天 协助图书归类”“图书馆整理数据270元/天★★◆”等虚假招募信息◆■◆■★，严重干扰网络生态。上海市网信办指导属地平台依法依约对■◆◆◆◆“兼职找搭子”“魔都驿站吧”“爱吃草莓◆★◆”等违规账号予以永久封禁。

　　【案例简介】巡查发现，“程序媛**”■■◆★■■“小狗爱吃**”等账号发布视频教程◆◆★，教授用户如何利用AI技术实现“给现代女神穿上肚兜■■■■★◆”“一键去衣”等低俗效果；“AI科技杂烩”■★■★“火儿科技馆■◆”等网络店铺售卖“AI换衣”“AI换脸”相关软件。鉴于“AI变装”“AI换脸变声”等技术不当滥用可能造成侵权行为或引发诈骗等违法犯罪，在上海市网信办指导下◆◆◆■★◆，属地电商平台进行全面排查，清理相关商品★◆■◆◆，对★◆★★“AI科技杂烩”“火儿科技馆”等店铺予以关闭◆■■★★，对■■★“程序媛**★★”“小狗爱吃**”等一批账号实施禁言等阶段性处置措施■★◆；属地社交平台对利用AI进行创作的内容，添加风险提示标签，让用户有明确感知。

　　【案例简介】2024年3月，上海市网信办巡查发现，某平台大量◆◆■◆★■“自媒体”账号集中发布“浦东机场核酸检测◆◆■★■★”不实信息，内容表现手法雷同★◆◆，用词句式高度相似，赚取流量牟利◆■★◆。经公安部门侦查，成功捣毁一批专门利用AI制文、群控★■◆■“自媒体”账号、批量发布同质化文章炒作热点事件的“网络水军■◆”团伙，一举抓获违法犯罪嫌疑人36人，打掉网络水军团伙15个■★★。截至目前■◆◆，3人已被判决获刑，其余相关涉案人员在进一步审理中。

　　【案例简介】“乳韵之家”“乳业”等账号多次发布涉某乳品企业负面信息◆◆◆，在企业联系沟通时，账号运营主体借机要求开展商业合作◆■，遭到企业拒绝后，相关账号继续发布负面信息给企业施压；◆◆★★“星空财富◆■◆★”“星空财研★★”等账号发布涉某互联网企业负面信息，在企业联系沟通时，账号运营主体提出开展商业合作可撤稿并加入■★◆◆◆“白名单★★■■■”■★★★◆◆，要求企业尽快付款■★■★◆。上海市网信办接到企业举报并经查实◆■★★■◆，协调相关部门对以上账号及其关联账号予以依法关闭■◆★★■，同步将涉嫌敲诈勒索的线索通报公安机关进一步处置。

　　【案例简介】接网民举报，部分商家在网上售卖“湿感卡”◆★■◆■★“水感卡”等商品◆◆★，此类卡片加热后会显示低俗擦边内容，对未成年人身心健康产生不利影响。上海市网信办指导属地电商■★◆◆■■、直播、社交等平台，依法依约关闭■★◆◆★“温感质享女神店”★■★◆■◆“同人商行”等一批违规店铺并要求全面清理不良信息。

　　案例8：◆■◆■“程序媛**”“小狗爱吃**”等账号教授AI换衣、AI换脸等功能

　　案例2：“兼职找搭子”◆★★■◆“魔都驿站吧★■■★◆◆”“爱吃草莓”等账号大量发布虚假招募信息

　　【案例简介】2024年初★◆◆◆■★，网上出现“张总马上退休■★，请6位中层吃饭，狂点2万好酒好菜，没结账提前走人■★，我忍住火气买单，第二天同事愣住★◆◆”等职场段子。“泡泡糖5466■◆”“夏雨欣妹妹◆■◆■◆★”等◆★★“自媒体”账号为博取流量，故意增加“上海”元素，将此段子杜撰成■★“上海某局长的饭局■◆■◆”等小作文◆◆★、短视频★■■◆◆■，引发大量负面不实讨论，破坏网络生态★★★■◆★。上海市网信办协调相关部门对◆■◆■“泡泡糖5466”★★■■“夏雨欣妹妹■★★”等一批账号实施禁言等阶段性处置措施■◆★。

　　（原题为《清朗浦江丨打击 “网络水军■■■★★■”传谣★◆★★◆、AI换脸、网售低俗商品……上海市网信办发布网络生态治理八个典型案例》）

　　在3月20日举行的“清朗浦江·2025■■★”网络生态治理旬行动启动仪式上，上海市网信办发布◆★★“清朗浦江·2024★◆”典型处置案例。去年上海开展优化营商网络环境、网络暴力■★◆◆、整治“自媒体”无底线多个专项行动◆■，累计清理违法违规和不良信息1008万余条，处置违规账号349万余个，网络生态治理取得扎实成效。上海市网信办从中选取8个典型案例进行发布◆◆◆◆■，督促网站平台和■★■◆◆★“自媒体”提升法治意识和自律水平，共同营造风清气正的网络空间。

　　案例4：“温感质享女神店”◆■“同人商行”等网络店铺违规售卖★◆◆★“湿感卡”“水感卡”等低俗卡片

　　案例7：“乳韵之家”“星空财富”等账号以发布负面信息为名要挟企业开展商业合作

　　【案例简介】根据网民举报★◆★，“mo**■★■★★”“戈安*”★◆◆★■“勇*◆★◆”等账号针对2024年4月杭州爬山失联事件★◆◆★，在属地某社交平台评论区发布侮辱谩骂相关当事人的网暴侵权违法信息。上海市网信办依法约谈相关平台负责人，指导平台全面清理处置相关违法违规内容★★，对“mo**”“戈安*◆■◆■■◆”★■◆◆★■“勇*”等一批账号采取禁言、永久封禁等措施。