發(fā)布時(shí)間： 2025-11-19 23:35 來(lái)源：中國(guó)新聞網(wǎng)
小學(xué)生沉迷“外國(guó)山海經(jīng)”每天念咒語(yǔ) AI魔改亂象調(diào)查
中國(guó)青少年研究中心2025年對(duì)全國(guó)7個(gè)省份的8500余名未成年人進(jìn)行的調(diào)查顯示，超過(guò)六成未成年人使用過(guò)AI。有兩成多的未成年人存在“想依賴AI，不想自己思考”的惰性，兩成多傾向于“只和AI聊天，不愿與真人交流”，還有兩成多因?yàn)檫^(guò)度使用AI感到焦慮。這些數(shù)據(jù)暴露出未成年人接觸AI易產(chǎn)生影響?yīng)毩⑺伎肌⒁种普鎸?shí)社交、依賴與沉迷等問(wèn)題。
| ? |
近年來(lái)，我國(guó)政府高度重視未成年人網(wǎng)絡(luò)安全保護(hù)工作，采取了一系列積極舉措，不斷完善政策法規(guī)體系。2019年，國(guó)家網(wǎng)信辦發(fā)布《兒童個(gè)人信息網(wǎng)絡(luò)保護(hù)規(guī)定》，對(duì)兒童個(gè)人信息權(quán)益予以重點(diǎn)保護(hù)。新修訂的未成年人保護(hù)法于2021年6月1日起正式實(shí)施，專門創(chuàng)設(shè)“網(wǎng)絡(luò)保護(hù)”專章，進(jìn)一步強(qiáng)化了對(duì)未成年人網(wǎng)絡(luò)內(nèi)容的監(jiān)管，加強(qiáng)了個(gè)人信息保護(hù)，并針對(duì)網(wǎng)絡(luò)沉迷問(wèn)題制定了專門規(guī)定。2024年1月1日，我國(guó)第一部專門性的未成年人網(wǎng)絡(luò)保護(hù)綜合立法《未成年人網(wǎng)絡(luò)保護(hù)條例》正式施行。該條例旨在為未成年人提供更加安全、有益的網(wǎng)絡(luò)空間，確保他們的合法權(quán)益得到充分保障，促進(jìn)其身心健康成長(zhǎng)。
有部分AI工具正在探索未成年人保護(hù)模式。例如，今年8月26日，字節(jié)跳動(dòng)公司旗下AI工具豆包正式上線未成年人保護(hù)模式。家長(zhǎng)輸入密碼開(kāi)啟該模式后，推薦視頻、瀏覽第三方網(wǎng)頁(yè)和豆包以外的智能體對(duì)話、AI創(chuàng)作功能將被默認(rèn)關(guān)閉，而翻譯、深入研究等功能仍可正常使用。
□ 本報(bào)見(jiàn)習(xí)記者 于天航
□ 本報(bào)記者 張守坤
“通通通通撒呼啦”“哩哩哩辣力辣”……天津市河?xùn)|區(qū)某小學(xué)生家長(zhǎng)李女士發(fā)現(xiàn)，自己的孩子最近總是念叨著這些宛如神秘咒語(yǔ)的詞匯。經(jīng)了解，李女士才知道，這些看似無(wú)意義的音節(jié)，實(shí)則是幾幅AI生成的動(dòng)畫形象的名字，“Tung Tung Tung Sahur”(音同“通通通通撒呼啦”)是所謂的“木棒人”，“Lirili larlla”(音同“哩哩哩辣力辣”)是“仙人掌象”，“Tralalerotralala”(音同“特拉辣累嘍特拉拉辣”)是“耐克鞋鯊魚”。諸如此類由AI拼接而成的形象還有很多，它們被孩子們統(tǒng)稱為“外國(guó)山海經(jīng)”或者“AI山海經(jīng)”。
“孩子仿佛‘著了魔’，口中時(shí)不時(shí)蹦出來(lái)這些詞語(yǔ)，跟他一起玩耍的小朋友們也都如此。這些將毫不相干元素強(qiáng)行拼湊出的怪異形象，為何能在孩子們的圈子里流行起來(lái)？”李女士說(shuō)，“外國(guó)山海經(jīng)”不僅造型詭異，更夾雜不少暴力、血腥詞匯和內(nèi)容，“孩子或許并不理解其中的含義，但會(huì)模仿學(xué)習(xí)，很容易對(duì)他們產(chǎn)生負(fù)面影響”。
《法治日?qǐng)?bào)》記者調(diào)查發(fā)現(xiàn)，近期，“外國(guó)山海經(jīng)”“AI山海經(jīng)”等AI魔改(指利用AI技術(shù)對(duì)原作品進(jìn)行大幅或顛覆性改編的行為)內(nèi)容在網(wǎng)絡(luò)上迅速走紅，甚至滲透到低齡群體中。與此同時(shí)，包含血腥暴力、惡搞低俗內(nèi)容的“邪典動(dòng)畫”也借助AI技術(shù)卷土重來(lái)。部分經(jīng)AI魔改后的內(nèi)容還被制作成商品，在電商平臺(tái)銷量不俗。
“外國(guó)山海經(jīng)”成社交密碼
今年暑假，山東的韓女士在家休息時(shí)，6歲的侄子小宇突然問(wèn)她：“姑姑，中國(guó)也有山海經(jīng)嗎？”這個(gè)問(wèn)題讓韓女士一時(shí)語(yǔ)塞——小宇的書包上掛著“耐克鞋鯊魚”掛件，房間里也擺滿了各種造型怪異的玩具。這孩子第一次接觸“山海經(jīng)”的概念，竟然是通過(guò)這些外來(lái)的且由AI生成的產(chǎn)物。
韓女士告訴記者，小宇接觸“外國(guó)山海經(jīng)”的主要原因是班級(jí)里的流行風(fēng)潮?！昂⒆觽兌荚诹倪@些，他想融入集體，只能主動(dòng)去了解。”韓女士曾嘗試向侄子介紹真正的《山海經(jīng)》，但小宇并不感興趣，甚至還說(shuō)“山海經(jīng)就是國(guó)外的，中國(guó)的山海經(jīng)一點(diǎn)兒也不好看”。
在韓女士看來(lái)，短視頻平臺(tái)的推波助瀾是導(dǎo)致孩子沉迷其中的重要原因之一。小宇平時(shí)喜歡的內(nèi)容都是短視頻平臺(tái)頻繁推薦的。受這些內(nèi)容的影響，小宇已經(jīng)出現(xiàn)了明顯的模仿行為，“經(jīng)常模仿視頻里怪異形象的動(dòng)作，覺(jué)得很帥，還會(huì)時(shí)不時(shí)念叨里面的‘咒語(yǔ)’”。
韓女士說(shuō)，為了糾正孩子的認(rèn)知，其父母也曾嘗試限制小宇刷短視頻的時(shí)間，刻意引導(dǎo)他觀看優(yōu)質(zhì)動(dòng)畫，耐心講解不良內(nèi)容的危害，但收效甚微。“我能理解他想融入集體的心情，但眼睜睜看著他被這些內(nèi)容所影響，我真的很著急?！?/p>
李女士注意到，很多由AI生成的圖片和視頻風(fēng)格詭異，其中不乏“殺死”“燒死”等暴力詞匯，以及“用刀砍人”等危險(xiǎn)動(dòng)作。
記者嘗試發(fā)現(xiàn)，“外國(guó)山海經(jīng)”等AI圖片和視頻制作流程十分簡(jiǎn)單。在多款常見(jiàn)的AI視頻網(wǎng)站上，用戶只需向AI發(fā)送基礎(chǔ)的人物形象圖片，再通過(guò)文字描述想要生成的圖片內(nèi)容，發(fā)送指令即可獲得對(duì)應(yīng)的圖片；隨后將生成的圖片作為關(guān)鍵幀，補(bǔ)充描述兩個(gè)關(guān)鍵幀之間的畫面變化細(xì)節(jié)，便能快速生成一段動(dòng)態(tài)視頻，還可加入音效和背景音樂(lè)。
“邪典視頻”卷土重來(lái)
廣東的梁先生有個(gè)3歲的女兒，他偶爾會(huì)讓女兒玩一會(huì)兒手機(jī)。女兒還不認(rèn)字，常在短視頻平臺(tái)上刷視頻或者動(dòng)畫片。
然而，他最近發(fā)現(xiàn)，女兒頻繁被短視頻平臺(tái)推送動(dòng)畫風(fēng)格的“邪典視頻”?！斑@些視頻大多是卡通或3D風(fēng)格，很吸引小孩子，但是卻暗藏著很多令人不適的畫面?！绷合壬e例說(shuō)，視頻中存在殘害肢體、角色從高處墜落等血腥場(chǎng)景，甚至有“把自己的眼珠子挖出吃掉”這樣的可怕畫面。
“有些內(nèi)容成年人看了都覺(jué)得不適，更何況3歲的孩子。我很擔(dān)心這類視頻會(huì)對(duì)孩子造成不良影響。”梁先生說(shuō)。為了屏蔽這類內(nèi)容，他曾嘗試投訴視頻、點(diǎn)擊“不喜歡”，但相關(guān)內(nèi)容仍會(huì)被持續(xù)推送給孩子。
浙江省的俞女士也發(fā)現(xiàn)，孩子在觀看超級(jí)飛俠、奧特曼等正版動(dòng)畫片后，平臺(tái)會(huì)自動(dòng)彈出一批顏色鮮艷卻毫無(wú)營(yíng)養(yǎng)的衍生視頻，其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內(nèi)容。
俞女士擔(dān)憂地說(shuō)：“我擔(dān)心長(zhǎng)期接觸這類短視頻，會(huì)影響孩子的認(rèn)知能力和專注力。現(xiàn)在他對(duì)篇幅稍長(zhǎng)的繪本、書籍已經(jīng)有了排斥心理，根本沒(méi)有耐心看完。”為了減少這些不良視頻對(duì)孩子的侵蝕，俞女士不僅向孩子反復(fù)強(qiáng)調(diào)這類視頻的危害，還盡量下載正版動(dòng)畫片供孩子觀看?！捌脚_(tái)審核太不到位了，這種惡搞經(jīng)典動(dòng)漫角色的視頻應(yīng)該被嚴(yán)格限制。”
有一名曾在某視頻公司任職的受訪者向記者透露，其前公司就在制作這種類型的視頻，旗下幾百個(gè)視頻號(hào)都在持續(xù)推送“邪典動(dòng)畫”。這類視頻實(shí)際是將經(jīng)典的動(dòng)漫人物進(jìn)行二次創(chuàng)作。AI技術(shù)的普及大幅降低了制作門檻。使用AI生成的視頻色彩鮮艷，更吸引兒童?！拔闯赡耆肆髁吭谄脚_(tái)占很大比重，這類視頻不僅曝光度高，流量表現(xiàn)優(yōu)異，甚至能獲得平臺(tái)支持。這類視頻在創(chuàng)作時(shí)為博取關(guān)注，內(nèi)容套路化嚴(yán)重：以動(dòng)漫角色為外殼，填充戀愛(ài)情節(jié)或暴力沖突、混戰(zhàn)場(chǎng)面。由于兒童的判斷能力有限，容易信以為真?！?/p>
這名受訪者還強(qiáng)調(diào)，平臺(tái)算法助推不良內(nèi)容形成傳播閉環(huán)——“孩子一旦刷到觀看，平臺(tái)就會(huì)推送更多同類內(nèi)容。”
另一類“邪典視頻”是對(duì)中華優(yōu)秀傳統(tǒng)文化進(jìn)行歪曲和污名化的。比如，《紅樓夢(mèng)》中的人物在進(jìn)行“魔法戰(zhàn)爭(zhēng)”，《三國(guó)演義》兩軍對(duì)壘演變成“激光大戰(zhàn)”等，經(jīng)典作品的核心內(nèi)涵被徹底顛覆。
有專家指出，AI魔改對(duì)經(jīng)典的傷害早已超越內(nèi)容層面，它將“低俗獵奇”包裝為“趣味創(chuàng)新”，逐步侵蝕文化傳承與下一代成長(zhǎng)的健康土壤，甚至可能在他們心中埋下“經(jīng)典可隨意解構(gòu)”“歷史可肆意戲說(shuō)”的錯(cuò)誤認(rèn)知。
AI魔改催生畸形產(chǎn)業(yè)鏈
值得注意的是，記者發(fā)現(xiàn)，在社交平臺(tái)有關(guān)帖文和短視頻平臺(tái)評(píng)論區(qū)，有許多用戶公然教學(xué)如何用關(guān)鍵詞讓AI生成大尺度圖片，其中部分內(nèi)容涉及未成年人。比如在“×夢(mèng)”等AI工具上，雖然直接用“未成年人”“兒童”等關(guān)鍵詞無(wú)法生成敏感照片，但如果替換成其他關(guān)鍵詞，即可免費(fèi)生成包含性暗示等元素的“二次元”風(fēng)格的兒童軟色情圖片，甚至出現(xiàn)“兒童懷孕”等惡劣內(nèi)容。
此外，記者調(diào)查發(fā)現(xiàn)，一些AI魔改內(nèi)容已經(jīng)實(shí)體化，逐漸“侵入”現(xiàn)實(shí)世界。
比如，以“外國(guó)山海經(jīng)”為關(guān)鍵詞在電商平臺(tái)檢索，有不少形象被印在衣服上或做成盲盒、積木等產(chǎn)品售賣。有些商品標(biāo)簽直接標(biāo)注“給孩子的禮物”“兒童玩具”等詞語(yǔ)。還有些商家表示可以制作AI生成手辦定制照片，商品展示圖衣著暴露、動(dòng)作挑逗，并且未作年齡區(qū)分。
“外國(guó)山海經(jīng)”衍生出的相關(guān)產(chǎn)品還會(huì)引發(fā)未成年人之間的“隱性”攀比。韓女士介紹，這種盲盒價(jià)格便宜的單價(jià)僅一兩元，價(jià)格低廉卻在孩子間引發(fā)收集熱潮。“孩子們聚在一起玩耍的時(shí)候，如果別人有自己沒(méi)有，孩子會(huì)產(chǎn)生心理落差，甚至遭到排擠?！?/p>
記者在多家網(wǎng)購(gòu)平臺(tái)檢索“山海經(jīng)玩具”發(fā)現(xiàn)，這類盲盒產(chǎn)品銷量較高。某店鋪一款包含24盒的盲盒公仔售價(jià)僅11.99元，付款人數(shù)已超2萬(wàn)，低廉的價(jià)格與可觀的銷量進(jìn)一步助推其在校園中的流行。
此外，還有一些知名游戲IP推出與“外國(guó)山海經(jīng)”聯(lián)名的盲盒、卡牌。有小學(xué)教師反映，學(xué)生頻繁向家長(zhǎng)要錢，只為購(gòu)買同學(xué)手中的“外國(guó)山海經(jīng)”卡牌——這類卡牌已成為小學(xué)生群體中的“社交貨幣”。據(jù)學(xué)校周邊的文具店店主透露，此類卡牌的銷量遠(yuǎn)超其他品類。
“希望平臺(tái)和相關(guān)部門加強(qiáng)監(jiān)管，我們家長(zhǎng)也要負(fù)起責(zé)任，把不良AI魔改內(nèi)容隔絕在外，讓技術(shù)發(fā)揮正確價(jià)值?！辈稍L中，有家長(zhǎng)如是說(shuō)。
治理“AI魔改”，平臺(tái)與企業(yè)應(yīng)承擔(dān)起“守門人”責(zé)任
□ 蔡海龍
近日，一些針對(duì)經(jīng)典文學(xué)形象和動(dòng)畫主角的AI魔改視頻頻繁現(xiàn)身網(wǎng)絡(luò)平臺(tái)，在部分青少年群體中掀起一輪流量熱潮。這些視頻中的角色，有的外形怪誕低俗、名稱晦澀難懂；有的形象詭異驚悚，充斥暴力與血腥元素；更令人擔(dān)憂的是，其中部分內(nèi)容已被商家快速轉(zhuǎn)化為線下產(chǎn)品，進(jìn)入學(xué)校周邊文具店，成為熱銷的商品，甚至演變?yōu)閷W(xué)生之間的“社交貨幣”。
這些內(nèi)容荒誕、邏輯混亂的視頻之所以受到青少年追捧，進(jìn)而發(fā)展成為一種流行于學(xué)生群體間的亞文化，其原因并非單一的審美降低或被動(dòng)“投毒”，而是其身心發(fā)展階段特質(zhì)、學(xué)業(yè)壓力與媒體環(huán)境等多重因素共同作用的結(jié)果。
首先，青少年處于自我同一性建立的關(guān)鍵期，往往伴隨對(duì)規(guī)則與權(quán)威的質(zhì)疑。此類內(nèi)容以獵奇與解構(gòu)的方式，滿足其低風(fēng)險(xiǎn)反抗的心理需求。特別是在學(xué)業(yè)競(jìng)爭(zhēng)與成長(zhǎng)規(guī)訓(xùn)的雙重壓力下，這類視頻極易成為他們情緒宣泄的出口。
其次，青少年渴望身份認(rèn)同與群體歸屬感。分享主流視野之外的符號(hào)與“暗語(yǔ)”，有助于他們迅速形成亞文化圈層，從而強(qiáng)化其群體歸屬感，這正是AI魔改內(nèi)容演變?yōu)椤吧缃回泿拧钡膬?nèi)在邏輯。
AI魔改視頻的流行還與短視頻平臺(tái)的推薦算法密切相關(guān)。AI魔改作品通常具有節(jié)奏快、刺激強(qiáng)、認(rèn)知負(fù)荷低等特點(diǎn)，契合青少年碎片化的媒介使用習(xí)慣。青少年可能只是出于好奇點(diǎn)擊了一個(gè)怪異視頻，算法就會(huì)立刻大量推送同類內(nèi)容，迅速將其困于信息繭房，不斷加深其沉浸與依賴。
從現(xiàn)實(shí)影響來(lái)看，AI魔改內(nèi)容對(duì)青少年的危害是多維的，不僅造成審美降級(jí)與情感鈍化，還會(huì)扭曲其道德和價(jià)值觀念，構(gòu)成一種利用技術(shù)優(yōu)勢(shì)對(duì)未成年人實(shí)施的系統(tǒng)性侵害，違背了“兒童利益最大化”原則。具體而言，它侵犯了以下三項(xiàng)兒童基本權(quán)利：
第一，侵犯兒童發(fā)展權(quán)。根據(jù)聯(lián)合國(guó)《兒童權(quán)利公約》，兒童有權(quán)獲得促進(jìn)其全面發(fā)展的信息。而AI魔改內(nèi)容作為數(shù)字糟粕，擠占了其接觸優(yōu)質(zhì)文化資源的空間，阻礙其安全感、同理心與健康審美的養(yǎng)成，直接妨害兒童心智發(fā)展。
第二，侵犯兒童受保護(hù)權(quán)。這些內(nèi)容荒誕不經(jīng)、充斥暴力血腥畫面的魔改作品，不僅對(duì)兒童造成直接精神傷害，其背后更隱藏著以流量經(jīng)濟(jì)和黑色產(chǎn)業(yè)鏈為核心的商業(yè)剝削，實(shí)質(zhì)上是利用兒童辨別能力弱的特點(diǎn)不當(dāng)牟利。
第三，扭曲兒童參與權(quán)。兒童本應(yīng)有權(quán)參與、繼承和發(fā)揚(yáng)有益的文化，并在安全的數(shù)字環(huán)境中學(xué)習(xí)成長(zhǎng)。而AI魔改內(nèi)容將其文化參與扭曲為對(duì)“賽博垃圾”(借助AI生成的低質(zhì)量產(chǎn)品)的追捧，污染了其學(xué)習(xí)與娛樂(lè)空間，限制了其開(kāi)展正常、有益的數(shù)字生活的可能。
AI魔改現(xiàn)象是AIGC(人工智能生成內(nèi)容)浪潮下，對(duì)未成年人權(quán)利保護(hù)提出的一個(gè)重大挑戰(zhàn)。要有效治理這一現(xiàn)象，網(wǎng)絡(luò)平臺(tái)和相關(guān)企業(yè)應(yīng)當(dāng)承擔(dān)起作為“守門人”的法定責(zé)任。
網(wǎng)絡(luò)平臺(tái)是AI魔改內(nèi)容傳播與變現(xiàn)的首要場(chǎng)域，必須承擔(dān)起“防火墻”責(zé)任。平臺(tái)應(yīng)履行算法與推薦的向善責(zé)任，杜絕以流量為導(dǎo)向向未成年人推送低俗、暴力內(nèi)容，確保算法遵循“兒童利益最大化”原則；要落實(shí)內(nèi)容與模型的清污責(zé)任，主動(dòng)運(yùn)用技術(shù)手段清理存量“賽博垃圾”，并從源頭嚴(yán)控AIGC生成不良信息；要強(qiáng)化“青少年模式”的內(nèi)容凈化功能，確保內(nèi)容池純凈適齡，徹底屏蔽AI魔改類視頻；還需承擔(dān)商業(yè)鏈條的防護(hù)責(zé)任，禁止相關(guān)賬號(hào)借助此類內(nèi)容掛載商品或帶貨，同步屏蔽關(guān)鍵詞并清理違規(guī)商家。唯有如此，方能守護(hù)未成年人的網(wǎng)絡(luò)安全與身心健康。
相關(guān)企業(yè)作為內(nèi)容與產(chǎn)品的源頭，必須承擔(dān)起守法與自律的責(zé)任。在生產(chǎn)與設(shè)計(jì)環(huán)節(jié)必須建立兒童保護(hù)機(jī)制，主動(dòng)拒絕生產(chǎn)和設(shè)計(jì)怪誕、低俗、侵權(quán)化產(chǎn)品；線下銷售環(huán)節(jié)應(yīng)履行進(jìn)貨查驗(yàn)義務(wù)，杜絕有害周邊進(jìn)入校園市場(chǎng)；線上銷售環(huán)節(jié)則需平臺(tái)落實(shí)自清責(zé)任，依法及時(shí)下架違規(guī)商品，否則將面臨處罰。
要從根本上治理AI魔改問(wèn)題，亟須構(gòu)建一個(gè)由政府監(jiān)管、企業(yè)主責(zé)、家庭監(jiān)護(hù)、學(xué)校教育共同組成的“四位一體”社會(huì)共治體系。政府部門應(yīng)當(dāng)發(fā)揮監(jiān)管者和執(zhí)法者的作用，網(wǎng)信部門統(tǒng)籌網(wǎng)絡(luò)保護(hù)，壓實(shí)平臺(tái)責(zé)任；市場(chǎng)監(jiān)管部門負(fù)責(zé)清理線上線下有害周邊產(chǎn)業(yè)鏈；新聞出版與廣電部門則通過(guò)疏堵結(jié)合策略，推動(dòng)優(yōu)質(zhì)內(nèi)容的生產(chǎn)與傳播。企業(yè)和平臺(tái)作為第一責(zé)任人，必須從被動(dòng)應(yīng)付轉(zhuǎn)向主動(dòng)防御，利用技術(shù)手段清理不良內(nèi)容，切斷商業(yè)變現(xiàn)鏈條，持續(xù)優(yōu)化未成年人模式，為未成年人提供純凈的網(wǎng)絡(luò)環(huán)境。家庭是未成年人保護(hù)的第一道防線，家長(zhǎng)應(yīng)切實(shí)履行監(jiān)護(hù)職責(zé)，通過(guò)陪伴、內(nèi)容篩選和善用工具，培養(yǎng)孩子的批判性思維與審美能力。學(xué)校作為媒介素養(yǎng)教育的主陣地，應(yīng)開(kāi)設(shè)網(wǎng)絡(luò)素養(yǎng)相關(guān)課程，并發(fā)揮家校協(xié)同的橋梁作用。只有政府、企業(yè)、家庭、學(xué)校四方協(xié)同、環(huán)環(huán)相扣、各盡其責(zé)，才能真正織密未成年人的保護(hù)網(wǎng)，將AI魔改這類“精神毒品”徹底隔絕在未成年人的成長(zhǎng)環(huán)境之外。
(作者系首都師范大學(xué)教育政策與法律研究院副院長(zhǎng))
責(zé)任編輯：王忠?guī)r
審 核：劉海龍
統(tǒng) 籌： 張宇
監(jiān) 制： 曲立偉
圖片版權(quán)歸原作者所有，如有侵權(quán)請(qǐng)聯(lián)系我們，我們立刻刪除。
