|
||||||
AI魔改內(nèi)容在網(wǎng)絡(luò)上走紅，甚至滲透到低齡群體——
小學(xué)生沉迷“外國(guó)山海經(jīng)” 每天念咒語(yǔ)
媒體調(diào)查 “外國(guó)山海經(jīng)”不僅造型詭異，更夾雜了不少暴力、血腥詞匯和內(nèi)容 專家說法 AI魔改將低俗獵奇包裝成趣味創(chuàng)新，侵蝕文化傳承與孩子成長(zhǎng)的健康土壤 家長(zhǎng)呼吁 希望平臺(tái)和相關(guān)部門加強(qiáng)監(jiān)管，把不良AI魔改內(nèi)容與未成年人隔絕 “通通通撒呼啦”“哩哩哩辣力辣”……最近，天津市河?xùn)|區(qū)某小學(xué)生家長(zhǎng)李女士發(fā)現(xiàn)，自己的孩子每天總是念叨著這些宛如神秘咒語(yǔ)的詞匯。經(jīng)了解，李女士才知道，這些看似無意義的音節(jié)，實(shí)則是由AI生成的動(dòng)畫形象的名字，“Tung Tung Tung Sahur”（音同“通通通撒呼啦”）是所謂的“木棒人”，“Lirili larlla”（音同“哩哩哩辣力辣”）是“仙人掌象”，“Tralalerotralala”（音同“特拉辣累嘍特拉拉辣”）是“耐克鞋鯊魚”。諸如此類由AI拼接而成的形象還有很多，它們被孩子們統(tǒng)稱為“外國(guó)山海經(jīng)”或“AI山海經(jīng)”?！巴鈬?guó)山海經(jīng)”不僅造型詭異，更夾雜了不少暴力、血腥詞匯和內(nèi)容。 筆者調(diào)查發(fā)現(xiàn)，近期，“外國(guó)山海經(jīng)”“AI山海經(jīng)”等AI魔改（指利用AI技術(shù)對(duì)原作品進(jìn)行大幅或顛覆性改編的行為）內(nèi)容在網(wǎng)絡(luò)上迅速走紅，甚至滲透到低齡群體中。與此同時(shí)，包含血腥暴力、惡搞低俗內(nèi)容的“邪典動(dòng)畫”也借助AI技術(shù)卷土重來。 “外國(guó)山海經(jīng)”成社交密碼 今年暑假，山東的韓女士在家休息時(shí)，6歲的侄子小宇突然問她：“姑姑，中國(guó)也有山海經(jīng)嗎？”這個(gè)問題讓韓女士一時(shí)語(yǔ)塞——小宇的書包上掛著“耐克鞋鯊魚”掛件，房間里也擺滿各種造型怪異的玩具。這孩子第一次接觸“山海經(jīng)”的概念，竟然是通過這些外來的、由AI生成的產(chǎn)物。 韓女士說，小宇接觸“外國(guó)山海經(jīng)”的主要原因是班級(jí)里的流行風(fēng)潮?！昂⒆觽兌荚诹倪@些，他想融入集體，只能主動(dòng)去了解?！表n女士曾嘗試向侄子介紹真正的《山海經(jīng)》，但小宇并不感興趣，甚至還說“山海經(jīng)就是國(guó)外的，中國(guó)的山海經(jīng)一點(diǎn)兒也不好看”。 在韓女士看來，短視頻平臺(tái)的推波助瀾是導(dǎo)致孩子沉迷其中的重要原因之一。小宇平時(shí)喜歡的內(nèi)容都是短視頻平臺(tái)頻繁推薦的。受這些內(nèi)容的影響，小宇已經(jīng)出現(xiàn)了明顯的模仿行為。為糾正孩子的認(rèn)知，其父母也曾嘗試限制小宇刷短視頻的時(shí)間，刻意引導(dǎo)他觀看優(yōu)質(zhì)動(dòng)畫，耐心講解不良內(nèi)容的危害，但收效甚微。 李女士注意到，很多由AI生成的圖片和視頻風(fēng)格詭異，其中不乏“殺死”“燒死”等暴力詞匯，以及“用刀砍人”等危險(xiǎn)動(dòng)作。 筆者嘗試發(fā)現(xiàn)，“外國(guó)山海經(jīng)”等AI圖片和視頻制作流程十分簡(jiǎn)單。在多款常見的AI視頻網(wǎng)站上，用戶只需向AI發(fā)送基礎(chǔ)的人物形象圖片，再通過文字描述想要生成的圖片內(nèi)容，發(fā)送指令即可獲得對(duì)應(yīng)的圖片；隨后將生成的圖片作為關(guān)鍵幀，補(bǔ)充描述兩個(gè)關(guān)鍵幀之間的畫面變化細(xì)節(jié)，便能快速生成一段動(dòng)態(tài)視頻，還可加入音效和背景音樂。 “邪典視頻”卷土重來 廣東的梁先生有個(gè)3歲的女兒，他最近發(fā)現(xiàn)，女兒頻繁被短視頻平臺(tái)推送動(dòng)畫風(fēng)格的“邪典視頻”?！斑@些視頻大多是卡通或3D風(fēng)格，很吸引小孩子，卻暗藏著很多令人不適的畫面?！绷合壬e例說，視頻中存在殘害肢體、角色從高處墜落等血腥場(chǎng)景，甚至有“把自己的眼珠子挖出吃掉”的可怕畫面。 浙江的俞女士也發(fā)現(xiàn)，孩子在觀看超級(jí)飛俠、奧特曼等正版動(dòng)畫片后，平臺(tái)會(huì)自動(dòng)彈出一批顏色鮮艷卻毫無營(yíng)養(yǎng)的衍生視頻，其中不乏“奧特曼懷孕”“小豬佩奇打骷髏”等暴力惡搞內(nèi)容。 俞女士擔(dān)憂地說：“我擔(dān)心長(zhǎng)期接觸這類短視頻，會(huì)影響孩子的認(rèn)知能力和專注力。現(xiàn)在他對(duì)篇幅稍長(zhǎng)的繪本、書籍已經(jīng)有了排斥心理，根本沒有耐心看完。” 一名曾在某視頻公司任職的受訪者透露，其前公司就在制作這種類型的視頻，旗下幾百個(gè)視頻號(hào)都在持續(xù)推送“邪典動(dòng)畫”。這類視頻實(shí)際是將經(jīng)典的動(dòng)漫人物進(jìn)行二次創(chuàng)作。AI技術(shù)的普及大幅降低了制作門檻。使用AI生成的視頻色彩鮮艷，更吸引兒童。這名受訪者還強(qiáng)調(diào)，平臺(tái)算法助推不良內(nèi)容形成傳播閉環(huán)——“孩子一旦刷到并觀看，平臺(tái)就會(huì)推送更多同類內(nèi)容。” 另一類“邪典視頻”是對(duì)中華優(yōu)秀傳統(tǒng)文化進(jìn)行歪曲和污名化的。比如，《紅樓夢(mèng)》中的人物在進(jìn)行“魔法戰(zhàn)爭(zhēng)”，《三國(guó)演義》兩軍對(duì)壘演變成“激光大戰(zhàn)”等，經(jīng)典作品的核心內(nèi)涵被徹底顛覆。 有專家指出，AI魔改將“低俗獵奇”包裝為“趣味創(chuàng)新”，逐步侵蝕文化傳承與下一代成長(zhǎng)的健康土壤，甚至可能在他們心中埋下“經(jīng)典可隨意解構(gòu)”“歷史可肆意戲說”的錯(cuò)誤認(rèn)知。 AI魔改催生畸形產(chǎn)業(yè)鏈 筆者發(fā)現(xiàn)，在社交平臺(tái)的有關(guān)帖文和短視頻平臺(tái)的評(píng)論區(qū)，有許多用戶公然教學(xué)如何用關(guān)鍵詞讓AI生成大尺度圖片，其中部分內(nèi)容涉及未成年人。比如在“×夢(mèng)”等AI工具上，雖然直接用“未成年人”“兒童”等關(guān)鍵詞無法生成敏感圖片，但如果替換成其他關(guān)鍵詞，即可免費(fèi)生成包含性暗示等元素的“二次元”風(fēng)格的兒童軟色情圖片。 此外，一些AI魔改內(nèi)容已經(jīng)實(shí)體化，逐漸“侵入”現(xiàn)實(shí)世界。以“外國(guó)山海經(jīng)”為關(guān)鍵詞在電商平臺(tái)檢索，有不少形象被印在衣服上或做成盲盒、積木等產(chǎn)品售賣。有些商品標(biāo)簽直接標(biāo)注“給孩子的禮物”“兒童玩具”等詞語(yǔ)。 “外國(guó)山海經(jīng)”衍生出的相關(guān)產(chǎn)品還會(huì)引發(fā)未成年人之間的隱性攀比。韓女士介紹，這種盲盒價(jià)格便宜的單價(jià)僅一兩元，價(jià)格低廉卻在孩子間引發(fā)收集熱潮?！昂⒆觽兙墼谝黄鹜嫠５臅r(shí)候，如果別人有自己沒有，孩子會(huì)產(chǎn)生心理落差，甚至遭到排擠?！惫P者在多家網(wǎng)購(gòu)平臺(tái)檢索“山海經(jīng)玩具”發(fā)現(xiàn)，這類盲盒產(chǎn)品銷量較高。 此外，還有一些知名游戲IP推出與“外國(guó)山海經(jīng)”聯(lián)名的盲盒、卡牌。有小學(xué)教師反映，學(xué)生頻繁向家長(zhǎng)要錢，只為購(gòu)買同學(xué)手中的“外國(guó)山海經(jīng)”卡牌——這類卡牌已成為小學(xué)生群體中的“社交貨幣”。 “希望平臺(tái)和相關(guān)部門加強(qiáng)監(jiān)管，我們家長(zhǎng)也要負(fù)起責(zé)任，把不良AI魔改內(nèi)容與未成年人隔絕，讓技術(shù)發(fā)揮正確價(jià)值?！辈稍L中，有家長(zhǎng)如是說。 （見習(xí)記者 于天航 記者 張守坤 《法治日?qǐng)?bào)》11月18日） |
