“小網(wǎng)民”需要“大保護”——“守護清朗網(wǎng)絡(luò)空間”系列報道
關(guān)注濟源網(wǎng)微信
??暑期將至,眼看著“神獸歸籠”,未成年人網(wǎng)絡(luò)保護問題又進入公眾視野。
??為了讓孩子遠離網(wǎng)上不良信息、避免網(wǎng)絡(luò)游戲沉迷、防范網(wǎng)絡(luò)安全風險,不少家長操碎了心。
??中央網(wǎng)信辦2025年“清朗”系列專項行動整治重點中,就包括“整治暑期未成年人網(wǎng)絡(luò)環(huán)境”,要求強化涉未成年人不良內(nèi)容治理,凈化兒童智能設(shè)備、未成年人模式、未成年人專區(qū)等重點環(huán)節(jié)信息內(nèi)容。
??伴隨新技術(shù)發(fā)展,網(wǎng)絡(luò)上有哪些危害未成年人身心健康的新問題?各方如何提升治理效能?記者進行了調(diào)查采訪。
??網(wǎng)絡(luò)多風險,“原住民”怎么辦?
??最近,來自四川成都的彭女士發(fā)現(xiàn)自己12歲的女兒有點不對勁。
??“總神神秘秘地抱著手機,問在干啥,也死活不說”。她留了個心眼,點開女兒常用的一款軟件。這一看嚇得不輕:屏幕上出現(xiàn)與多個虛擬男性角色的聊天互動,其中充滿暗示性的對話,以及曖昧露骨的神情與動作描述。
??原來,這是一款AI陪伴聊天軟件,應用商店中年齡分級為“17+”。用戶只要簡單描述,就能定義AI智能體的形象、聲音、人設(shè)、技能,然后實時語音、文字聊天。最受歡迎的是戀愛情景模式,以及霸總、病嬌等人設(shè)。
??將對女兒接觸“擦邊”信息的擔憂發(fā)在網(wǎng)上后,彭女士發(fā)現(xiàn)自家情況并非個案。在社交媒體上檢索這款應用,能看到不少正上初中甚至小學的用戶曬出自己的年齡和聊天體驗。后知后覺的父母們則心急如焚地互相詢問:“這到底是啥?”“該怎么勸?”
??這樣的焦慮不難理解。
??這一代未成年人作為“互聯(lián)網(wǎng)原住民”,大多從出生起就接觸互聯(lián)網(wǎng)。據(jù)《青少年互聯(lián)網(wǎng)使用情況調(diào)查報告(2024)》統(tǒng)計,我國學齡期及以上未成年人觸網(wǎng)率近98%。
??與他們的父輩不同,智能設(shè)備、短視頻、網(wǎng)絡(luò)游戲,乃至人工智能大模型……本身就是他們認識和參與社會、獲取知識與情感陪伴的重要途徑。許多家長“一刀切”禁止孩子上網(wǎng),也引起許多孩子的不滿。
??但家長們的擔心也不無道理。許多未成年人沒意識到:他們熟悉的互聯(lián)網(wǎng),實際上“險象環(huán)生”。
??不良內(nèi)容、成癮沉迷、網(wǎng)絡(luò)欺凌、個人信息泄露、非理性消費……這些令人眼花繚亂的風險場景,連成年人都可能“踩坑”,對身心尚在發(fā)育成長中的未成年人,傷害往往更加深遠。
??正如彭女士的經(jīng)歷,人工智能,尤其生成式AI的發(fā)展普及,讓未成年人面臨的各類網(wǎng)絡(luò)風險更隱蔽、更難以防范。
??除了AI陪伴聊天中暗藏的色情暴力信息,網(wǎng)信部門還發(fā)現(xiàn),部分用戶利用AI繪圖技術(shù),惡意將未成年人圖片轉(zhuǎn)換成兒童懷孕狀態(tài)、身穿裸露服裝等惡俗低俗漫畫。
??有專家指出,這與對AI生成內(nèi)容以及相關(guān)產(chǎn)品服務(wù)背后的語料訓練監(jiān)管不嚴有關(guān)。
??“青少年模式”,如何不被輕易繞開?
??自從互聯(lián)網(wǎng)走進人們的生活,孩子與家長的“斗智斗勇”似乎就沒停過。
??“明明手機設(shè)置了青少年模式,但娃還是能超出時間限制玩游戲?!眮碜员本┑氖捙空f,“查了好久,才發(fā)現(xiàn)他偷偷用我的身份信息做了實名認證?!?/p>
??來自湖南的中學生小王和伙伴分享經(jīng)驗:“我和爺爺說,學校有信息要確認,讓他幫忙自拍一張,實際上是用他的信息刷臉認證,解除青少年模式?!?/p>
??從2019年起,部分短視頻平臺和游戲平臺開始推出“青少年模式”,通過限制時長、使用時段、使用功能,減少未成年人網(wǎng)絡(luò)依賴,保護未成年人隱私信息和人身安全。
??那么,為何給青少年“量身打造”的“青少年模式”并不受他們歡迎?除了未成年人本身的逆反心理,也因為部分平臺的“青少年模式”設(shè)置并不完善。
??一個主要原因是,部分平臺沒有青少年的年齡段區(qū)分,開啟后能看到的內(nèi)容過于單一,“只有低齡化動畫片和手工視頻?!币晃簧虾PW生這樣吐槽,“別讓我們?yōu)榱苏乙恍┖侠淼木W(wǎng)絡(luò)資源而動歪腦筋!”
??為解決這些問題,2025年4月,“未成年人模式”作為“青少年模式”的升級版,正式發(fā)布上線。相較于過去由單一平臺支撐,新模式由移動智能終端、應用程序和應用商店三方協(xié)同改造。
??具體帶來哪些變化?
??首先,操作門檻大大降低。目前,華為、OPPO等手機更新后,桌面會出現(xiàn)醒目的“未成年人模式”圖標,一鍵就能讓所有APP同步切換不同設(shè)備能統(tǒng)一管理,家長在自己的手機設(shè)置后,孩子的手機、平板、智能手表等設(shè)備都能同步限制;“繞開”的難度也增加了,退出模式需要人臉或指紋識別。
??其次,內(nèi)容大大豐富。增加年齡分層,如0-3歲主打兒歌、親子互動,8-12歲主打科普、生活技能;優(yōu)質(zhì)內(nèi)容定向增加,如抖音邀請全國科技館入駐并開展科學教育。
??另外,部分應用增加了定制化內(nèi)容,家長可以根據(jù)孩子的具體情況“量體裁衣”。以微信為例,監(jiān)護人可以設(shè)置微信支付的限額;未成年人遇到受限內(nèi)容,如特定公眾號、小程序、外部鏈接,也可以向監(jiān)護人發(fā)起臨時訪問申請。
??目前,未成年人模式仍在不斷完善?!坝羞@個模式,可以少花心思在‘斗智斗勇’上了。管理孩子手機的時候,也不容易‘一刀切’了。”一位家長說。
??孩子上網(wǎng)引糾紛,責任誰來擔?
??當網(wǎng)絡(luò)上的權(quán)益糾紛真正發(fā)生,平臺、監(jiān)護人、未成年人應如何劃分責任?
??“作為全國首個互聯(lián)網(wǎng)少年法庭,2021年掛牌至今,我們已經(jīng)受理了1200余件涉網(wǎng)未成年人案件,案件呈現(xiàn)出快速增長趨勢?!北本┗ヂ?lián)網(wǎng)法院少年法庭法官毛春聯(lián)告訴記者。
??據(jù)她介紹,這些司法案件主要包括兩類,一是未成年人游戲充值、直播打賞引發(fā)的網(wǎng)絡(luò)服務(wù)合同糾紛,占到全部案件的近七成;二是線下糾紛以及追星導致造謠、辱罵、P圖等引發(fā)的網(wǎng)絡(luò)侵權(quán)責任糾紛。
??“充值打賞類案件是所有案件中最令人擔憂的?!泵郝?lián)說,“我們近3年審結(jié)了近700件此類糾紛,案件平均標的額超過8萬元。不少涉訴未成年人的家庭經(jīng)濟基礎(chǔ)薄弱,部分是隔代撫養(yǎng)的留守兒童,未成年人的大額消費給家庭帶來了巨大負擔?!?/p>
??毛春聯(lián)解釋:這類案件中,對未成年人,法院主要考慮其是否采取了繞過監(jiān)管的措施?!爸坝幸黄鸢讣闯赡耆嗣俺渥约耗赣H與平臺客服溝通,解除對消費的限制。法院認為這一行為存在過錯,在確定平臺退款數(shù)額時將該行為作為考量因素之一”。
??對于監(jiān)護人,是否開啟未成年人模式、是否管理設(shè)備使用、是否保管好支付密碼和身份信息等,是衡量其是否盡到監(jiān)護職責的標準。
??而對于平臺,想要壓實主體責任,“事先預防、事中限制、事后救濟,一個也不能少?!泵郝?lián)說。
??具體而言,事前預防包括提供未成年人模式、接入實名制認證系統(tǒng)、優(yōu)化平臺內(nèi)容、設(shè)置提示等;事中,即侵權(quán)行為發(fā)生后,平臺不能僅處在被動地位,在接受侵權(quán)通知后才采取措施,對侵權(quán)性明顯的內(nèi)容應通過AI識別、關(guān)鍵詞過濾等技術(shù)手段,主動識別攔截;事后救濟環(huán)節(jié),應提供相應的指引,設(shè)置涉未糾紛專屬處理通道,配合披露侵權(quán)人信息等。
??同時,應對人工智能相關(guān)的新型風險,相關(guān)部門也在探索。
??6月10日,在安徽合肥舉辦的2025年中國網(wǎng)絡(luò)文明大會人工智能分論壇上,《向未成年人提供生成式人工智能服務(wù)安全指引》正式發(fā)布,明確提到“對涉未成年人數(shù)據(jù)實施分類分級管理”“建議在模型訓練過程中引入保護未成年人權(quán)益的安全原則,約束模型的輸出符合倫理規(guī)范、減少偏見等”。
??如何才能更加有效解決網(wǎng)絡(luò)沉迷等涉未成年人網(wǎng)絡(luò)安全問題?
??“可以把握家庭、學校、社區(qū)、司法部門幾個維度。”四川省成都市武侯區(qū)人民法院黨組成員、副院長李非陽告訴記者,“司法部門可以開展法制教育、提供調(diào)解干預與心理疏導。家庭要加強情感陪伴,用運動、親子閱讀、外出旅行等活動減少未成年人對虛擬世界的依賴;學校要強化素養(yǎng)教育與早期干預,可以通過開設(shè)‘算法認知課’介紹網(wǎng)絡(luò)成癮原理。社區(qū)有條件的,可以考慮打造適合未成年人的無網(wǎng)娛樂空間,引導未成年人培養(yǎng)線下興趣,減少對網(wǎng)絡(luò)的沉迷和依賴?!?記者 霍旻含)