來自新疆的全國政協(xié)委員擬為治理“AI生成不實(shí)信息”提出建言。
2025年全國兩會即將召開，全國政協(xié)委員、新疆新的社會階層人士聯(lián)誼會副會長海尼扎提·托呼提擬向大會提交“關(guān)于加強(qiáng)AI生成不實(shí)信息治理”等提案，建議社交媒體平臺等互聯(lián)網(wǎng)平臺加強(qiáng)內(nèi)容審核機(jī)制，建立專門的AI生成內(nèi)容審核團(tuán)隊(duì)，對平臺內(nèi)容執(zhí)行嚴(yán)格監(jiān)管。
隨著人工智能技術(shù)的迅猛發(fā)展，AI生成不實(shí)信息的問題愈發(fā)嚴(yán)重，成為信息傳播領(lǐng)域面臨的一大新挑戰(zhàn)。“這些不實(shí)信息通常具有迷惑性強(qiáng)、刺激度高、傳播力廣等特點(diǎn)，不僅侵蝕了信息的真實(shí)性，還擾亂了社會秩序與公眾認(rèn)知。”前述提案舉例說，在甘肅首例AI虛假信息案中，洪某弟利用ChatGPT軟件編造虛假新聞牟利；四川網(wǎng)警公布的多起如“山體滑坡導(dǎo)致8人遇難”、“喜德縣發(fā)生地震”等AI造謠典型案例，均造成了不良社會影響。此外，近期西藏自治區(qū)發(fā)生地震災(zāi)害后，網(wǎng)絡(luò)上出現(xiàn)了多起不當(dāng)利用AI技術(shù)生成災(zāi)害場景的情況，抖音平臺嚴(yán)肅處置了23652條涉及地震的不實(shí)信息。還有青海某網(wǎng)民為博取眼球，將“小男孩被埋圖”與日喀則地震相關(guān)的信息進(jìn)行關(guān)聯(lián)拼湊、移花接木，混淆視聽、誤導(dǎo)公眾，導(dǎo)致謠言信息的傳播擴(kuò)散。
“這些事件引起了公眾對AI技術(shù)濫用和網(wǎng)絡(luò)虛假信息治理問題的高度關(guān)注。輿論認(rèn)為，網(wǎng)絡(luò)虛假信息的泛濫嚴(yán)重侵犯了公眾的知情權(quán)和選擇權(quán)，破壞了市場競爭的公正性。”提案認(rèn)為，由AI生成的虛假信息還可能侵犯知識產(chǎn)權(quán)、動搖版權(quán)規(guī)則，涉嫌侵犯個人隱私、泄露身份信息，甚至存在濫用的風(fēng)險(xiǎn)。這些情況凸顯了加強(qiáng)網(wǎng)絡(luò)信息監(jiān)管、提升公眾媒介素養(yǎng)的緊迫性和重要性。
前述提案為此建議：第一，加強(qiáng)法律法規(guī)建設(shè)，完善法律體系，強(qiáng)化現(xiàn)有法律執(zhí)行，明確責(zé)任歸屬。第二，強(qiáng)化技術(shù)監(jiān)管措施，建立檢測和識別技術(shù)體系，嚴(yán)格要求內(nèi)容標(biāo)識。第三，提升平臺責(zé)任意識，采用技術(shù)手段加強(qiáng)平臺內(nèi)容的審核機(jī)制。
具體而言，提案建議進(jìn)一步細(xì)化《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護(hù)法》等現(xiàn)有法律法規(guī)在AI領(lǐng)域的具體適用條款，確保這些法律能夠有效覆蓋AI生成不實(shí)信息的各個環(huán)節(jié)，明確AI生成內(nèi)容的標(biāo)識、審核、責(zé)任劃分等具體要求，為AI內(nèi)容生成企業(yè)提供清晰的操作指引。并且應(yīng)考慮到不同類型AI應(yīng)用所面臨的不同行業(yè)特點(diǎn)，以便制定差異化政策。同時(shí)，加大對AI生成不實(shí)信息行為的懲處力度，提高違法成本。對于故意利用AI技術(shù)生成和傳播不實(shí)信息的行為，應(yīng)依法予以嚴(yán)厲處罰，包括但不限于罰款、吊銷營業(yè)執(zhí)照等，從而促使企業(yè)自覺遵守相關(guān)規(guī)定。
在技術(shù)監(jiān)管上，提案建議通過運(yùn)用尖端技術(shù)手段，對AI生成的內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測和篩查，可以開發(fā)和應(yīng)用AI生成內(nèi)容檢測算法，從而提升對虛假信息的辨識能力，及時(shí)發(fā)現(xiàn)并處理不實(shí)信息。同時(shí)，嚴(yán)格要求網(wǎng)絡(luò)信息服務(wù)提供者遵循相關(guān)強(qiáng)制性國家標(biāo)準(zhǔn)進(jìn)行內(nèi)容標(biāo)識，確保用戶能夠明確識別內(nèi)容是否由AI生成。
此外，還應(yīng)該督促社交媒體平臺、新聞網(wǎng)站等互聯(lián)網(wǎng)平臺加強(qiáng)內(nèi)容審核機(jī)制，建立專門的AI生成內(nèi)容審核團(tuán)隊(duì)，對平臺內(nèi)容執(zhí)行嚴(yán)格監(jiān)管，及時(shí)刪除和處理不實(shí)信息。
“這不僅涉及對現(xiàn)有內(nèi)容的審查，還包括對新上傳內(nèi)容的實(shí)時(shí)監(jiān)控，確保平臺內(nèi)容的質(zhì)量和真實(shí)性。”前述提案表示，鼓勵平臺采用內(nèi)容過濾、關(guān)鍵詞屏蔽等技術(shù)手段，自動識別并攔截AI生成的不實(shí)信息，加強(qiáng)對用戶發(fā)布內(nèi)容的審核力度，有效降低不實(shí)信息的傳播范圍，并對未能履行監(jiān)管職責(zé)的平臺，依法進(jìn)行處罰，以此作為警示，促使平臺自覺履行監(jiān)管責(zé)任，維護(hù)網(wǎng)絡(luò)環(huán)境的健康和秩序。