2月24日，今日頭條在北京舉辦平臺治理開放日，圍繞AI謠言、同質(zhì)化發(fā)文、網(wǎng)絡(luò)詐騙等熱議的網(wǎng)絡(luò)治理焦點，與會嘉賓共同分享今日頭條過去一年來在安全治理、內(nèi)容生態(tài)等方面的細致舉措及有效經(jīng)驗。
活動現(xiàn)場，今日頭條相關(guān)業(yè)務(wù)負責人與學界專家紛紛發(fā)表演講，對近年來AI謠言與AI技術(shù)治理等議題給予了高度關(guān)注。
今日頭條生態(tài)治理運營負責人韓雨桐介紹稱，平臺很早就關(guān)注到AI謠言等情況、問題的出現(xiàn)，更針對性升級、迭代了AI模型的識別能力。在四位一體防御工事外，還建立起了包括謠言庫、權(quán)威信源庫以及專業(yè)審核團隊在內(nèi)的三大核心治理能力，全面優(yōu)化了AI謠言的防控水平，加強了對AI謠言、低質(zhì)內(nèi)容的可靠治理和管控。
會上，清華大學新聞與傳播學院副教授陸洪磊分享了題為《AI謠言治理：多方協(xié)力的數(shù)字戰(zhàn)役》的演講，在聚焦AI謠言產(chǎn)生背景及特點。他指出，伴隨AI技術(shù)的進一步應用，生成式AI正在重塑網(wǎng)絡(luò)信息的傳播生態(tài)，體現(xiàn)在內(nèi)容端就是AI謠言的日益猖獗。在AI的加持之下，謠言實現(xiàn)了分平臺、分渠道、分時段、分媒介的定制化發(fā)布，為網(wǎng)絡(luò)環(huán)境帶來了更加嚴峻的跨平臺影響。其低廉的成本和倍率傳播特性，使得辟謠難度大幅增加。而AI技術(shù)自我學習和自我強化的特性，匹配AI生成圖片等造假手段，使得AI謠言越來越逼真，對于內(nèi)容平臺來說這無疑是一場需要特別關(guān)注的“進化危機”。
清華大學新聞與傳播學院副教授陸洪磊如何應對這一新的態(tài)勢，陸洪磊以今日頭條為例，指出今日頭條平臺所采取的“內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動”四位一體防御工事，為AI謠言的治理提供了一條具有可行性的發(fā)展之路。
事實證明，今日頭條對AI謠言的相關(guān)治理舉措卓有成效。不久前今日頭條發(fā)布的《2024年度治理報告》中顯示，截止2024年底，今日頭條平臺已處理低質(zhì)AI內(nèi)容超93萬條，禁言、封禁相關(guān)賬號超2.9萬個，用戶關(guān)于低質(zhì)AI內(nèi)容的負反饋量級從28條/天降到了2條/天，有效抑制和打擊了AI謠言的傳播鏈條與傳播溫床。
陸洪磊認為，AI謠言的治理難以依靠單一力量來完成，需要聯(lián)動各方建立謠言線索互通機制。在協(xié)同治理方面，平臺需要做好技術(shù)的守門員，加強跨平臺辟謠合作，破解AI謠言的“deepfake”陷阱；平臺也可以考慮推出“事實快速核驗通道”，激發(fā)用戶的反謠言意識，便于遏制謠言的傳播。執(zhí)法機構(gòu)需要做好法治保障的護盤手，加快相關(guān)法律細則的出臺和落實，建立“技術(shù)取證-電子證據(jù)-司法鑒定”的全鏈條執(zhí)法標準；而每位網(wǎng)民則都應當成為理性的受者和傳者，轉(zhuǎn)發(fā)前思考三秒，分析一下信息來源是否真實、邏輯是否合理、是否屬于誘導內(nèi)容等，并對可疑內(nèi)容主動進行核實。
陸洪磊總結(jié)道，魔高一尺，道高一丈。當網(wǎng)友發(fā)現(xiàn)AI圖片中的異常字母時，他們會在評論區(qū)自發(fā)形成的“真相拼圖”，這正是協(xié)同治理最生動的注腳。