長期以來，網(wǎng)絡(luò)暴力的信息治理常常被視為受害者與施暴者之間的對抗，互聯(lián)網(wǎng)平臺更多處于旁觀角色，依靠“避風港”規(guī)則避免承擔責任。的確，初期互聯(lián)網(wǎng)平臺缺乏有效信息管控能力，未能充分履行治理義務(wù)。然而，隨著互聯(lián)網(wǎng)平臺產(chǎn)業(yè)的發(fā)展和人工智能等新興技術(shù)的快速進步，越來越多的學者呼吁，平臺應主動承擔起網(wǎng)絡(luò)暴力信息治理的主體責任。早期，由于信息量龐大且多樣，平臺難以對每條信息進行逐一審核，導致網(wǎng)絡(luò)暴力信息的應對滯后、難以預防。近年來，隨著人工智能特別是自然語言處理技術(shù)的突破，智能化識別與治理網(wǎng)絡(luò)暴力的潛力得到了前所未有的發(fā)展。

人工智能如何精準打擊網(wǎng)絡(luò)暴力

網(wǎng)絡(luò)暴力信息通常以自然語言文本的形式傳播，語言處理技術(shù)以及語言大模型技術(shù)迅速發(fā)展，使得平臺對網(wǎng)絡(luò)暴力信息進行自動化精準識別成為可能。該技術(shù)也是人工智能在治理網(wǎng)絡(luò)暴力信息方面運用最為廣泛的技術(shù)，已經(jīng)為大部分主流平臺運用。在這些平臺上，用戶所發(fā)送的每一條帖子、評論以及私信等，都會被人工智能模型自動識別。如果信息涉及網(wǎng)絡(luò)暴力，平臺會自動向用戶發(fā)出提示，建議用戶修改表述或不要發(fā)送。對于部分難以識別的信息，平臺采用“人工智能預判+真人核實”的模式，兼顧效率與準確性。然而，模型的識別能力受限于以往的案例和數(shù)據(jù)，且部分模型過于依賴“敏感詞識別技術(shù)”，不僅難以招架層出不窮的網(wǎng)暴形式，還可能造成錯誤打擊，損害公民的表達權(quán)。

用大數(shù)據(jù)評估并管控潛在威脅

除了對平臺信息進行普遍性監(jiān)控外，平臺還會采用危險賬號監(jiān)測技術(shù)對高危賬號重點關(guān)注。在互聯(lián)網(wǎng)空間，用戶的行為偏好、群組關(guān)系、違規(guī)記錄、言論發(fā)表等都會被平臺獲取。平臺在這些信息的基礎(chǔ)上構(gòu)建起用戶畫像，評估用戶的危險等級，降低高危賬號言論的曝光度，對其言論進行嚴格審核，限制該類賬號的部分功能甚至進行封號處理。其中，違規(guī)記錄是判斷賬號危險等級的一大重要因素，大部分平臺會對多次違規(guī)的賬戶進行更嚴厲的處罰。然而，該項技術(shù)卻有著較高的運用門檻。首先在數(shù)據(jù)獲取方面，為構(gòu)建準確的用戶畫像，平臺必須得到足夠的用戶數(shù)據(jù)，而中小平臺往往難以在短期內(nèi)獲得足夠的數(shù)據(jù)。其次在建立模型方面，如何為各類信息附加合理權(quán)重尚未形成共識，模型建立存在較大難度。

用積極聲音抵消網(wǎng)絡(luò)暴力負面效應

韓國曾舉行“善意回帖”運動，號召網(wǎng)民為他人寫下“肯定的、鼓勵的、給予勇氣和希望的善意留言”。根據(jù)群體極化理論，防止情緒極端化的有效方法是引入對立的觀點，需要有人提出新穎且具有說服力的論據(jù)，挑戰(zhàn)群體成員最初的偏好。該運動本質(zhì)上是想用良性信息與有害信息對抗，消除“群體極化”，削弱網(wǎng)絡(luò)暴力信息的影響。在良性信息生成效率、數(shù)量、質(zhì)量等方面，人工智能具有極大的應用潛力。此外，基于“沉默的螺旋”理論，一般網(wǎng)民容易受到已有情緒的影響。一旦網(wǎng)絡(luò)暴力形成，原本善意的聲音往往不敢表達，反而會加入網(wǎng)暴大軍。而人工智能不會受到情緒氛圍的影響，能夠持續(xù)提供積極的、建設(shè)性的內(nèi)容來平衡網(wǎng)絡(luò)生態(tài)，打破“沉默的螺旋”，減少負面情緒的傳播。然而，科技是把雙刃劍，也要警惕不法分子反向運用該技術(shù)，批量生成惡意信息，發(fā)起、擴大網(wǎng)絡(luò)暴力。

　用科技化解言語沖突避免誤解升級

美國傳播學家艾伯特梅拉比曾提出一個著名的信息傳播表達式，即信息的全部表達=7%的語言文字+38%的聲音+55%的表情。一方面絕大多數(shù)互聯(lián)網(wǎng)信息都是依靠語言文字傳播，而語言文字僅能傳播少量信息。另一方面網(wǎng)絡(luò)節(jié)奏不斷加快，網(wǎng)民習慣于用更加簡潔的語言，大量語氣詞、禮貌用語被省略，語言表達顯得較為生硬。聲音、表情的缺失使得人們的真實意思在傳播過程中逐漸失真。一句簡單的玩笑可能被誤認為冷嘲熱諷、抬杠，導致正常的表達在拉扯中上升為沖突甚至引發(fā)網(wǎng)絡(luò)暴力。語言風格轉(zhuǎn)化技術(shù)的核心在于“識別——轉(zhuǎn)化”。當人工智能發(fā)現(xiàn)用戶發(fā)表的內(nèi)容包含不友好信息時，可以通過替換詞匯、增添禮貌用語以及加入表情符號等手段，使表達變得溫和。從技術(shù)的角度來說，語言風格轉(zhuǎn)化技術(shù)所需的情感詞典、語言處理以及語言大模型技術(shù)都已經(jīng)較為成熟，具有實施的可能性。從運用的角度來說，該技術(shù)已經(jīng)在Reddit和Twitter等平臺運用過，并取得良好成效，在國內(nèi)具有廣闊的運用空間。