“人工智能技術對於遏制網暴的最大作用，在於其強大的自然語言理解能力。”閆懷志指出。針對評論、彈幕等典型的非結構化語言數據，人工智能可以利用情緒解析、文本觀點提取、詞法分析、文本相似度識別等技術，實現對網暴的全量、多維度、快速分析，並進一步在此基礎上，弄清楚相關受眾在看待相關話題時的想法、情緒與核心觀點，從而阻斷網暴傳播鏈的環節，最大限度地降低網暴帶來的負面影響和危害。
“必須指出的是，人工智能識別技術不能完全代替人工識別，應該把二者結合起來，發揮各自的優勢，確保網絡暴力行為的認定準確可靠。”閆懷志說。如果僅僅依靠人工智能識別技術，可能會因為其機械性、固定性等缺陷，造成一些令人啼笑皆非的認定錯誤，陷入過猶不及的境地。
雙管齊下治理網絡暴力
有效制止網絡暴力行為，除了技術手段，還需要法律的參與。
網絡平台可普及評論智能過濾、評論或私信動態關閉、識別屏蔽惡意用戶等功能，有效遏制網絡暴力問題。同時，還可以利用人工智能識別技術，在對評論進行大數據模型匹配和校驗後，向違規發言者做出言論提醒，及時制止網絡暴力行為。
記者瞭解到，針對網暴治理，國內多個網絡平台正在展開行動。
北京愛奇藝科技有限公司有關人士向記者介紹，他們上線了私信防範網暴的功能，可以便利地使用一鍵舉報網絡暴力行為、關閉消息功能，以減少網絡暴力內容對用戶造成的負面影響。該公司還積極引導用戶發布正向內容，對存在潛在網絡暴力內容的信息做出提示，引導發布者進行善意的表達，助力營造健康的網絡環境。
“網絡暴力行為實施者依其行為的惡劣程度，可能要承擔民事、行政和刑事責任。”陳磊指出。根據我國民法典的相關規定，網絡暴力實施者造成他人損害的，應承擔侵權責任；如果其行為較為惡劣或者情節較為嚴重，則需要承擔相應的行政責任；如果其以肉體暴力或者其他極端方法進行網絡暴力，情節特別嚴重的，就需要承擔相應的刑事責任。
陳磊進一步指出，任何個人和組織使用網絡都應當遵守憲法法律，遵循公共秩序和社會公德，不得利用網絡從事侵害他人合法權益等活動。整治網絡暴力等網絡不良行為亂象，需要行政監管、互聯網平台、網民等多方主體共同參與。我們應該合力淨化網絡生態，營造積極健康、清朗有序的網絡環境。（來源：科技日報） |
