從劉學(xué)洲事件、東航事故再到唐山打人事件，網(wǎng)暴現(xiàn)象泛化。認(rèn)識和預(yù)防網(wǎng)暴，已成為互聯(lián)網(wǎng)平臺和每個網(wǎng)民都無法避開的命題。
為什么網(wǎng)暴治理這么困難？抖音為治理網(wǎng)暴升級了哪些功能、為受害者提供哪些幫助？
以下將帶你了解抖音是如何預(yù)防和治理網(wǎng)暴的。
治理網(wǎng)絡(luò)暴力為什么困難
一、網(wǎng)絡(luò)暴力，判斷難
01
對話身份不同，語義暴力程度不同。父母、朋友或者戀人之間的開玩笑，與陌生人之間的惡語相向，感受完全不同。
02
不同的人物，對于網(wǎng)絡(luò)語言的感受完全不同。網(wǎng)暴和非網(wǎng)暴的界限模糊，依托于受害者主觀感受，難以統(tǒng)一化辨別。
03
網(wǎng)暴的留言聚集速度和數(shù)量，難有量化標(biāo)準(zhǔn)。用戶收到惡評，平臺如果對她進行保護，是該在第一條還是在第1000條，還是在第500條？很難去制定一個明確的數(shù)字標(biāo)準(zhǔn)。
04
公共機構(gòu)和公眾人物勢必承擔(dān)更多批評。他們更被各方所關(guān)注且給予更高要求，負(fù)有更多責(zé)任。
二、審核工作量巨大，錯審、漏審易引發(fā)公眾不滿
05
重大事件發(fā)生時，短期易出現(xiàn)海量網(wǎng)暴評論。唐山事件發(fā)生12個小時內(nèi)，平臺收到評論接近300萬條。假設(shè)機器初步審核200萬條，剩下100萬條評論需要400名審核員連續(xù)高強度不間斷工作12小時才能完成。
06
網(wǎng)暴內(nèi)容，機器識別難。利用諧音、縮寫發(fā)布帶有挑釁、譏諷意味的言論或者p圖，介于批評與網(wǎng)暴之間的內(nèi)容，機器均難以識別。
07
不同程度語言暴力處罰標(biāo)準(zhǔn)不同。詛咒、攻擊、曝光、嘲諷和挑釁，對帳號進行無限期封禁，還是短期禁言，或者只是刪除評論，都需要按照語言暴力程度詳細(xì)評估。
08
事件反轉(zhuǎn)，外部信息真實性不斷變化，影響網(wǎng)暴處理進程。
三、網(wǎng)暴相比其他互聯(lián)網(wǎng)治理場景的特殊性
09
大規(guī)模情緒爆發(fā)后，理性思考易引發(fā)二次網(wǎng)暴。某網(wǎng)暴事件中，著名評論員、大v發(fā)表看法，不被很多網(wǎng)友認(rèn)可，遭到嘲諷、二次網(wǎng)暴。
10
網(wǎng)暴容易跨平臺相互流轉(zhuǎn)。A平臺引發(fā)的網(wǎng)暴，可能很快就出現(xiàn)在了BCD平臺。很少再有一個網(wǎng)暴事件獨立出現(xiàn)在某一個平臺。
11
網(wǎng)暴場景很多發(fā)生在私信。平臺不能干涉用戶隱私，只能提供工具給用戶。
治理網(wǎng)暴，抖音做了什么
一、針對施暴者，攔截不當(dāng)言論
12
上線發(fā)文警示和正向引導(dǎo)等功能。對于一些被模型判定為不當(dāng)評論的，反復(fù)提醒用戶。
13
私信的臨時對話設(shè)定功能。限制陌生人每次只能向單個用戶發(fā)送一條的申請信息，用戶回復(fù)后，陌生人才能與其臨時對話，有效期為 24 小時，超時后重新申請，盡力攔截不當(dāng)言論。
二、針對受害者，升級防暴功能
14
抖音上線“一鍵防暴”功能。點開“抖音小安”抖音號私信菜單欄，點擊“小安超能力”-“網(wǎng)暴護體盾”，即可開啟“一鍵防暴”。
15
平臺主動聯(lián)系可能存在網(wǎng)暴風(fēng)險的用戶，提供防暴指引和幫助。
16
為用戶上線評論、私信權(quán)限設(shè)置、評論區(qū)關(guān)鍵詞屏蔽等功能。用戶可對評論私信對象進行設(shè)定，可設(shè)置為所有人、互關(guān)好友或關(guān)閉三種狀態(tài)。同時，當(dāng)用戶收到可能包含風(fēng)險的私信時，抖音也會發(fā)出提醒。
17
增加用戶舉報網(wǎng)暴行為的入口。同時，抖音的客服電話和舉報郵箱也會實時接收和處理針對網(wǎng)暴的舉報。
18
建立心理關(guān)懷團隊，提供心理安慰。抖音安全中心聯(lián)合字節(jié)跳動公益、AI-lab等團隊組成專項小組，為用戶提供心理關(guān)懷服務(wù)。
預(yù)防網(wǎng)暴，需要每個網(wǎng)友的支持
當(dāng)你遭遇網(wǎng)暴或目睹著網(wǎng)暴正在發(fā)生，請主動聯(lián)絡(luò)平臺舉報和反饋，我們將盡全力提供保護；
當(dāng)你遭遇人身威脅、敲詐等極端網(wǎng)暴時，請及時拿起法律武器保護自己；
我們將持續(xù)改進產(chǎn)品功能，為網(wǎng)暴治理出一份力，也希望網(wǎng)友們?yōu)槎兑籼岢鰧氋F建議！
]]>