從劉學(xué)洲事件、東航事故再到唐山打人事件，網(wǎng)暴現(xiàn)象泛化。認(rèn)識(shí)和預(yù)防網(wǎng)暴，已成為互聯(lián)網(wǎng)平臺(tái)和每個(gè)網(wǎng)民都無(wú)法避開的命題。
為什么網(wǎng)暴治理這么困難？抖音為治理網(wǎng)暴升級(jí)了哪些功能、為受害者提供哪些幫助？
以下將帶你了解抖音是如何預(yù)防和治理網(wǎng)暴的。
治理網(wǎng)絡(luò)暴力為什么困難
一、網(wǎng)絡(luò)暴力，判斷難
01
對(duì)話身份不同，語(yǔ)義暴力程度不同。父母、朋友或者戀人之間的開玩笑，與陌生人之間的惡語(yǔ)相向，感受完全不同。
02
不同的人物，對(duì)于網(wǎng)絡(luò)語(yǔ)言的感受完全不同。網(wǎng)暴和非網(wǎng)暴的界限模糊，依托于受害者主觀感受，難以統(tǒng)一化辨別。
03
網(wǎng)暴的留言聚集速度和數(shù)量，難有量化標(biāo)準(zhǔn)。用戶收到惡評(píng)，平臺(tái)如果對(duì)她進(jìn)行保護(hù)，是該在第一條還是在第1000條，還是在第500條？很難去制定一個(gè)明確的數(shù)字標(biāo)準(zhǔn)。
04
公共機(jī)構(gòu)和公眾人物勢(shì)必承擔(dān)更多批評(píng)。他們更被各方所關(guān)注且給予更高要求，負(fù)有更多責(zé)任。
二、審核工作量巨大，錯(cuò)審、漏審易引發(fā)公眾不滿
05
重大事件發(fā)生時(shí)，短期易出現(xiàn)海量網(wǎng)暴評(píng)論。唐山事件發(fā)生12個(gè)小時(shí)內(nèi)，平臺(tái)收到評(píng)論接近300萬(wàn)條。假設(shè)機(jī)器初步審核200萬(wàn)條，剩下100萬(wàn)條評(píng)論需要400名審核員連續(xù)高強(qiáng)度不間斷工作12小時(shí)才能完成。
06
網(wǎng)暴內(nèi)容，機(jī)器識(shí)別難。利用諧音、縮寫發(fā)布帶有挑釁、譏諷意味的言論或者p圖，介于批評(píng)與網(wǎng)暴之間的內(nèi)容，機(jī)器均難以識(shí)別。
07
不同程度語(yǔ)言暴力處罰標(biāo)準(zhǔn)不同。詛咒、攻擊、曝光、嘲諷和挑釁，對(duì)帳號(hào)進(jìn)行無(wú)限期封禁，還是短期禁言，或者只是刪除評(píng)論，都需要按照語(yǔ)言暴力程度詳細(xì)評(píng)估。
08
事件反轉(zhuǎn)，外部信息真實(shí)性不斷變化，影響網(wǎng)暴處理進(jìn)程。
三、網(wǎng)暴相比其他互聯(lián)網(wǎng)治理場(chǎng)景的特殊性
09
大規(guī)模情緒爆發(fā)后，理性思考易引發(fā)二次網(wǎng)暴。某網(wǎng)暴事件中，著名評(píng)論員、大v發(fā)表看法，不被很多網(wǎng)友認(rèn)可，遭到嘲諷、二次網(wǎng)暴。
10
網(wǎng)暴容易跨平臺(tái)相互流轉(zhuǎn)。A平臺(tái)引發(fā)的網(wǎng)暴，可能很快就出現(xiàn)在了BCD平臺(tái)。很少再有一個(gè)網(wǎng)暴事件獨(dú)立出現(xiàn)在某一個(gè)平臺(tái)。
11
網(wǎng)暴場(chǎng)景很多發(fā)生在私信。平臺(tái)不能干涉用戶隱私，只能提供工具給用戶。
治理網(wǎng)暴，抖音做了什么
一、針對(duì)施暴者，攔截不當(dāng)言論
12
上線發(fā)文警示和正向引導(dǎo)等功能。對(duì)于一些被模型判定為不當(dāng)評(píng)論的，反復(fù)提醒用戶。
13
私信的臨時(shí)對(duì)話設(shè)定功能。限制陌生人每次只能向單個(gè)用戶發(fā)送一條的申請(qǐng)信息，用戶回復(fù)后，陌生人才能與其臨時(shí)對(duì)話，有效期為 24 小時(shí)，超時(shí)后重新申請(qǐng)，盡力攔截不當(dāng)言論。
二、針對(duì)受害者，升級(jí)防暴功能
14
抖音上線“一鍵防暴”功能。點(diǎn)開“抖音小安”抖音號(hào)私信菜單欄，點(diǎn)擊“小安超能力”-“網(wǎng)暴護(hù)體盾”，即可開啟“一鍵防暴”。
15
平臺(tái)主動(dòng)聯(lián)系可能存在網(wǎng)暴風(fēng)險(xiǎn)的用戶，提供防暴指引和幫助。
16
為用戶上線評(píng)論、私信權(quán)限設(shè)置、評(píng)論區(qū)關(guān)鍵詞屏蔽等功能。用戶可對(duì)評(píng)論私信對(duì)象進(jìn)行設(shè)定，可設(shè)置為所有人、互關(guān)好友或關(guān)閉三種狀態(tài)。同時(shí)，當(dāng)用戶收到可能包含風(fēng)險(xiǎn)的私信時(shí)，抖音也會(huì)發(fā)出提醒。
17
增加用戶舉報(bào)網(wǎng)暴行為的入口。同時(shí)，抖音的客服電話和舉報(bào)郵箱也會(huì)實(shí)時(shí)接收和處理針對(duì)網(wǎng)暴的舉報(bào)。
18
建立心理關(guān)懷團(tuán)隊(duì)，提供心理安慰。抖音安全中心聯(lián)合字節(jié)跳動(dòng)公益、AI-lab等團(tuán)隊(duì)組成專項(xiàng)小組，為用戶提供心理關(guān)懷服務(wù)。
預(yù)防網(wǎng)暴，需要每個(gè)網(wǎng)友的支持
當(dāng)你遭遇網(wǎng)暴或目睹著網(wǎng)暴正在發(fā)生，請(qǐng)主動(dòng)聯(lián)絡(luò)平臺(tái)舉報(bào)和反饋，我們將盡全力提供保護(hù)；
當(dāng)你遭遇人身威脅、敲詐等極端網(wǎng)暴時(shí)，請(qǐng)及時(shí)拿起法律武器保護(hù)自己；
我們將持續(xù)改進(jìn)產(chǎn)品功能，為網(wǎng)暴治理出一份力，也希望網(wǎng)友們?yōu)槎兑籼岢鰧氋F建議！
]]>