月日,抖音在北京举办「预防和治理网络暴力开放日」,介绍目前治理网暴的功能与手段,也与大家沟通治理网暴的难点。
从刘学洲事件、东航事故再到唐山打人事件,网暴现象泛化。认识和预防网暴,已成为互联网平台和每个网民都无法避开的命题。
为什么网暴治理这么困难?抖音为治理网暴升级了哪些功能、为受害者提供哪些帮助?
以下将带你了解抖音是如何预防和治理网暴的。
治理网络暴力为什么困难
一、网络暴力,判断难
对话身份不同,语义暴力程度不同。父母、朋友或者恋人之间的开玩笑,与陌生人之间的恶语相向,感受完全不同。
不同的人物,对于网络语言的感受完全不同。网暴和非网暴的界限模糊,依托于受害者主观感受,难以统一化辨别。
网暴的留言聚集速度和数量,难有量化标准。用户收到恶评,平台如果对她进行保护,是该在第一条还是在第条,还是在第条?很难去制定一个明确的数字标准。
公共机构和公众人物势必承担更多批评。他们更被各方所关注且给予更高要求,负有更多责任。
二、审核工作量巨大,错审、漏审易引发公众不满
重大事件发生时,短期易出现海量网暴评论。唐山事件发生个小时内,平台收到评论接近万条。假设机器初步审核万条,剩下万条评论需要名审核员连续高强度不间断工作小时才能完成。
网暴内容,机器识别难。利用谐音、缩写发布带有挑衅、讥讽意味的言论或者p图,介于批评与网暴之间的内容,机器均难以识别。
不同程度语言暴力处罚标准不同。诅咒、攻击、曝光、嘲讽和挑衅,对帐号进行无限期封禁,还是短期禁言,或者只是删除评论,都需要按照语言暴力程度详细评估。
事件反转,外部信息真实性不断变化,影响网暴处理进程。
三、网暴相比其他互联网治理场景的特殊性
大规模情绪爆发后,理性思考易引发二次网暴。某网暴事件中,著名评论员、大v发表看法,不被很多网友认可,遭到嘲讽、二次网暴。
网暴容易跨平台相互流转。A平台引发的网暴,可能很快就出现在了BCD平台。很少再有一个网暴事件独立出现在某一个平台。
网暴场景很多发生在私信。平台不能干涉用户隐私,只能提供工具给用户。
治理网暴,抖音做了什么
一、针对施暴者,拦截不当言论
上线发文警示和正向引导等功能。对于一些被模型判定为不当评论的,反复提醒用户。
私信的临时对话设定功能。限制陌生人每次只能向单个用户发送一条的申请信息,用户回复后,陌生人才能与其临时对话,有效期为 小时,超时后重新申请,尽力拦截不当言论。
二、针对受害者,升级防暴功能
抖音上线“一键防暴”功能。点开“抖音小安”抖音号私信菜单栏,点击“小安超能力”-“网暴护体盾”,即可开启“一键防暴”。
平台主动联系可能存在网暴风险的用户,提供防暴指引和帮助。
为用户上线评论、私信权限设置、评论区关键词屏蔽等功能。用户可对评论私信对象进行设定,可设置为所有人、互关好友或关闭三种状态。同时,当用户收到可能包含风险的私信时,抖音也会发出提醒。
增加用户举报网暴行为的入口。同时,抖音的客服电话和举报邮箱也会实时接收和处理针对网暴的举报。
建立心理关怀团队,提供心理安慰。抖音安全中心联合字节跳动公益、AI-lab等团队组成专项小组,为用户提供心理关怀服务。
预防网暴,需要每个网友的支持
当你遭遇网暴或目睹着网暴正在发生,请主动联络平台举报和反馈,我们将尽全力提供保护;
当你遭遇人身威胁、敲诈等极端网暴时,请及时拿起法律武器保护自己;
我们将持续改进产品功能,为网暴治理出一份力,也希望网友们为抖音提出宝贵建议!