位置:主页 > 体育新闻 >
互联网公司要怎么做内容风控才更安全?_科技频道_东方
发布日期:2020-05-25 15:56   来源:未知   阅读:

2016年,欧盟委员会牵头与Facebook、Twitter、YouTube和微软等互联网巨头们集体签署了一项行为准则,承诺“接到举报后24小时内屏蔽和删除相关仇恨言论”。

“仇恨言论”在欧美已经是刻不容缓的互联网内容安全问题。

2019年发生在美国、新西兰等地的公共伤害事件,事后都被查明凶手为种族歧视的捍卫者,动手之前曾在网络上分享过自己的行程与仇恨理念。

而这只是互联网内容安全问题的冰山一角。

互联网上与日俱增的内容不仅代表着更多的流量,也预示着巨大的内容风险藏身其中。色情、毒品、旗帜、暴恐、血腥、武器等等不良、有害信息不仅危害互联网平台的内容生态,更可能导致安全问题,使业务发展遭受损失。

不夸张的说,内容安全就是互联网平台的风控命门。

过去,互联网公司通过增加内容审核人员规模来解决问题,比如2018年今日头条就曾将原有6000人的运营审核队伍扩大到10000人,社交巨头Facebook在全球范围内也拥有1.5万内容审核员。

但这也引出一个实际问题,大厂有能力和资金可以雇佣内容审核专员,或者自己开发机器审核,而小厂呢?如何应对这颗随时可能引爆的安全“炸弹”?

人工+机器辅助,AI内容风控了解一下

随着互联网内容愈发繁杂且海量,以及市场与行业升级之后,信息传播的媒介与形态越来越多样化,传统的人工审核方式已经不能从容应对内容安全危机了。

人工审核本身有着天然缺陷,比如成本高、效率低、主观成分高、评判标准不统一等等。仅成本一项就很难,有企业曾透露,一人一天审核4万条信息,日均100万数据,光审核人力成本就要200万以上。

对企业而言,概括起来说就是成本高、技术难、效果差。甚至,因为长期与极度负面的信息打交道,对审核员工的身心都会造成损伤。

感谢阅读,欢迎再来!