网络安全 频道

网易易盾升级内容安全体系 发布智能审核管理系统

  【IT168 评论】内容安全已成为全球性互联网生态治理难题。互联网平台多媒体内容爆发带来海量信息的同时,也泥沙俱下裹挟有大量不良有害信息。

  当内容平台发展快速,就会被灰黑产盯上,视作“流量蜜罐”,利用其流量曝光机会,植入涉黄赌毒等不良信息,以及大量垃圾广告等。据不完全统计,2019年,有上千款应用和服务因为内容安全问题而遭遇下架关停等整改,业务发展遭受巨大损失。

  2019年12月19日,网易易盾在北京成功举办2019内容安全智能体系发布会,分享易盾对内容安全体系建设的前瞻思考,并正式发布面向智能时代的审核管理系统,有上百位企业内容风控相关人员参加此次活动,共同研讨内容安全体系建设和实践。

  据调查,有害垃圾内容占互联网UGC内容量的3%左右。其中最多的是各类非法广告类,其次是涉黄低俗类信息,以及涉赌涉毒信息。随着内容的多媒体融合,5G等信息基础设施的发展,互联网内容也迎来大爆发,内容安全压力愈加严峻。

网易易盾CTO朱浩齐

  网易易盾CTO朱浩齐认为,只有行业一起努力,构建出智能驱动、统一联动、个性定制、共建众治的内容体系,才能全面高效地解决内容安全难题。

  ●智能驱动:在新一代内容安全体系中,智能技术起着驱动引擎的作用。目前90%以上的海量实时多媒体内容都可以被智能技术精准识别过滤。自然语义、图像识别、声纹识别等都在内容安全领域有成熟彻底的落地。

  ●统一联动:内容安全需要从源头彻底解决,就需要联动账户安全,全链路联动识别分析。采用验证码、注册保护、登录保护等反作弊技术、内容安全云能力和本地审核管理系统的联动,可以更有效降低有害内容的产生。

  ●个性定制:直播短视频、网络文学、社交传媒等各领域的内容监管规定不同,需要根据产品形态来灵活定制各自的内容安全策略。

  ●共建众治:有害内容是社会性难题。企业需要有效整合政府法律、技术服务、同行联盟、用户等多种力量共同防治,才能有效打击灰黑产,构建风清气正的互联网生态。

  此次,网易易盾还发布了面向智能时代设计的审核管理系统。

  在未来很长时间内,内容安全依然是人机协同模式,各大平台需要保有一定规模的人工审核部门。但易盾在调研时,发现由于审核管理长久一直缺乏相应通用规范,操作后台长期得不到研发支持,大多数审核管理系统存在操作繁琐、设计陈旧、功能落后,甚至有些操作需要在多个后台跳转处理的问题。

  相比较爆发式的内容增长和日趋严格的监管要求,审核管理系统已成为企业内容安全的最大短板,严重影响了审核效率和安全要求。

  网易易盾此次发布的审核管理系统是面向智能时代的审核机制而设计,具有功能丰富、智能高效、轻量灵活、交互友好四大优势。

  ●功能丰富:支持面向内容的预处理、多重审核、质检溯源全生命周期管理;面向不同业务场景如直播音视频、长文档等垂直场景都有专门的视频模式。

  ●智能高效:基于机器学习的聚类审核,同类内容及时预警,审核人员可以快速过滤阻止扩散;高并发支持大规模审核团队同时操作,可智能分组排版。

  ●轻量灵活:无技术支持也可以快速接入,支持SaaS和私有化定制,客户可以灵活自定义内容接口、安全策略、外观、业务模块等。

  ●交互友好:深入审核团队研究交互习惯,优化界面交互、功能排列、操作流程。建立积分勋章等游戏化设计,有效降低审核疲惫。单手操作等无障碍辅助设计,让残障人士也可以轻松操作。

网易易盾产品总监饶晓艳

  网易易盾产品总监饶晓艳表示:“审核人员是企业内容安全的重要保障力量,为公司健康发展付出了很多,非常高兴可以为审核人员设计一套友好有温度的管理系统,让他们的工作更加轻松快捷。”

  网易易盾脱胎于网易安全部,扎根内容安全领域已超过20年,2016年对外商用以来,已服务数千家企业,其中不乏OPPO/VIVO、B站、一直播等知名客户,每日过滤有害信息超过十亿条,目前已是国内领先的内容安全和业务安全服务商。

0
相关文章