慧聪网首页慧聪通信网首页资讯展会人物运营商设备商3G手机iPhone手机CDMA找供应找求购免费注册立即登录加入买卖通即时沟通网站导航

内容审核的未来靠AI?百度“AI审核员”已练就“火眼金睛”

http://www.tele.hc360.com2018年04月17日14:35 来源:CCTIME飞象网T|T

    【慧聪通信网】近日,Facebook首席执行官扎克伯格接受美国国会听证,引发全球关注,会议现场,扎克伯格表示,Facebook希望通过AI来改善内容审核,但想要依靠AI审核内容可能还需要5-10年。技术带来了内容生产的去中心化,但面对海量内容,如何恰当地过滤有害信息,营造相对安全、清明的网络环境?月活用户超过20亿的Facebook正面临着严峻的挑战。

    内容审核的问题同样困扰着国内互联网公司们。火山小视频上的未成年妈妈被推成网红、B站的科里斯事件暴露的儿童色情问题等等,都提醒国内互联网平台,合理合法的内容管理越来越必要——今日头条、快手等平台近日的困顿,正是源自其对低俗、色情等不健康内容管理的失控。

    加大审核力度是任何一个内容平台发展的必须,但雇佣庞大的审核员工却无疑浪费了技术的潜力。在不健康内容的管理上,百度云的色情识别技术算得上前辈高手,百度大脑和海量数据,训练出的模型网络层次深、准确率高,而且响应速度很快(毫秒级)。

    作为全球最大的中文搜索引擎、重要的信息入口,百度在内容管理上的责任和压力是巨大的。据《2017年度信息安全综合治理报告》显示,2017全年百度处置有害信息高达451.2亿条。支撑庞大的数字背后。百度将大数据、人工智能等核心技术展开多维度的赋能:利用多项AI技术,如自然语言处理、深度学习技术、图像识别技术等搭建内容风控一体化服务解决方案,实现对上传的图像、文本、视频等内容的有效审核,进行全面内容把控,防止多形式的垃圾信息传播扩散。

    图像识别是百度最具代表性也最易理解的智能审核技术之一,融合了深度学习和图像识别的综合性技术,可以快速精准识别图片和视频中的涉黄、涉暴涉恐、政治敏感、微商广告及令用户不适的内容和事件场景等,已经广泛应用于百度网盘、百度贴吧等百度各类内容产品中,通过精准识别审核,大大降低了错审和漏审风险,让违法违禁内容无处可逃。

    除了图像视频外,用户评论、聊天内容、网络文字、注册信息等文本内容也是安全问题的重灾区,百度文本审核则重点解决这一问题。百度文本审核技术运用业界领先的深度学习技术,经过大规模样本训练,可以一站式准确检测识别文本中夹杂的色情内容、恶意推广URL、低俗辱骂、政治敏感、暴恐违禁违法等垃圾内容,从而自动化、智能化判断一段文本内容是否规范,极大减少人工审核工作量,降低内容风险。

    当然,现阶段的“智能”审核也依然需要“人工”的辅助。据了解,百度每天的推广内容审核数量高达4.7亿条,利用机器系统实现95%以上的信息的审核,并且百度建立了超千人的审查团队,明确分工,专人专项,形成了“AI技术防护+严苛人工审核”的模式,严格把控内容审核质量。

    据百度发布的《2017年度信息安全综合治理报告》显示,全年百度共拦截恶意网页202.9亿个,处置有害信息451.2亿条。《报告》数据看,淫秽色情的打击清理占比67.36%,此外制假贩假类、赌博类也分别占9%与7%左右的比例。全方位打击不良信息,体现了百度对网络有害信息的“零容忍”。

    好的行业生态离不开对标准和价值的坚守,如何让AI技术在内容审核上更好的发挥作用,给用户一个更加安全、健康的网络环境,是每一个互联网人应该思考的问题。显然,技术的潜力还远未充分发挥。

责任编辑:王彩屏

免责声明:凡注明来源本网的所有作品,均为本网合法拥有版权或有权使用的作品,欢迎转载,注明出处。非本网作品均来自互联网,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。本网对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。读者应详细了解所有相关投资风险,并请自行承担全部责任。

慧聪TMT

打造广电科技新媒体