中国开源软件网

当前位置: 首页 > 互联网 >

融云音视频审核服务架构,在解决企业对通信内容安全痛点的同时

时间:2021-01-27 23:19来源:互联网 作者:小狐

5G商用后,音内容生产得到了极大繁荣,网民们的注意力也被各类短、直播、音社交等平台吸引,这些UGC平台显然已成为了新的流量聚集地。但当流量不再是问题,UGC平台的音内容合规性问题变得日益凸显。

音内容审核的行业困境

日前,多家互联网应用的音业务被曝出涉黄、涉暴、涉政、违禁等不良内容。平台成了间接作恶工具,面临约谈、整顿、关停等违规处理,这给企业造成了难以估量的损失。而对音平台来说,针对海量内容逐一审核绝非易事,目前主要面临两大行业难题:

其次,有害信息难以发现。对于娇喘呻吟、辱骂语音识别、垃圾广告,以及涉政、暴恐、特殊LOGO等不良内容,不仅量大而且类型不一,从中排查这些危险因素,需要较高的技术手段才能完成。

为解决行业痛点,帮助客户从源头发现并杜绝这类不良信息,互联网通信云厂商融云的音审核服务,可高效精准地自动识别违规内容,保障平台业务的稳定。尤其当平台有对及音有双重审核需求时,融云可帮助企业一站式审核图、文、音、视“全”内容,有效解决多类型、海量信息难以甄别的问题。同时,也帮客户节省了对接第三方审核公司的商务沟通成本,以及研发适配所耗用的成本,为者及各互联网平台构筑起绿色通信的护城河。

度音审核能力,为不同业务场景安全保障

目前,融云的音审核功能主要应用在 1v1、1v多通话场景,会议场景以及直播场景。融云的客户在使用 CallLib SDK 或 RTCLib SDK 实现音通话、线上会议或直播等类型应用后,可以把每个参与人的音频、数据发送至审核服务,进行内容审核。

当企业开通审核功能后,融云支持音流自动审核,审核结果会通过融云的回调服务发送到者的应用。具体来说,融云媒体(RTC Server)会把收到的音流转码成审核服务需要的格式(RTMP)来送审,不需要者转码或者截帧再去送审。在启动审核任务后,融云会按照一定的周期或在命中拦击事件时把审核结果回调给用户,帮助用户方便地解析出审核结果,者可以根据审核结果决策是否需要断开直播间主播推流,比如可以踢出主播或封禁主播。

融云音视频审核服务架构,在解决企业对通信内容安全痛点的同时(图1)

图1:融云音审核服务架构

在音频审核功能方面,融云涉政语音识别、娇喘语音识别、国歌识别、语音识别、辱骂语音识别、垃圾广告识别六大审核维度。基于Bi-GRU、Attention模型、NAR模型,构建混合深度神经网络模型等多个先进手段,精准识别各类场景中涉政人物、政治事件、分裂、等百余种类型涉政音频,精准识别声音中含有娇喘、呻吟、耳骚、喊麦等违规音频,对于音频中含有、低俗、污秽、语爱等涉黄内容也绝不放过。

融云音审核四大优势:精准、灵活、全面、稳定

根据者的使用调查反馈,融云的音审核服务最大的特点是精准,除了审核能力精准,还能迅速精准地定位问题源头,缩短了问题排查的时间;同时,审核模式灵活,支持灵活筛选审核对象,比如对指定房间,甚至指定用户的送审,可添加个性化的审核维度,最重要的是产品功能性能稳定,可用性99.9%,可应对高并发的使用场景。此外,支持长达半个月的时间,让客户有充分的时间熟悉、了解相关功能,让使用无后顾之忧。

具体来说,融云音审核服务具备四大技术优势:第一,从服务架构上看,深度融合CNN、RNN、GAN、TDNN、LSTM等模型,违规识别准确率高;第二,违规态势实时追踪,可实时监测舆情趋势,动态追踪违规态势,增量模型小时级,帮助产品快速迭代升级;第三,全方位识别数百种涉政暴恐图片、数十种图片、各式各样的变体广告图片等违规内容,极大降低平台风险;第四,超强弹性服务,全球多集群部署,可秒极弹性扩容,因此每日可承载数亿级的海量音审核请求。

复合的审核服务,打造一站式“全”内容审核能力

在实际应用中,融云针对图、文、音、视的“全”内容,双重审核服务,将IM即时通讯审核与音审核功能叠加,构成“联防联控”的一站式内容审核云服务产品,结合融云反垃圾与内容安全经验,构筑体系化、专业化的审核,全面保障客户通信云业务安全运行。

融云音视频审核服务架构,在解决企业对通信内容安全痛点的同时(图2)

图2:融云IM 内容审核服务

融云的IM内容审核服务主要包括文本过滤、图片过滤、音文件过滤三类功能。其中,融云的文本过滤具有多语种识别能力,支持中文(简繁体)维语、藏语、英语、日语等。拥有毫秒级的响应速度,通过机器学习、智能算法、语义分析等度对数据解析,识别准确率可达 95% 以上。

融云的图片过滤能力基于融云海量样本库,识别准确率达90%以上,并且支持水印,倾斜,扭曲,异体等多种变形文字的提取识别,从而提高垃圾图片过滤的准确率。同时还可承受单日千万级图片数据的处理,支持数据高峰时段弹性扩容,检测结果毫秒级返回。

融云的音文件过滤能力可承载日均千万级数据处理,检测结果秒速返回;并支持场景化定制,多种模型组合训练,供手机号画像、IP画像等多并提维度判定,识别准确率可达98%。

综上,融云能够精准过滤文本、图片、音及音流中的不良信息,帮助客户有效规避风险,保证内容平台的健康安全,并且该服务机器审核和人工审核的双重保障,用户可根据自身情况同时使用,也可任选其一。

结语

由于各行各业通信云应用对绿色通信都存在迫切的需求,融云的音审核专门针对在音通信中,对内容有安全过滤和设防需求的客户而设。同时,音审核功能与其图文审核功能叠加复核,可全面过滤以及精准识别所有通信形式中的内容,构成了一个审核闭环的防护体系,在解决企业对通信内容安全痛点的同时,让业务运行省心、省力,省成本。

本文相关词条概念解析:

审核

审核是指为获得审核证据并对其进行客观的评价,以确定满足审核准则的程度所进行的系统的独立的并形成文件的过程。会计学上的审核,指的是审查核定;而银行学上的审核,是指为获得审核证据并对其进行客观的评价,以确定满足审核准则的程度所进行的系统的独立的并形成文件的过程。

网友评论

相关文章