伴随互联网在我国的日益普及,网络内容呈现爆炸式增长。据第52次《中国互联网络发展状况统计报告》显示,截至2023年6月我国互联网用户总数10.79亿,互联网普及率达76.4%,即时通信、网络视频、短视频用户规模分别达10.47亿人、10.44亿人和10.26亿人。不良内容的泛滥不仅威胁用户的健康和安全,对企业的声誉和品牌形象也造成巨大的影响。《中华人民共和国网络安全法》规定了网络运营者应当履行的内容审查义务,要求防止传播违法信息、淫秽色情等有害内容,保障网络的安全和健康。面对市场需求和国家政策要求,中国移动杭州研发中心重磅升级内容安全解决方案,基于高效AI自动检测技术打造面向不良信息内容审核场景高品质服务,提供涉黄、涉政、涉暴恐、广告、涉价值观等不良内容检测服务,实时掌握系统、网站的内容风险动态。
一、面向家庭,基于智能审核打造优质上网环境
结合图像处理、自然语言处理、OCR、人脸识别、音频转写等人工智能技术,以机器审核为主导提升内容审核效率,针对在线教育平台、游戏等娱乐应用,实时检测和协助过滤不良内容,如敏感言论、低俗信息、违法内容等,帮助在线教育平台、儿童学习应用和娱乐节目等场景实现高效内容审核,确保用户获取高质量、高安全的学习和娱乐资源。
二、面向企业医疗,疾速审核保障文明问诊体验
互联网医疗平台的快速发展,给患者提供了更便捷的求诊渠道,但也带来了内容安全和可靠性的挑战。内容安全解决方案致力于为互联网医疗平台提供三大特色服务:
1、违规言论检测:对于医生和患者在医疗问诊中的言论,进行违规内容的检测,包括识别涉黄、涉毒、涉政、涉暴恐、涉价值观等不良信息,维护良好的医疗问诊环境。
2、诱导推广识别:对于可能存在医疗广告、频繁诱导消费者进行消费的场景,可以通过个性化策略配置,减少用户受到恶意广告等不良信息发生。
3、高效响应结果:最快毫秒级高速响应,日处理消息达亿级别,在保障用户线上问诊体验的前提下构建文明安全的医疗沟通环境。
三、面向网站运营者,一键审核内容风险及时掌控
面向购物、在线社区、高校论坛及社交等网站,提供内容采集、内容识别、风险告警三大核心能力。同时,全面升级服务模式,从原有的API接口升级为轻量化的网站配置模式,用户无需系统改造,只需提供网站地址、网站信息,即可实现内容识别和风险告警。在用户体验方面,进一步提供特定时间段、特定类型的告警情况等维度的便捷查询,实现内容风险及时感知,帮助网站运营者降低恶意造谣、人身攻击、虚假信息、敏感的政治话题传播等内容安全风险,维护网站清朗空间。
四、面向直播平台,灵活高效守护健康直播环境
视频直播如火如荼发展的同时,带来了诸多问题。低俗直播、涉黄直播、直播间谩骂、引流、涉暴恐等问题层出不穷。2023年10 月,网信办依法约谈某直播平台相关负责人,针对其存在言行低俗、色情等破坏网络生态问题做出指示,责令立即全面深入整改,严肃处理相关责任人。
针对直播中出现的各类内容违规问题,中国移动杭州研发中心基于先进的AI识别技术和人工审核系统,推出直播场景的内容安全防护方案,具备高效监测和灵活配置双重优势。一方面,系统可7×24h不间断运行,最大可支持2000路2k高清直播流的同时接入;另一方面用户可以根据具体场景需求进行抽帧频率、审核时长、敏感词库等个性化设置,例如对于服务资源敏感的用户,可以在重点场景设置高频抽帧、在普通场景设置关键帧抽帧,进而实现识别完整度和资源投入的平衡。
当前,中国移动内容安全产品已相继落地于辽宁、云南、政企等6个省份,服务移动办公、5G视信、和家亲、家庭安防、智慧社区等86个业务,累计过滤消息超249亿条、拦截违规消息达1.8亿条。中国移动杭州研发中心将始终践行企业社会责任,持续优化升级能力建设,为客户提供高效、安全、便捷的内容审核服务,致力于打造“清朗”网络空间。