从互联网成为全球最重要的内容传输工具的那一天起，对互联网上的传播内容进行识别和甄选就成为行业的共识。

　　在互联网技术和应用不断发展的今天，维护网络空间的安全稳定已成为国家重大战略需求。然而，随着网络环境的复杂度越来越高以及受网络空间内容自身特性影响，面向多场景的互联网内容风控是提升内容风控水平迫在眉睫的关键任务。

　　作为互联网安全领域的“领头羊”，近日阿里安全在内容风控方面再获殊荣：由其牵头并联合中国科学院计算技术研究所和浙江大学共同完成的“面向多场景的互联网内容风控关键技术与应用”，由于“在人工智能和网络空间安全应用领域的重大技术突破”被浙江省人民政府评为2022年度浙江省技术发明二等奖。

　　这项发明针对内容风控方面的若干关键性技术难题开展了基础理论、关键技术和实践应用等方面的研究并取得了一系列达到国际领先水平的创新成果，这其中既包括发明专利和高水平学术论文，也包括对于国际/国内/行业的各类标准建立的主导和推动。研究成果已经在国家安全中心、重庆市公安局、百度公司、阿里云、泛亚电竞官方优酷等二十余个应用场景得到推广应用。

　　内容安全是国家网络空间安全的重要环节。从互联网诞生伊始，内容安全就是监管者和平台企业重点关注的问题。从最开始的人工审核到算法智能风控，虽然技术手段不断进步，但互联网环境和监管要求也在日益变化，因此，提升智能风控水平是近年来整个行业都在关注和研究的重点课题。

　　内容风控是指通过技术手段对网站上的信息进行筛选、识别和处理，以防止不符合规范要求的信息对公众造成不利影响和损失。内容风控工作主要包括信息识别、风险评估和信息过滤等环节。内容风控主要使用的技术手段包括文本分析、图像识别、语音识别、机器学习、人工智能等。

　　在当前互联网复杂背景下，智能风控技术需要面临数据形态复杂、对抗攻防激烈、资源消耗巨大等一系列挑战，难以适应实际场景的严苛需求。在此背景下，阿里安全抓住“面向多场景的互联网内容风控”这一关键任务展开研究并取得了重大成果。

　　在具体的研究成果上，阿里安全通过对“面向复杂数据形态的风控技术、面向对抗攻防环境的风控技术、面向资源受限环境的风控技术”三个技术方向的研发取得积极的进展和突破。

　　阿里安全始终坚持打造创新的安全技术能力和世界一流的安全风险防御体系，其官网“绿网”就是在此研究的基础上构建的复杂互联网环境下内容风控应用。

　　绿网深耕深度学习、自然语言理解、图像OCR、语音识别（ASR）等业界前沿人工智能技术，提供针对图片、视频、文字、音频等多媒体内容风险智能识别服务，不仅能帮助用户降低色情、暴恐、广告、垃圾信息等违规风险，而且能大幅度降低人工审核成本。

　　目前，阿里安全的这项研究成果已在阿里巴巴集团内、外部多个场景得到推广应用，取得了显著的经济和社会效益。日均调用频率数十亿次，累计产生直接经济效益11.44亿元，间接经济效益105.18亿元，社会效益显著，项目成果有力发展了人工智能安全技术，促进了网络空间安全应用领域的技术进步。

　　另外，随着大模型技术突飞猛进的发展，阿里安全团队也针对大模型技术的应用和安全开展研发，致力于通过对大模型的不断升级来建设更为完善的风控技术体系，同时也通过技术手段防范治理大模型可能引发的风险。