2022年10月13日，由字节跳动举办的2022安全AI挑战赛成绩新鲜出炉，我院密码分析与大数据安全实验室黄征老师指导2名学生邓鑫瑞、马可凡组成Anya战队参赛。Anya战队在基于文本和多模态数据的风险识别赛道中与200余支战队同场竞技，最终在初赛、复赛榜单和决赛答辩中均排名第一，夺得冠军。

图 1 Anya战队成绩排名

战队在复赛的Emoji复杂文本识别赛题中提出了基于机器翻译和文本纠错的解决方案，对大数据时代下的网络信息内容安全研究具有重大意义。在短视频、自媒体高度发达的背景下，各大网络平台中出现了海量以Emoji表情通过谐音、字形等指代其他含义的内容。利用Emoji表情文本的灵活性，不法团伙可以绕过现有的基于规则或语义的策略模型发布不良信息，严重危害网络环境的内容安全与生态健康。战队以Emoji表情的原始含义作为辅助信息，通过机器翻译和文本纠错任务，将Emoji表情文本转换为适用于通用模型的规范文本，大大提升了对不规范文本的风险识别能力。

图 2 基于机器翻译和文本纠错的Emoji复杂文本识别方案

本次挑战赛由字节跳动安全中心主办，与上海交通大学、复旦大学、浙江大学等高校合作举办，结合学术界前沿研究挑战和工业界实际落地难点，围绕基于文本和多模态数据的风险识别（Track I）和文本对抗攻击（Track II）两个赛道展开，吸引了来自190余所高校、科研院所的500多支战队参赛。赛题不仅需要选手对学术领域前沿研究有深入的理解，也要求针对实际场景数据提出独到的改进，极具挑战性。

密码分析与大数据安全实验室负责人为邱卫东教授（副院长，中国中文信息学会大数据与隐私计算专委会副主任委员、入选教育部“新世纪优秀人才计划”、上海市优秀技术带头人，荣获中央网信办全国网络安全优秀教师），实验室长期从事密码分析/密码工程、大数据安全分析&隐私保护，囊括自然场景文本处理、互联网测量，图像视频多媒体智能化分析技术，AI安全/隐私保护和金融大数据分析等领域的研究，承担了包括国家重点研发计划、科技部863计划专项、科技部科技支撑计划、国家自然科学基金、国防预研等一系列国家级项目，研究成果荣获上海市科技进步一等奖。近年来在IEEE Transaction on Industrial Electronics、Knowledge-Based Systems、JOC、FSE、Information Sciences、Computer&Security等发表了100余篇学术论文。