全球AI大模型攻防挑战赛乌镇峰会收官：网安学子勇夺佳绩
时间：2024年11月25日 | 来源： | 作者：王烁
11月20日，全球AI大模型攻防挑战赛在世界互联网大会乌镇峰会圆满收官。上海交通大学网络空间安全学院LoCCS实验室“可信智能队”（学生：徐菲悦、喻宣然、杭晟、赵禹博，指导老师：王烁、贺超翔、孙士锋）表现优异，荣获大赛季军，并斩获“杰出方案奖”。
此次大赛自9月启动以来，吸引了来自全球18个国家和地区的2700多个赛队、3200余名技术精英参与，选手们通过攻防双向赛道激烈竞技，最终角逐出全球十强。参赛队伍不仅涵盖清华大学、北京大学、上海交通大学等国内顶尖高校，也包括南洋理工大学、约翰霍普金斯大学、香港科技大学、悉尼大学等国际知名学府。此外，赛事还吸引了字节跳动、理想汽车、腾讯、智谱AI、Shopee、网易等280多家知名企业的技术团队参与，覆盖互联网、金融、汽车及大模型科技等多个行业。
大赛由中国图象图形学学会、蚂蚁集团和云安全联盟（CSA）大中华区联合主办，并联合清华大学、上海交通大学、浙江大学等多所高校及多家产学研组织共同发起，旨在直面大模型应用中的潜在安全风险，为全球AI产业的健康可持续发展贡献力量。
国内首个攻防赛：聚焦AI反诈等大模型安全真实场景
近年来，人工智能技术特别是大模型及AIGC领域快速发展，为我们的生活带来了巨大便利，同时也引发了诸多安全挑战。
中国工程院院士、中国图象图形学学会理事长王耀南指出：“加强大模型安全保护，构建完善的安全防护体系，是确保人工智能技术持续、稳定、健康发展的关键所在，也是我们在这个充满机遇与挑战的时代必须肩负的重要使命。”
本次挑战赛聚焦于大模型的两大关键安全问题：大模型自身安全和大模型生成内容的防伪检测。赛题涵盖多个真实业务场景，如信用成长、凭证审核、商家入驻和智能助理等，涉及机器学习、图像处理、计算机视觉和数据处理等多个算法领域，通过创新技术解决方案，为保障大模型的安全应用和产业安全提供了重要参考。
为激励参赛队伍在算法创新性和资源绿色性方面的卓越表现，赛事特别设立了“杰出方案奖”。这一荣誉最终由上海交通大学网络空间安全学院、西安交通大学和理想汽车赛队获得。网安学子凭借创新的技术方案和对资源高效利用的深入探索，为大模型技术的安全应用提供了新思路，也彰显了科技与可持续发展的紧密结合。
育人才、建标准：推动大模型安全可持续发展
本次大赛汇聚了全球范围内的技术精英，搭建了技术交流与竞技的平台，不仅为行业发现和储备了新生力量，也促进了AI领域的知识传播和技术突破。上海交通大学网络空间安全学院院长谷大武教授表示：“面对AI时代的快速发展，学院在人才培养模式和知识结构上进行了重点布局。通过产学研用的深度融合，与工业界共同设计课程，注重培养具有实战能力的复合型人才，为新型人才构建了广阔的发展空间和创新平台。”
活动现场，中国信通院、蚂蚁集团、上海交通大学等单位联合启动了“护证计划”，呼吁共建行业标准以守护用户的身份安全。中国信通院泰尔终端实验室数字生态发展部主任王景尧、中国图象图形学学会副理事长兼秘书长马惠敏、蚂蚁集团副总裁李俊奎、IIFAA互联网可信认证联盟理事长邵晓东、上海交通大学网络空间安全学院院长助理王烁参加了启动仪式。
