2024年8月29日，第五届字节跳动“安全范儿”高校挑战赛正式开启。大赛设置ByteCTF、ByteAI、ByteHACK三大赛道，其中ByteAI安全挑战赛于9.5-9.27期间进行线上初赛。
当前距离ByteAI初赛结束还有7天，来自中国科学院大学的「suibianwanwan」战队、浙江大学与北京邮电大学的「龙行好运」联合战队、北京邮电大学的「Cabelis」战队暂列初赛前三名。初赛结束前均可报名参赛，即刻报名，冲击榜单！
报名地址：https://byteai.clsadp.com/#/
为什么设置大模型攻防赛题
随着大模型的迅猛发展，Jailbreak、Prompt Leaking等攻击威胁如期而至。其中，Jailbreak指通过设计话术绕过大模型的安全机制，诱导大模型输出非法内容。PromptLeaking指通过设计话术诱导ChatBot输出其SystemPrompt，损害Bot开发者的知识产权，可能暴露大模型的算法细节。
赛题聚焦大模型攻防安全，考察选手如何在大模型时代进行创新性攻击，希望通过“攻击突破”的方式来促进大模型防御，助力大模型安全发展。
赛题介绍
大赛围绕LLM的Jailbreak和Prompt Leaking两种风险展开，大赛提供LLM ChatBot的对话接口（由大模型 + 外围输入过滤防火墙组成），要求参赛队伍通过各种手段生成Jailbreak和Prompt Leaking样本，去攻击大赛给定的LLM ChatBot对话接口，以尽可能高的成功率来攻破ChatBot的防护。
题目判分会根据两个样本的攻击成功率和多样性两个角度来进行综合评估。
赛事奖励
大赛除了为同学们提供丰厚的现金奖励外，决赛成绩前7的战队成员还将有机会与业务负责人1v1面试交流。
初赛结束倒计时7天！
单人作战、多人组队均可
即刻报名，开启大模型攻防之战
点击「阅读原文」按钮，跳转比赛平台
如有侵权请联系:admin#unsafe.sh