团队简介
- 团队负责人:张谧 教授(博导,个人主页)
- 大模型安全视频课程:当“巨兽”成为“宠物”:复旦白泽带你领略大模型安全伦理风险与治理 [b站录屏] [内容回顾]
- 科研:AI安全方面发表国际顶会顶刊论文数十篇
- 安全四大:S&P、USENIX Security、CCS、NDSS(CSRanking名列国内前茅)
- AI顶会顶刊:TPAMI、ICML、CVPR、NeurIPS、ICDE、KDD、AAAI…
- 落地:多项AI安全研究成果服务国家、社会与行业
- 牵头起草信安标委《人工智能安全标准化白皮书》(全国5家单位之一)
-
联合起草国家标准《生成式人工智能服务安全基本要求》(进行中)
-
参与制订信安标委《网络安全标准实践指南—生成式人工智能服务内容标识方法》
- 与华为、阿里、百度、奇安信等大型IT企业具有深厚合作
- 获奖:多次斩获国内外科研竞赛奖项
- 网络安全国际顶尖会议USENIX Security Symposium 杰出论文奖(大陆高校首次)
- 网络安全国际顶尖会议ACM CCS 最佳论文提名(每年仅4篇)
- CNVD 2021年度国家最具价值漏洞
- 上海市青年五四奖章集体 (2021年)
- 中国计算机协会科学技术奖自然科学二等奖 (2021年)
- 华为优秀技术成果奖
- 国际顶尖安全竞赛DEFCON无人驾驶安全攻防赛冠军(两届蝉联)
- 隶属复旦大学系统软件与安全实验室(由杨珉教授领衔)
近期新闻
- [2024/08/24] 1篇论文被CCS 2024录用😊恭喜陆逸凡同学
- [2023/06/26] 我们发布了 JADE 3.0:大模型安全对齐,在多款中文大模型上实现内生安全性与有用性的同时提升!
- [2024/03/09] 1篇论文被S&P 2024录用😊恭喜邱虎鸣同学
- [2024/02/26] 2篇论文被CVPR 2024录用😊😊恭喜黄元敏、汪亦凝等同学
- [2024/01/23] 1篇论文被WWW 2024录用😊恭喜游小钰等同学
- [2024/01/10] 张谧教授做客《追AI的人》第34期,带你领略大模型安全伦理风险与治理前沿 [链接]
- [2023/12/27] 张谧教授受邀参加AI发展与治理创新研讨会并分享《通用人工智能风险与治理——从OpenAI Q*谈起》
媒体报道:[新华网][环球网][光明网][凤凰网]
- [2023/12/20] 恭喜白泽智能的3位小伙伴顺利毕业:毕业快乐!
- [2023/11/20] 我们再次发布 JADE 2.0:大模型安全通用测试集,提供更多难度等级的测试问题!
- [2023/11/12] 复旦白泽智能凭借作品LLM Shield在“华为杯”第二届中国研究生网络安全创新大赛——大模型隐私安全赛道上荣获一等奖!
- [🔥🔥🔥] 复旦白泽智能发布了基于语言学变异的大模型靶向式安全评测平台 JADE!
- [2023/10/18] 复旦白泽智能在“第六届中国软件开源创新大赛——ModelScope挑战赛”中荣获一等奖!
全方位、多领域的AI理论功底和安全攻防技术积淀
时间序列
传感器数据
气象、金融
自然语言
大语言模型
机器视觉
无人驾驶(含点云)
人脸、深度伪造
推荐系统
评分、Point-of-Interest