团队简介

  • 团队负责人:张谧 教授(博导,个人主页
    • 大模型安全视频课程:当“巨兽”成为“宠物”:复旦白泽带你领略大模型安全伦理风险与治理 [b站录屏] [内容回顾]
  • 科研:AI安全方面发表国际顶会顶刊论文数十篇
    • 安全四大:S&P、USENIX Security、CCS、NDSS(CSRanking名列国内前茅)
    • AI顶会顶刊:TPAMI、ICML、CVPR、NeurIPS、ICDE、KDD、AAAI…
  • 落地:多项AI安全研究成果服务国家、社会与行业
    • 牵头起草信安标委《人工智能安全标准化白皮书》(全国5家单位之一)
    • 联合起草国家标准《生成式人工智能服务安全基本要求》(进行中)
    • 参与制订信安标委《网络安全标准实践指南—生成式人工智能服务内容标识方法》
    • 与华为、阿里、百度、奇安信等大型IT企业具有深厚合作
  • 获奖:多次斩获国内外科研竞赛奖项
    • 网络安全国际顶尖会议USENIX Security Symposium 杰出论文奖(大陆高校首次)
    • 网络安全国际顶尖会议ACM CCS 最佳论文提名(每年仅4篇)
    • CNVD 2021年度国家最具价值漏洞
    • 上海市青年五四奖章集体 (2021年)
    • 中国计算机协会科学技术奖自然科学二等奖 (2021年)
    • 华为优秀技术成果奖
    • 国际顶尖安全竞赛DEFCON无人驾驶安全攻防赛冠军(两届蝉联)
  • 隶属复旦大学系统软件与安全实验室(由杨珉教授领衔)

近期新闻

  • [2023/11/26] 我们发布了 JADE 4.0:基于安全规约的检索增强生成,通过提炼人类社会的通用安全规约构建 RAG,帮助大模型如同人类般理解安全规则,对齐普适价值观!
  • [2024/10/26] 黄元敏、陆逸凡同学受 PaperWeekly 邀请,直播分享《大模型安全生态总览:前沿进展与挑战》 [链接](手机微信打开可观看回放)
  • [2024/08/24] 1篇论文被CCS 2024录用😊恭喜陆逸凡同学
  • [2023/06/26] 我们发布了 JADE 3.0:大模型安全对齐,在多款中文大模型上实现内生安全性与有用性的同时提升!
  • [2024/03/09] 1篇论文被S&P 2024录用😊恭喜邱虎鸣同学
  • [2024/02/26] 2篇论文被CVPR 2024录用😊😊恭喜黄元敏、汪亦凝等同学
  • [2024/01/23] 1篇论文被WWW 2024录用😊恭喜游小钰等同学
  • [2024/01/10] 张谧教授做客《追AI的人》第34期,带你领略大模型安全伦理风险与治理前沿 [链接]
  • [2023/12/27] 张谧教授受邀参加AI发展与治理创新研讨会并分享《通用人工智能风险与治理——从OpenAI Q*谈起》
    媒体报道:[新华网][环球网][光明网][凤凰网]
  • [2023/12/20] 恭喜白泽智能的3位小伙伴顺利毕业:毕业快乐!
  • [2023/11/20] 我们再次发布 JADE 2.0:大模型安全通用测试集,提供更多难度等级的测试问题!
  • [2023/11/12] 复旦白泽智能凭借作品LLM Shield在“华为杯”第二届中国研究生网络安全创新大赛——大模型隐私安全赛道上荣获一等奖!
  • [🔥🔥🔥] 复旦白泽智能发布了基于语言学变异的大模型靶向式安全评测平台 JADE
  • [2023/10/18] 复旦白泽智能在“第六届中国软件开源创新大赛——ModelScope挑战赛”中荣获一等奖!

全方位、多领域的AI理论功底和安全攻防技术积淀

时间序列
传感器数据
气象、金融
自然语言
大语言模型

图结构
社交网络
知识图谱
移动应用
API序列

机器视觉
无人驾驶(含点云)
人脸、深度伪造
推荐系统
评分、Point-of-Interest