团队简介

  • 隶属复旦大学系统软件与安全实验室(由杨珉教授领衔)
  • 团队负责人:张谧 教授(博导,个人主页
  • 科研:AI安全方面发表国际顶会顶刊论文数十篇
    • 安全四大:S&P、USENIX Security、CCS、NDSS(CSRanking名列国内前茅)
    • AI顶会顶刊:TPAMI、ICML、CVPR、NeurIPS、ICDE、KDD、AAAI…
  • 落地:多项AI安全研究成果服务国家、社会与行业
    • 牵头起草信安标委《人工智能安全标准化白皮书》(全国5家单位之一)
    • 联合起草国家标准《生成式人工智能服务安全基本要求》(进行中)
    • 参与制订信安标委《网络安全标准实践指南—生成式人工智能服务内容标识方法》
    • 与华为、奇安信、百度等大型IT企业具有深厚合作
  • 获奖:多次斩获国内外科研竞赛奖项
    • 网络安全国际顶尖会议USENIX Security Symposium 杰出论文奖(大陆高校首次)
    • 网络安全国际顶尖会议ACM CCS 最佳论文提名(每年仅4篇)
    • CNVD 2021年度国家最具价值漏洞
    • 上海市青年五四奖章集体 (2021年)
    • 中国计算机协会科学技术奖自然科学二等奖 (2021年)
    • 华为优秀技术成果奖
    • 国际顶尖安全竞赛DEFCON无人驾驶安全攻防赛冠军(两届蝉联)

近期新闻

  • [2024/02/26] 2篇论文被CVPR 2024录用😊😊恭喜黄元敏、汪亦凝等同学
  • [2024/01/23] 1篇论文被WWW 2024录用😊恭喜游小钰等同学
  • [🔥🔥🔥] 复旦白泽智能发布了基于语言学变异的大模型靶向式安全评测平台 JADE
  • [2024/01/10] 张谧教授做客《追AI的人》第34期,带你领略大模型安全伦理风险与治理前沿 [链接]
  • [2023/12/27] 张谧教授受邀参加AI发展与治理创新研讨会并分享《通用人工智能风险与治理——从OpenAI Q*谈起》
    媒体报道:[新华网][环球网][光明网][凤凰网]
  • [2023/12/20] 恭喜白泽智能的3位小伙伴顺利毕业:毕业快乐!
  • [2023/11/12] 复旦白泽智能凭借作品LLM Shield在“华为杯”第二届中国研究生网络安全创新大赛——大模型隐私安全赛道上荣获一等奖!
  • [2023/10/18] 复旦白泽智能在“第六届中国软件开源创新大赛——ModelScope挑战赛”中荣获一等奖!

全方位、多领域的AI理论功底和安全攻防技术积淀

时间序列
传感器数据
气象、金融
自然语言
大语言模型

图结构
社交网络
知识图谱
移动应用
API序列

机器视觉
无人驾驶(含点云)
人脸、深度伪造
推荐系统
评分、Point-of-Interest