对无关概念做到几乎完全保留。

一键擦除:清华&阿里合作推出“概念半透膜”模型

2024-03-14 19:23:49发布     来源:多知网    作者:Mint  

  多知网3月14日消息,清华大学丁贵广教授团队和阿里安全联合发布了概念半透膜模型(concept Semi-Permeable Membrane,SPM 模型),该模型能够在 Diffusion 架构的 AI 作图模型中,精准、可控地擦除各类具象或抽象概念,并对无关概念做到几乎完全保留。

  相关论文《One-dimensional Adapter to Rule Them All: Concepts, Diffusion Models and Erasing Applications》已经被计算机视觉国际顶级会议 CVPR 2024 高分录用。

  

 

  

 

 

  

 

  阿里集团资深总监、人工智能治理与可持续发展研究中心主任、集团科技伦理治理委员会执行主席薛晖表示:该项成果在通义大模型系列的 AIGC 内生安全领域、可控生成等方面都具备落地潜力,能够有效避免有害概念的侵害,促进通义等 AI 技术产品可用、可靠、可信、可控地向善发展。

  另附:

  项目主页:https://lyumengyao.github.io/projects/spm

  Github 地址:https://github.com/Con6924/SPM

  论文地址:https://arxiv.org/abs/2312.16145