今天分享的是：澳鹏：2025年对抗性提示：大模型安全性基准测试报告
报告共计：15页
澳鹏2025年大模型对抗性提示安全性基准测试报告总结
澳鹏发布的《2025年对抗性提示：大模型安全性基准测试报告》，聚焦大语言模型（LLM）对抗性提示安全问题，通过构建评估体系与实验，揭示主流模型安全性能差异及影响因素，为LLM安全部署提供方向。
报告指出，LLM虽在多领域展现强大能力并广泛应用，但易受对抗性提示影响，生成有害内容，威胁信任、公平性及负责任AI部署。AI安全性侧重降低非预期风险，AI安全防护关注抵御外部威胁，此前已有相关分类体系、数据集及微调方法，但文化背景等环境因素对LLM安全的影响仍待深入研究。
研究团队依托红队测试经验，设计含1000个对抗性提示词的数据集，用官方API评估DeepSeek R1、Claude 3.7 Sonnet、LLAMA 3.3 70B Instruct、GPT-4o四大主流模型。经单盲预筛选与人工多轮评分（1-5分衡量危害性），结合卡方独立性检验，发现模型安全性能差异显著且具统计意义。
结果显示，Claude 3.7 Sonnet表现最优，无害响应占比超80%；DeepSeek R1最差，无害响应仅14.7%，平均危害评分最高；LLAMA 3.3有害响应占比74.8%，高危害级别占比高；GPT-4o处于中间水平，但仍有不少不安全响应。且模型规模大、发布新不代表安全性能优，架构设计与推理时间计算资源并非安全关键。
讨论环节分析，虚拟化、规避等对抗性提示技术易引发高危害输出，前者将有害请求嵌入虚构场景，后者用模糊表述绕开过滤；涉及敏感身份群体的提示词危害评分更高，LLM易重现刻板印象；部署阶段的系统提示词、多层安全策略及持续监控等对安全性能影响显著，机构安全理念也与模型行为相关。
报告结论强调，LLM安全需开发、训练、部署全流程综合方案，机构决策起关键作用，并建议优先安全训练、实施多层安全系统、制定身份相关内容处理协议等，以减少有害输出，实现AI系统功能与人类价值观的平衡。
以下为报告节选内容
)
(大拉皮手术有危险吗))
)
)
)
)
)
)
)
)
)
)
)
)
)