RAG 风险：检索增强 LLM 为何并不更安全——Sebastian Gehrmann 访谈 #732

Bloomberg CTO 办公室负责任 AI 负责人 Sebastian Gehrmann 指出，RAG 可能反而降低模型安全性，并会输出不安全内容。他介绍了针对金融服务等高风险领域的安全评估方法与行业专属安全分类体系，以及 Bloomberg 的多层缓解策略，并强调治理与监管框架、提示词工程在提升安全性中的作用。