评估GPT模型的可信度

近期，多所著名大学和研究机构联合发布了一个综合评估大型语言模型(LLMs)可信度的平台。相关研究成果发表在《DecodingTrust:全面评估GPT模型的可信度》一文中。

该评估发现了一些之前未公开的可信度相关漏洞。例如,GPT模型容易产生有偏见和有害的输出,还可能泄露训练数据和对话历史中的隐私信息。虽然在标准测试中GPT-4通常比GPT-3.5更可靠,但在面对恶意设计的提示时,GPT-4反而更容易受到攻击,可能是因为它更严格地遵循了误导性指令。

这项工作全面评估了GPT模型的可信度,揭示了存在的不足。评估基准已公开发布,研究团队希望能鼓励更多研究人员在此基础上深入探索,共同努力创造更强大、更可信的模型。

为评估GPT-3.5和GPT-4的鲁棒性,研究人员设计了三种评估场景:

1. 在标准AdvGLUE基准上进行测试,评估模型对现有文本对抗攻击的脆弱性。
2. 在AdvGLUE基准上使用不同的任务说明和系统提示,研究模型的恢复能力。
3. 使用新生成的具有挑战性的对抗性文本AdvGLUE++进行测试。

研究发现,GPT模型在某些方面表现出意外的鲁棒性,例如不会被演示中添加的反事实示例误导。但在其他方面存在漏洞,如容易受到误导性系统提示的影响而同意有偏见的内容。模型偏差还取决于提到的人群和具体主题。

在隐私保护方面,GPT模型可能会泄露训练数据中的敏感信息,特别是在相关上下文提示下。GPT-4在保护个人信息方面总体上比GPT-3.5更稳健,但在某些情况下反而更容易泄露隐私。

这项研究为全面评估大型语言模型的可信度提供了新的视角和方法。随着这些模型在各领域的广泛应用,持续评估和改进其可信度至关重要。