大型语言模型的可信度评估

伊利诺伊大学香槟分校联合多所知名高校和研究机构，开发了一个全面评估大型语言模型(LLMs)可信度的平台。这项研究成果发表在题为《DecodingTrust：全面评估GPT模型的可信度》的论文中。

研究团队从多个角度对GPT模型进行了深入分析，发现了一些此前未曾披露的可信度漏洞。例如，GPT模型容易产生有毒和带偏见的输出，还可能泄露训练数据和对话历史中的私密信息。有趣的是，尽管GPT-4在标准测试中通常比GPT-3.5更可靠，但在面对特别设计的恶意提示时，GPT-4反而更容易受到攻击，可能是因为它更严格地遵循了误导性指令。

研究团队从八个不同角度评估了GPT模型的可信度，涵盖了各种应用场景、任务类型和评估指标。他们特别关注模型在对抗性环境下的表现，如面对恶意系统提示或用户输入时的应对能力。

在评估过程中，研究人员设计了多种测试场景。例如，他们使用标准的AdvGLUE基准测试模型对文本对抗攻击的抵抗力，同时也创建了更具挑战性的AdvGLUE++数据集来进一步测试模型的脆弱性。

研究结果揭示了一些有趣的现象。在处理对抗性演示时，GPT模型表现出了一定的稳健性，但也存在弱点。特别是在面对带有偏见的内容时，GPT-4比GPT-3.5更容易受到误导性系统提示的影响。

在隐私保护方面，研究发现GPT模型可能会泄露训练数据中的敏感信息，如电子邮件地址。虽然GPT-4在保护个人身份信息方面表现较好，但在特定情况下仍可能泄露隐私。

这项研究为未来改进语言模型的可信度提供了重要依据。研究团队希望通过公开他们的评估基准，鼓励更多研究者参与，共同努力创造更可靠、更安全的AI模型。