生成式预训练Transformer模型的可信度评估

伊利诺伊大学香槟分校与多所知名院校和研究机构合作，发布了一个针对大型语言模型(LLMs)的综合可信度评估平台。他们的研究成果《DecodingTrust：全面评估GPT模型的可信度》揭示了一些以前未公开的与可信度相关的漏洞。

研究发现，GPT模型容易产生有毒和偏见的输出，并可能泄露训练数据和对话历史中的隐私信息。虽然在标准基准测试中GPT-4通常比GPT-3.5更可靠，但在面对恶意设计的系统或用户提示时，GPT-4反而更容易受到攻击，这可能是因为它更严格地遵循了误导性指令。

这项工作提供了对GPT模型的全面可信度评估，揭示了现有模型的不足之处。研究团队的评估基准已公开发布，旨在鼓励更多研究人员参与并进一步改进这一领域。值得注意的是，研究结果表明目前面向客户的服务不会受到这些潜在漏洞的影响，这部分归功于已实施的一系列缓解措施。

评估从八个可信度角度对GPT模型进行了全面分析，涵盖了不同的构建场景、任务、指标和数据集。例如，在评估模型对文本对抗攻击的鲁棒性时，研究者构建了三种评估场景，包括标准基准测试、不同指导性任务说明下的表现，以及面对更具挑战性的对抗性文本时的表现。

研究还发现了一些有趣的现象。例如，GPT模型不会被演示中添加的反事实示例误导，但可能会被反欺诈演示误导。在有毒性和偏见方面，模型在良性环境下表现较好，但容易受到误导性系统提示的影响。此外，模型对不同人口群体和话题的偏见程度也存在差异。

在隐私保护方面，研究发现GPT模型可能会泄露训练数据中的敏感信息，尤其是在特定上下文或演示条件下。总体而言，GPT-4在保护个人身份信息方面表现更好，但两种模型都容易受到隐私泄露演示的影响。

这项研究为理解和改进大型语言模型的可信度提供了重要见解，同时也强调了在应用这些模型时需要谨慎和进一步研究的必要性。