生成式預訓練Transformer模型的可信度評估

伊利諾伊大學香檳分校與多所知名院校和研究機構合作，發布了一個針對大型語言模型(LLMs)的綜合可信度評估平台。他們的研究成果《DecodingTrust：全面評估GPT模型的可信度》揭示了一些以前未公開的與可信度相關的漏洞。

研究發現，GPT模型容易產生有毒和偏見的輸出，並可能泄露訓練數據和對話歷史中的隱私信息。雖然在標準基準測試中GPT-4通常比GPT-3.5更可靠，但在面對惡意設計的系統或用戶提示時，GPT-4反而更容易受到攻擊，這可能是因爲它更嚴格地遵循了誤導性指令。

這項工作提供了對GPT模型的全面可信度評估，揭示了現有模型的不足之處。研究團隊的評估基準已公開發布，旨在鼓勵更多研究人員參與並進一步改進這一領域。值得注意的是，研究結果表明目前面向客戶的服務不會受到這些潛在漏洞的影響，這部分歸功於已實施的一系列緩解措施。

評估從八個可信度角度對GPT模型進行了全面分析，涵蓋了不同的構建場景、任務、指標和數據集。例如，在評估模型對文本對抗攻擊的魯棒性時，研究者構建了三種評估場景，包括標準基準測試、不同指導性任務說明下的表現，以及面對更具挑戰性的對抗性文本時的表現。

研究還發現了一些有趣的現象。例如，GPT模型不會被演示中添加的反事實示例誤導，但可能會被反欺詐演示誤導。在有毒性和偏見方面，模型在良性環境下表現較好，但容易受到誤導性系統提示的影響。此外，模型對不同人口羣體和話題的偏見程度也存在差異。

在隱私保護方面，研究發現GPT模型可能會泄露訓練數據中的敏感信息，尤其是在特定上下文或演示條件下。總體而言，GPT-4在保護個人身分信息方面表現更好，但兩種模型都容易受到隱私泄露演示的影響。

這項研究爲理解和改進大型語言模型的可信度提供了重要見解，同時也強調了在應用這些模型時需要謹慎和進一步研究的必要性。