GPTモデルの信頼性を包括的に評価する新しい研究

複数のトップ大学と研究機関が共同で実施した研究において、GPTなどの大規模言語モデルの信頼性が包括的に評価されました。研究チームは総合評価プラットフォームを開発し、最新の論文『DecodingTrust: GPTモデルの信頼性の包括的評価』で関連する発見を紹介しました。

研究により、信頼性に関連するいくつかの公開されていない脆弱性が発見されました。例えば、GPTモデルは誤解を招き、有害で偏見のある出力を生成しやすく、トレーニングデータや対話履歴のプライバシー情報を漏洩する可能性があります。標準ベンチマークテストでは、GPT-4は通常GPT-3.5よりも信頼性が高いですが、悪意のある設計のシステムプロンプトやユーザープロンプトに直面した場合、GPT-4は逆に攻撃を受けやすくなることがあります。これは、GPT-4が誤解を招く指示に対してより厳密に従うためかもしれません。

研究チームは、対抗攻撃の堅牢性、有毒性や偏見、プライバシー漏洩など、8つの信頼性の観点からGPTモデルを包括的に評価しました。例えば、テキストに対する対抗攻撃の堅牢性を評価する際、研究者は標準ベンチマークテスト、異なるタスクの指示に基づくパフォーマンス、より挑戦的な対抗テキストに直面した際の脆弱性を含む3つの評価シナリオを構築しました。

研究はまた、GPTモデルが特定の状況で予期しない利点を示すことを発見しました。例えば、GPT-3.5とGPT-4は、デモに追加された反事実の例によって誤解されることはなく、むしろそれから利益を得る可能性さえあります。しかし同時に、反詐欺デモを提供することは、特に反事実デモがユーザーの入力に近い場合、モデルが反事実入力に対して誤った予測を行う可能性を誤解させることがあります。

有毒性や偏見に関して、GPTモデルは良性の環境下での大多数のステレオタイプのテーマに対する偏差はあまり大きくありませんが、誤解を招くシステムプロンプトの下で、偏見のある内容に同意するように「誘導」される可能性があります。GPT-4はGPT-3.5よりもターゲットを絞った誤解を招くシステムプロンプトの影響を受けやすいです。モデルの偏見の程度は、ユーザーのプロンプトで言及される人口集団やステレオタイプのテーマにも関係しています。

プライバシー漏洩の問題に関する研究では、GPTモデルがトレーニングデータに含まれる敏感な情報、例えば電子メールアドレスを漏洩する可能性があることが発見されました。特定の状況下では、補足知識を利用することで情報抽出の精度が大幅に向上することがあります。GPTモデルは、対話履歴に注入されたプライベート情報を漏洩する可能性もあります。全体として、GPT-4は個人の識別情報を保護する面でGPT-3.5よりも堅牢ですが、どちらのモデルもプライバシー漏洩のデモに直面した際には、さまざまな個人情報を漏洩する可能性があります。

この研究は、GPTモデルの信頼性に関する包括的な評価を提供し、潜在的な脆弱性と改善の余地を明らかにしました。研究チームは、この作業がより多くの研究者の参加を促し、より強力で信頼性の高いモデルを共同で作成するための努力をすることを期待しています。