生成的な事前学習済みTransformerモデルの信頼性評価

イリノイ大学アーバナ・シャンペーン校は、複数の著名な大学や研究機関と協力し、大規模言語モデル(LLMs)に対する包括的な信頼性評価プラットフォームを発表しました。彼らの研究成果『DecodingTrust：GPTモデルの信頼性を包括的に評価する』は、以前は公開されていなかった信頼性に関連するいくつかの脆弱性を明らかにしました。

研究によると、GPTモデルは有害で偏見のある出力を生成しやすく、トレーニングデータや対話履歴のプライバシー情報を漏洩する可能性があります。標準ベンチマークテストでは、GPT-4は通常、GPT-3.5よりも信頼性がありますが、悪意のある設計のシステムやユーザーからのプロンプトに直面した場合、逆にGPT-4は攻撃を受けやすくなる可能性があります。これは、誤解を招く指示により厳密に従うためかもしれません。

この研究は、GPTモデルの包括的な信頼性評価を提供し、既存のモデルの不足を明らかにしました。研究チームの評価基準は公開されており、より多くの研究者が参加し、この分野をさらに改善することを奨励することを目的としています。特に注目すべきは、研究結果が現在提供されている顧客向けサービスはこれらの潜在的な脆弱性の影響を受けないことを示しており、これは実施された一連の緩和策のおかげです。

GPTモデルの評価は、8つの信頼性の観点から包括的に分析されており、さまざまな構築シナリオ、タスク、指標、およびデータセットが含まれています。例えば、モデルのテキスト対抗攻撃に対するロバスト性を評価する際、研究者は標準ベンチマークテスト、異なるガイダンスのタスク説明におけるパフォーマンス、そしてより挑戦的な対抗テキストに直面した際のパフォーマンスを含む3つの評価シナリオを構築しました。

研究はまたいくつかの興味深い現象を発見しました。例えば、GPTモデルはデモに追加された反事実の例に惑わされないが、逆に詐欺防止デモには惑わされる可能性があります。有毒性や偏見の観点から、モデルは良性の環境でより良いパフォーマンスを発揮しますが、誤解を招くシステムプロンプトの影響を受けやすいです。また、モデルは異なる人口集団やトピックに対して偏見の程度に違いがあります。

プライバシー保護に関して、研究によればGPTモデルは、特定の文脈やデモ条件下で訓練データに含まれる機密情報を漏洩する可能性があることが分かっています。全体として、GPT-4は個人識別情報の保護においてより優れた性能を示していますが、両方のモデルはプライバシー漏洩のデモの影響を受けやすいです。

この研究は、大規模言語モデルの信頼性を理解し改善するための重要な洞察を提供するとともに、これらのモデルを適用する際の慎重さとさらなる研究の必要性を強調しています。