大規模言語モデルの信頼性評価

イリノイ大学アーバナ・シャンペーン校は、複数の著名な大学や研究機関と共同で、巨大言語モデル(LLMs)の信頼性を総合的に評価するプラットフォームを開発しました。この研究成果は、「DecodingTrust：GPTモデルの信頼性を総合的に評価する」というタイトルの論文に発表されました。

研究チームは、複数の観点からGPTモデルの詳細な分析を行い、以前は公表されていなかった信頼性の脆弱性をいくつか発見しました。例えば、GPTモデルは有害で偏った出力を生成しやすく、トレーニングデータや対話履歴内の機密情報を漏洩する可能性があります。興味深いことに、GPT-4は標準テストでは通常GPT-3.5よりも信頼性が高いですが、特に設計された悪意のあるプロンプトに直面した場合、GPT-4は逆に攻撃を受けやすいことがあります。これは、誤解を招く指示により厳密に従うためかもしれません。

研究チームは、さまざまなアプリケーションシナリオ、タスクタイプ、評価指標を網羅した8つの異なる視点からGPTモデルの信頼性を評価しました。彼らは特に、悪意のあるシステムプロンプトやユーザー入力に直面した際のモデルの対抗環境でのパフォーマンスに注目しました。

評価プロセスでは、研究者はさまざまなテストシナリオを設計しました。例えば、彼らは標準のAdvGLUEベンチマークテストモデルを使用してテキスト対抗攻撃に対する抵抗力を評価し、さらにモデルの脆弱性をテストするために、より挑戦的なAdvGLUE++データセットを作成しました。

研究結果は、いくつかの興味深い現象を明らかにしています。対抗的なデモを処理する際、GPTモデルは一定の堅牢性を示しましたが、弱点も存在します。特に、偏見のあるコンテンツに直面した場合、GPT-4はGPT-3.5よりも誤解を招くシステムプロンプトの影響を受けやすいです。

プライバシー保護の観点から、研究によるとGPTモデルはトレーニングデータに含まれる機密情報、例えばメールアドレスを漏洩する可能性があります。GPT-4は個人識別情報の保護において良好なパフォーマンスを示していますが、特定の状況下では依然としてプライバシーを漏洩する可能性があります。

この研究は、将来の言語モデルの信頼性を向上させるための重要な根拠を提供します。研究チームは、彼らの評価基準を公開することで、より多くの研究者が参加し、より信頼性が高く、安全なAIモデルを共同で作成するために努力することを奨励したいと考えています。