自動プロンプトエンジニア（APE）

画像出典：Zhou et al.,（2022年） (opens in a new tab)

Zhou et al.,（2022年） (opens in a new tab)は、自動指示生成と選択のためのフレームワークである自動プロンプトエンジニア（APE）を提案しています。指示生成問題は、LVMを使用して候補解を生成して検索することで、ブラックボックス最適化問題としてアドレスされる自然言語合成としてフレームされます。

最初のステップは、タスクのための指示候補を生成する推論モデルとしての大規模言語モデルを使用することです。これらの候補解は、検索手順を指導します。指示はターゲットモデルを使用して実行され、計算された評価スコアに基づいて最適な指示が選択されます。

APEは、人間が設計した「一緒にステップバイステップで考えてみましょう」というプロンプトよりも優れたゼロショットCoTプロンプトを発見しました（Kojima et al.、2022）。

「一緒にステップバイステップで作業し、正しい答えを確認するために」のプロンプトは、思考の連鎖を引き起こし、MultiArithおよびGSM8Kベンチマークのパフォーマンスを向上させます。

画像出典：Zhou et al.,（2022年） (opens in a new tab)

この論文は、プロンプトエンジニアリングに関連する重要なトピックに触れており、プロンプトを自動的に最適化するアイデアが含まれています。このガイドではこのトピックについて深く掘り下げませんが、興味がある場合は、以下のいくつかの主要な論文をご紹介します。

• AutoPrompt (opens in a new tab) - 勾配誘導型の検索に基づいて、多様なタスクのためのプロンプトを自動的に作成するアプローチを提案します。
• Prefix Tuning (opens in a new tab) - NLGタスクのためのトレーニング可能な連続プレフィックスを前置する、ファインチューニングの軽量な代替案です。
• Prompt Tuning (opens in a new tab) - 逆伝播を通じてソフトプロンプトを学習するメカニズムを提案します。