リスクと誤用

私たちは、few-shot学習やchain-of-thoughtプロンプトのようなテクニックを使って、うまく作られたプロンプトがさまざまなタスクでいかに効果的であるかをすでに見てきました。LLMの上に実世界のアプリケーションを構築することを考えると、言語モデルの誤用、リスク、安全対策について考えることが非常に重要になります。

このセクションでは、プロンプトインジェクションのような手法によるLLMのリスクと誤用に焦点を当てます。また、有害な行動と、効果的なプロンプト技術によってそれを軽減する方法についても言及します。その他、一般化可能性、キャリブレーション、バイアス、社会的バイアス、事実性など、興味のあるトピックをいくつか挙げていきます。