とは何ですか 脱獄?

AI システムを人間の意図、価値観、安全上の制約に従って動作させる作業。

AI システムにおける有害な動作、障害、誤用のリスクを軽減することに重点を置いた分野。

プロンプトで直接提供される例のパターンに従うモデルの機能。

モデルの使用目的、メトリック、制限、リスクを説明するドキュメント。

生成モデルに提供される入力命令とコンテキスト。

プロンプトを設計して、出力品質、信頼性、制御性を向上させます。