AI バイアス クイズ

クイズに答えると、答えと解説が表示されます。

1. ガイドによると、AI システムのどこにバイアスが入り込む可能性がありますか?
   • データ、測定、モデリングの選択、人間の判断、および周囲のワークフロー
   • 機密性の高い列を経由する場合のみ
   • ユーザーインターフェース経由のみ
   • モデルのデプロイ後のみ
2. デリケートな属性を削除してもバイアスを排除できないのはなぜですか?
   • 機密属性は常に唯一の情報源です
   • 他の特徴または履歴ラベルは関連するパターンをエンコードする可能性があります
   • 列を削除すると公平性が保証されます
   • モデル評価にグループは不要になりました
3. データセットのラベルは、人間の過去の決定を反映しています。チームは何を尋ねるべきでしょうか?
   • 機密列が削除されたかどうか
   • ラベルが予測しやすいかどうか
   • ラベルが意図した結果を捉えているか、それとも古いプロセスを捉えているか
   • モデルに十分なレイヤーがあるかどうか
4. サブグループ指標のサンプルサイズと不確実性をレポートする理由は何ですか?
   • 平均スコアは常に十分です
   • すべてのサブグループのサンプルサイズは同じです
   • 不確実性によりグループテストが不可能になる
   • 小さなグループでは推定値が信頼できない可能性があり、平均値では格差が隠れてしまう可能性があります
5. なぜ 1 つの公平性基準を選択すると、他の懸念が解決されないままになるのでしょうか?
   • 1 つの統計基準であらゆる法的懸念が解決される
   • 基準が異なれば答えも異なり、矛盾する可能性があります
   • 単一の指標により、あらゆるコンテキストでの公平性が保証されます
   • 指標を選択すると、影響を受けるコミュニティからの入力が不要になります
6. 結果的なシステムの公平性基準の選択を誰が支援すべきでしょうか?
   • エンジニアリングチームのみ
   • モデルベンダーのみ
   • ドメインの専門家とシステムの影響を受ける人々
   • レビューのない言語モデル
7. モデルに関するワークフローを見直す理由は何ですか?
   • 予測がどのように使用され、異議が唱えられるかによって、被害の分布が変化する可能性があります
   • モデルの出力によって公平性が完全に決まります
   • 控訴は結果に影響を与えることはできない
   • トレーニング後にワークフローが影響しない
8. バイアス緩和を適用した後、チームは何をすべきでしょうか?
   • サブグループの結果を非表示にする
   • 緩和によって公平性が証明されると仮定する
   • 監視を停止する
   • 意図した効果と起こり得る新たな問題を評価する