引導式測驗 · 中等 等級

教導學生了解 AI 偏見測驗

探索數據、標籤、背景和人類決策如何影響人工智慧偏見,以及學生如何用證據評估課堂範例。

問題 1 的 8

影像分類器在教室照明下效果很好,但在昏暗的走廊中會漏掉臉孔。哪個因素改變了?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 影像分類器在教室照明下效果很好,但在昏暗的走廊中會漏掉臉孔。哪個因素改變了?
    • 使用條件與測試設定不同
    • 該課程改變了面孔的定義
    • 該模型在每種情況下都變得公平
    • 走廊證明所有影像模型都失敗了
  2. 為什麼具有相同數量範例的資料集仍然不具有代表性?
    • 同等計數保證涵蓋每個相關案例
    • 平衡使得任務定義變得不必要
    • 只有記錄數量才重要
    • 它可能會省略重要條件或包含與實際用途不符的標籤
  3. 系統輸出風險評分,工作人員將其視為最終決定。哪種偏見可能會產生影響?
    • 僅訓練資料量
    • 人類解釋和對輸出的過度依賴
    • 僅設備螢幕尺寸
    • 系統的檔案名
  4. 小課堂測驗能說明什麼?
    • 每個商業人工智慧系統的性能
    • 對整個人口產生明確的人口影響
    • 對測試範例和條件的有限觀察
    • 模型在其他設定下的行為相同
  5. 學生發現錯誤集中在一種類型的例子。他們接下來該做什麼?
    • 記錄測試條件並調查數據、標籤和任務設計
    • 立即宣布該模型為惡意模型
    • 忽略範例,因為總準確度可能很高
    • 更改標籤直到結果看起來平衡
  6. 為什麼相同的總準確度分數本身並不能證明公平性?
    • 同等準確度意味著每個人都會得到相同的結果
    • 公平性僅由平均分數決定
    • 它確認訓練標籤是正確的
    • 它可以隱藏不同的錯誤類型並且不決定應用程式是否合適
  7. 當課堂分析發現重大風險時,可能的反應是什麼?
    • 保留它,因為學生發現了偏見模式
    • 限制系統、更改其設計、新增上訴路徑或決定不使用它
    • 對受影響的使用者隱藏結果
    • 將分數用於新目的而不進行測試
  8. 什麼問題有助於將技術輸出與現實世界的影響連結起來?
    • 哪個模特兒的語氣最有自信?
    • 螢幕上出現多少個標籤?
    • 誰受益,誰可能受到傷害,誰可以挑戰結果?
    • 班級可以避免定義任務嗎?