引導式測驗 · 中等 等級

多類別分類測驗的 Softmax 迴歸

探索 softmax 歸一化、多類機率解釋、logit 行為和特定類別效能的評估選擇。

相關引導路徑多類的 Softmax 迴歸
問題 1 的 8

對於所有建模類別的單一案例,Softmax 機率滿足什麼約束?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 對於所有建模類別的單一案例,Softmax 機率滿足什麼約束?
    • 對於每個案例,它們在所有建模類別中的總和為一
    • 它們僅在最高分類別正確時總和為一
    • 它們的總和等於類別的數量
    • 每個類別分數在沒有共同分母的情況下被獨立轉換
  2. 一個三類別模型返回的機率為 0.6、0.3 和 0.1。哪一個類別通常是最高機率的預測?
    • 第一個類別,因為它的機率最大
    • 第二個類別,因為它的機率最大
    • 第三類,因為它出現在最後
    • 在機率轉換為整數分數之前,無法選擇任何類別
  3. 為什麼對每個類別的對數几率(logit)加上相同的常數,softmax 機率會保持不變?
    • 加上常數只會改變分母
    • 加上常數只會改變分子
    • 共同的指數因子在分子與分母之間相互抵消
    • 只有當每個對數几率都乘以相同的常數時,softmax 才具有不變性
  4. 輸出總和為一的假設對目標設定有何含義?
    • 多個標籤可能同時為真,並被獨立建模
    • 類別是有順序的,且其數值間距具有意義
    • 輸出可能省略跨類別的機率正規化
    • 每個案例屬於所建模的互斥選項之一
  5. 分類器整體準確率很高,但對稀有類別的召回率較低。哪份報告有助於揭示這一點?
    • 整體準確率以及每個類別的樣本數量
    • 每個類別的召回率或精確率,並搭配混淆矩陣
    • 僅限所有樣本的總體訓練損失
    • 模型係數的總數
  6. 為什麼要檢查與機率欄位相關的類別標籤順序?
    • 機率欄位總是從最大到最小排序
    • 每個欄位遵循原始輸入檔案的行順序
    • 每個機率欄位必須與其文件記錄的類別標籤相匹配
    • 第一欄位總是代表正類別
  7. 多項式邏輯回歸通常使用哪種訓練目標?
    • 任意整數類別 ID 之間的平方誤差
    • 針對前兩個分數的鉸鏈損失目標
    • 將 0-1 誤差作為平滑可微分的訓練損失
    • 多項式交叉熵或對數損失
  8. 模型將正確類別排在第一位,但當它只有約 0.7 的準確率時,卻經常給出 0.99 的信心分數。請問存在什麼問題?
    • 校準不良:信心分數超過了觀察到的成功頻率
    • 召回率不佳:預測類別並非最頻繁出現的類別
    • 違反互斥性,因為信心分數過高
    • 機率總和誤差,即使所有類別機率之和為一