社團指南

當教師懷疑人工智慧濫用時應該做什麼

當老師懷疑學生不當使用人工智慧時,公平的反應是收集具體證據,進行私下和非指責性的對話,記錄發生的事情,並根據學校的政策選擇相應的後果。

聆聽此指南AI 語音敘述 · ~3 min

本頁4 分鐘閱讀
  1. 概述
  2. 深入探討
  3. 現實世界的實施
  4. 未來當教師懷疑人工智慧濫用時該做什麼
  5. 付諸實踐
  6. 不斷探索
  7. 常見問題

概述

這很重要,因為人工智慧探測器會犯錯誤,倉促的指控可能會傷害無辜的學生並損害課堂上的信任。

深入探討

懷疑人工智慧被濫用並不等於知道它,老師的反應方式決定了結果是否公平。健全的過程有四個階段。先收集證據。將作業與學生早期的寫作和課堂樣本進行比較。檢查每一個引文,因為偽造的參考文獻,例如不存在的真實期刊文章,是未經編輯的聊天機器人輸出的最具體跡象之一。如果作品是在共用文件中編寫的,請查看版本歷史記錄。注意細節:詞彙的突然變化、忽略提示的特定於課程的要求的內容或聲稱課程從未涵蓋的內容。最多將任何 AI 檢測器分數視為弱信號; OpenAI 因精度低而於 2023 年撤回了自己的分類器,並且檢測器已記錄了誤報。進行私人的、非指責性的談話。帶著好奇心打開:請學生演練他們是如何寫的,解釋一個關鍵段落,或定義他們使用的術語。寫作業的學生通常可以談論它;那些不常掙扎的同學,有的會透露。避免以「我知道你用過 ChatGPT」作為開頭,如果你錯了,這會招致否認並損害信任。隨時記錄:日期、觀察到的內容、提出的問題、學生所說的內容、達成的一致意見。遵循學校的學術誠信政策,包括任何報告要求。選擇相應的後果。考慮該作業的人工智慧規則是否明確,這是否是第一次發生,以及有多少工作受到影響。選項包括在監督下重做任務、降低等級、對重複或嚴重的情況正式移交。目的是讓學生最終完成學習。一致性很重要。對每個學生進行相同的檢查,而不僅僅是那些寫作風格或語言背景使他們看起來可疑的學生。

現實世界的實施

教師注意到論文參考書目中的兩個來源未出現在任何資料庫中,確認 DOI 未解析,並使用這些捏造的引文作為對話的基礎。

老師不會說“我知道你用過 ChatGPT”,而是要求學生演練他們如何建立論點並解釋一個技術術語;學生不能,然後透露整個草稿使用了聊天機器人。

在第一次發生人工智慧規則模糊的作業後,老師讓學生在課堂上重做論文以獲得部分學分,並向每個人澄清了政策。

部門保留一個簡短的事件模板,記錄日期、觀察結果、提出的問題、學生的答案和結果,以便教師之間的決策保持一致。

未來當教師懷疑人工智慧濫用時該做什麼

學校正在穩步用作業級別的人工智慧政策取代全面禁令,這應該會讓許多情況變得更加清晰:學生要么遵守規定的規則,要么不遵守。檢測不太可能變得足夠可靠以自行解決案件,因此過程、對話和引文中的證據仍將是核心。預計會有更多機構為教師發布程序和模板,並對員工進行偏見風險培訓,特別是針對多語言作家的偏見風險。更艱鉅的長期工作是文化方面的:建立教室,讓學生在提交之前詢問是否允許使用人工智慧,而不是在受到質疑之後。

付諸實踐

為什麼這很重要

  • 風險與安全. 災難性和日常的人工智慧危害都取決於誰了解風險以及誰能夠採取行動。
  • 更明確的決策. 民眾和專業素養決定強而有力的安全政策在政治上是否可行。
  • 突破炒作. 清晰的解釋可以減少炒作、實驗室公關和模糊道德劇場的影響。

留意

  • 將存在風險視為科幻小說,同時能力複合。
  • 混淆了表面產品安全與高度自治下的對準。
  • 只給非英語和非專業觀眾留下低品質的資源。

後續步驟

  1. 單獨的產品危害、誤用和失控/失調風險。
  2. 詢問哪些證據會改變您對時間表和嚴重性的看法。
  3. 比起行銷主張,更喜歡主要來源和具體評估。
  4. 確定一條行動路徑:職業、政策、資金或技能——而不僅僅是意識。

不斷探索

免費電子報

獲取每日 AI 簡報

每個工作日上午提供三則經過驗證的 AI 新聞,以淺顯易懂的英文撰寫。永久免費,無廣告。

每個工作日一封電子郵件。一鍵取消訂閱。我們絕不出售或分享您的地址。

測試一下自己

Take the What Teachers Should Do When They Suspect AI Misuse quiz

每個答案皆有即時回饋,通過課程後可獲得具備可驗證 ID 的可分享證書。

開始測驗

支持免費的 AI 教育。AI Understanding 是一個 501(c)(3) 非營利組織——絕無廣告,絕無付費牆。 捐款

常見問題

當教師懷疑人工智慧濫用時該做什麼?

當老師懷疑學生不當使用人工智慧時,公平的反應是收集具體證據,進行私下和非指責性的對話,記錄發生的事情,並根據學校的政策選擇相應的後果。這很重要,因為人工智慧探測器會犯錯誤,倉促的指控可能會傷害無辜的學生並損害課堂上的信任。

當老師懷疑人工智慧被濫用時,首先該做什麼?

證據收集是第一位的,因此任何對話和決策都取決於具體細節,而不是直覺或單一分數。

哪一個被描述為未經編輯的聊天機器人輸出的最具體跡象之一?

聊天機器人可以產生不存在的真實引文。這些都是可以查的,這就是有力的證據。

指南建議如何與學生展開對話?

非指責性的開頭會引起解釋。撰寫作品的學生通常可以進行討論,這可以避免懷疑錯誤時損害信任。

應該如何對待人工智慧檢測器分數?

檢測器已經記錄了誤報,並且 OpenAI 因準確性低而撤回了自己的分類器,因此分數永遠不應該單獨驅動決策。

選擇比例後果時哪個因素相關?

規則的明確性、是否是第一次事件以及受影響的工作量都影響了公平的結果。