概述
這很重要,因為聊天機器人即使在錯誤的情況下也會產生流暢、自信的文本,而提交未經檢查的錯誤或不存在的引用的學生將承擔責任。
深入探討
ChatGPT、Gemini 和 Claude 等聊天機器人透過預測可能的單字來產生文本,而不是透過在經過驗證的資料庫中尋找事實來產生文本。這就是為什麼他們會產生錯誤的日期、合併的引用或看似真實但從未發表的引文,這些錯誤通常被稱為幻覺。一個眾所周知的例子發生在 2023 年,當時紐約馬塔訴阿維安卡案的律師在提交一份包含 ChatGPT 發明的法院判決的摘要後受到製裁。對學生來說最可靠的習慣是橫向閱讀,這是史丹佛歷史教育小組的研究人員在專業事實查核人員中觀察到的技術。事實核查人員不會仔細研究某一頁面,而是離開該頁面並打開新選項卡以查看其他值得信賴的來源所說的內容。 Mike Caulfield 的 SIFT 方法將其分為四個步驟:停止、調查來源、尋找更好的覆蓋範圍以及追蹤其來源。應用於人工智慧,這意味著在複製之前暫停,詢問聲明可能來自哪裡,搜尋獨立報道,並追蹤對原始文件的引用。來源三角測量增加了一條經驗法則:重要的主張應得到至少兩個獨立、可靠的來源的確認,最好包括政府資料集、原始研究或法律文本等主要來源。兩個重複同一新聞稿的網站不算獨立。置信度檢查有助於決定在哪裡花精力。具體數字、名稱、日期、引用和引文是答案中風險最高的部分。最近的事件是有風險的,因為模型的訓練資料有一個截止點。一個常見的誤解是網路搜尋工具永遠不會出錯。他們減少了一些錯誤,但仍然可能誤讀或錯誤歸因他們引用的頁面。另一個是人工智慧可以自我檢查。詢問它是否確定並不是驗證,因為它可能只是重複或顛倒其答案。
現實世界的實施
歷史系學生詢問聊天機器人條約何時簽署,然後打開一個新選項卡並確認百科全書條目和大學歷史頁面中的日期,然後將其寫下來。
一名生物學學生從 AI 工具中獲取了 3 篇期刊引用,在 Google Scholar 和圖書館資料庫中搜尋每個標題,發現一篇論文不存在,另一篇論文的內容與 AI 的摘要不同。
一名準備辯論的學生向聊天機器人詢問有關青年失業率的最有力統計數據,然後將該數字追溯到國家統計局,並注意到人工智慧引用了錯誤年份的數字。
一名學生用不同的措詞兩次問同一個問題,得到兩個相互矛盾的答案,並將這種分歧視為直接閱讀教科書和老師的閱讀清單的信號。
學生如何對人工智慧答案進行事實查核的未來
人工智慧工具正在添加更多可見的引文、搜尋基礎和不確定性訊號,這應該會使檢查變得更容易,但不會消除對其的需求。學校和大學越來越多地制定人工智慧使用政策,期望學生驗證和揭露人工智慧援助,資訊素養課程正在擴大到涵蓋聊天機器人以及網站和社交媒體。橫向閱讀和追蹤可靠來源的基本技能在從搜尋引擎到社交來源的幾代技術中一直很有用,並且很可能仍然是檢查接下來出現的任何工具的核心。
付諸實踐
為什麼這很重要
- 更明確的決策. 它可以幫助您將清晰的技術聲明與行銷語言分開。
- 成本與預算. 在花費金錢或時間之前,您可以提出更好的實施問題。
- 團隊與工作流程. 具有共同理解的團隊可以做出更好的產品、政策和學習決策。
留意
- 不同的團隊可能會以不同的方式使用相同術語,因此請儘早定義範圍。
- 基準測試可能看起來很強大,但實際效能卻參差不齊。
- 忽視數據品質和評估計劃通常會產生脆弱的結果。
後續步驟
- 從您需要的結果的簡單語言定義開始。
- 在測試之前選擇一種成功指標和一種失敗條件。
- 使用代表性資料運行小型試點,而不是完善的演示集。
- 記錄學生如何進行事實查核 AI 答案的幫助以及更簡單的方法在哪些方面更好。
不斷探索
常見問題
學生如何對人工智慧答案進行事實查核?
要對人工智慧答案進行事實核查,請將其視為線索而不是來源:挑選其具體主張,根據獨立、可靠的來源檢查每一項,並將每一次引用追溯到原文。這很重要,因為聊天機器人即使在錯誤的情況下也會產生流暢、自信的文本,而提交未經檢查的錯誤或不存在的引用的學生將承擔責任。
什麼是橫向閱讀?
根據專業事實查核人員的觀察,橫向閱讀意味著轉向其他來源,而不是深入研究一頁。
SIFT方法中的T代表什麼?
SIFT 是停止、調查來源、尋找更好的覆蓋範圍以及追蹤其來源。
為什麼聊天機器人可以產生看似真實但不存在的引文?
模型可以預測可信的文本,因此它們可以產生帶有虛構作者、標題或期刊的引文形式。
哪一對來源最能算是對主張的獨立確認?
獨立來源分別獲取資訊。重複一篇新聞稿,或兩次詢問同一模特,並不是獨立的。
人工智慧答案的哪些部分風險最高,值得先檢查?
精確的細節是幻覺最常導致真正錯誤的地方,因此值得付出最多的檢查努力。