何が起こったのか
BBC の報道によると、人々は AI チャットボットを使用して英国の公共団体に対する苦情、控訴、情報公開請求の草案を作成しているとのこと。作成された文書は数十ページに及び、法律や判例が不正確に引用され、追加の説明や法的検討が必要になる場合があります。議会、学校、情報チームはBBCに対し、この増加により隠れた重大な作業負荷が生じていると語った。
BBC の報道によると、AI チャットボットは、学校、地方議会、その他の公共団体への苦情申し立て、さらには駐車違反金や給付金の決定に対する不服申し立ての作成にも使用されているとのこと。報告書によると、かつては A4 一枚に収まっていた文書が 20 ページ以上になることもあるとのこと。 Lawyers in Local Government の最高責任者、デボラ・エバンス氏は BBC に対し、未回収のゴミ箱などに関する一部の苦情は、判例法や議会法への言及も含めて 19 ページから 27 ページにまで拡大していると語った。これらは報告された観察結果であり、独立して検証された測定値ではありません。
報告されている変化は、単なる単語数の増加ではありません。 BBC によると、公共団体は複雑な議論、不正確な主張、誤って引用された法律を含む苦情に遭遇しているという。エバンス氏はBBCに対し、苦情処理担当者が弁護士に相談する必要がある可能性があり、その結果、議会の費用が増加し、対応が遅くなる可能性があると語った。地方自治体および社会保障オンブズマンは、決定に対する法的異議申し立てにおいてAIの利用が増えており、AIは慎重に使用されるべきだと述べた。
学校からも同様の問題が報告されています。学校・大学指導者協会のペペ・ディアシオ書記長はBBCに対し、苦情はいくつかの理由で増加しており、AIの対応に必要な労力が増大していると語った。同氏は、学校では保護者がAIを利用して複数の広範な苦情を引き起こしているのを目撃したと述べた。この報告書は、苦情の量、公共サービスへのアクセス、親の行動といった広範な変化ではなく、増加のどの程度が AI によって引き起こされたのかを明らかにしていない。
BBC はまた、AI を活用した情報公開要求の増加も報告しています。情報コミッショナー局は5月、法律の誤った引用や重要な説明が必要なリクエストなど、より多くの量とより複雑なリクエストがFOIチームに伝えられたと述べた。全米データ保護担当者協会のリン・ワイエス氏は、より長い通信、説明演習、複雑な異議申し立てなどの隠れた仕事量について説明しました。この情報源は、AI を利用した苦情や要望の全国的な集計を提供しておらず、AI によって書かれた割合を独自に確認していません。
この報告書は競合する効果を示している。書くことに苦労しているとBBCに語ったドーン・ハーバーソンさんは、AIが自分自身を表現する上で実質的な変化をもたらしたと語った。 BBC Radio 5 Liveが接触した他の人々は、AIを使用して長い苦情を短い応答に短縮したと説明したり、チャットボットは苦情に価値があるかどうかを問うのではなく、ユーザーの見方を強化することが多いと述べた。したがって、BBCの報道は、公的な通信のプロセスの変化について説明しているが、AIによって生成された苦情が一様に軽薄で、無効で、または不正確であることを示しているわけではない。
なぜそれが重要なのか
AI により、特に文章を書くのが苦手な人や、正式な手続きに怯えている人にとって、公の苦情や異議申し立てがより利用しやすくなります。しかし、AI によって生成された提出物が大幅に長く、反復的であったり、法的に不正確な場合、公共機関は提出物を処理するためにより多くの時間と人員が必要となり、対応が遅れ、コストが増加する可能性があります。この報告書は、責任システムへのアクセスと、それらのシステムが公正に対応する能力との間の緊張関係を浮き彫りにしている。
AI を利用した苦情は、参加に対する実際の障壁を下げる可能性があります。ハーバーソン氏はBBCに対し、神経発散型の人、書くことに怯えている人、電子メールベースのサービスに駆り立てられている人は、そうでなければ苦情を言わないようにする可能性があると語った。その意味で、AI はアクセシビリティと草案補助として機能し、誰かが問題を説明したり、証拠を整理したり、正式なプロセスを開始する方法を理解したりするのに役立ちます。この報告書は、AIを使用する人々が苦情を言う資格が低いとか、長い提出にはメリットがないと結論付ける根拠を何も示していない。
制度上のコストは、受領側組織がすべての長い提出物または法的に構成された提出物を詳細なレビューが必要なものとして扱わなければならない場合に発生します。 BBC の報道によると、公共部門の弁護士や苦情処理担当者は、根本的な問題が必要としていると思われるよりも長く、不正確な法的言及が含まれている可能性のある文書を目にしているとのこと。スタッフは、生成された主張から関連する事実を分離し、説明を求め、法律顧問に関与する必要がある場合があります。情報源は追加コスト、処理時間、エラー率を数値化していないが、引用された当局者らは負担が相当なものであると述べている。
公平性の問題もあります。公共機関が苦情の長さを制限したり、より構造化された形式を要求したりすることで、件数に応じた場合、訴訟の処理は容易になるが、一部の人々にとっては提出が困難になる可能性があります。エバンス氏はBBCに対し、議会は苦情の長さを制限するための様式を検討する可能性がある一方、そのような措置は説明責任を縮小する可能性があると考える議会もある、と語った。日常的なケースでは効率的なシステムであっても、状況が複雑だったり、文書化が不十分だったり、標準形式で表現することが難しい人々にとっては失敗する可能性があります。
この問題は、個人の苦情を超えて、公的責任制度の運用にまで及びます。 FOIの要請と控訴は、人々が公的機関を精査できるメカニズムです。 ICOが警告したように、AI支援によるリクエストによって遅延やエラーが発生したり、苦情が増加したりした場合、実際的なサポートがなければ発生する可能性があり、その結果として生じる損害はリクエスト者と公的機関の両方に影響を与える可能性があります。同時に、AI によって支援されているように見えるという理由で提出を拒否すると、参加を支援するツールを使用した人々にペナルティが課される危険があります。
BBC の報道は、独立して全国的な危機を実証したり、AI が苦情件数増加の主な原因であることを証明したりするものではありません。この文書は、地方自治体の弁護士、オンブズマン、学校指導者、情報ガバナンスの専門家、および一般の人々からの証言を提供しています。意味のある未知数には、傾向の規模、重大なエラーを含む提出物の数、AI ユーザーが以前よりも多くの苦情を提出しているかどうか、公共団体が単にスタッフを追加するのではなく、より良いプロセスを通じて追加作業を処理できるかどうかなどが含まれます。
インタラクティブなメカニズム: 実際にどのように機能するか
この開発の背後にある基盤となるテクノロジーをインタラクティブに探索します。
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
次に見るべきもの
重要な疑問は、AI支援による申請がどの程度普及しているのか、遅延やコストが目に見えて増加しているのか、そして公的機関が正当な苦情を妨げることなく量をどのように管理できるのかということだ。将来の開発には、より明確な提出フォーム、苦情や情報要求における AI の使用に関するガイダンス、通信を要約または優先順位付けするための公共部門のツールなどが含まれる可能性があります。このような対応には、複雑な事例や不十分に書かれた事例を見落とさないための予防策が必要です。
公的機関は、構造化されたフォーム、単語またはページの制限、より明確なガイダンス、および補足資料とともに簡潔な要約を要求することで対応する場合があります。これらの対策により、回避可能な処理作業が削減される可能性がありますが、その設計は重要です。編集者と関係者は、新しい手続きが支援を必要とする人々のための代替ルートを確保するかどうか、簡単に圧縮できない証拠を受け入れるか、説明のために提出物が返送されるときに理由を提供するかどうかを監視する必要があります。
次に役立つ証拠は、議会、学校、オンブズマンサービス、FOI チームからの比較可能なデータでしょう。これには、苦情や要求の量、平均長さ、処理時間、法的調査率、エラー率、AI 支援と特定された割合などが含まれる可能性があります。ソースにはそのような全国的なデータセットは含まれていません。それがなければ、一般的な急増に関する主張は、独立して確立された合計として扱われるのではなく、BBCの報道とBBCが連絡した組織に起因するままになるはずです。
公共部門における AI の使用も、この話の未解決の部分です。ワイエス氏はBBCに対し、当局はリクエストの増加に対処するために自らAIを使用する許可が必要だと語った。政府機関が要約ツールやトリアージツールを導入する場合、人によるレビューがどのように機能するか、機密情報がどのように扱われるか、重要な詳細がどのように省略されないように保護するかを示す必要があります。この情報源は、特定の当局がそのようなシステムを導入したとは報告しておらず、考えられるツールの正確さに関する証拠も提供していません。
説明責任団体や公的機関も、援助と代替を区別する必要がある。 AI は人が経験を正式な言語に翻訳するのに役立ちますが、レポートは、チャットボットが議論が比例しているか正しいかどうかをテストせずに精巧な提出物を作成する可能性があることを示唆しています。ガイダンスは、法的参照を確認し、求めている救済策を特定し、重複を削除することをユーザーに奨励する可能性があります。このようなアドバイスは、AI の使用自体を悪意の証拠として扱うことなく、品質に取り組むことになります。
最後に、当局者とジャーナリストは、議論が人間との接触へのアクセスに移るかどうかを注視すべきである。ある小学校教師はBBCに対し、中心的な問題はAIの利用ではなく、公務員職員と直接話す能力の低下かもしれないと語った。この観察は、この傾向の検証された説明ではありませんが、公共機関が苦情処理や情報処理を AI を使用して人々がアクセスできるようにし、人間の会話を必要とする人々に対応できるようにできるかどうかという、将来の政策のための実践的なテストを示しています。