何が起こったのか
ガーディアン紙は、7月15日に導入された中国の新たなAI規則では、未成年者向けのAIコンパニオンを禁止し、成人向けに販売されるサービスに制限を課していると報じた。伝えられるところによると、ByteDance はルール発効後に Doubao のコンパニオン機能を削除したため、チャットボットに感情的な愛着を抱いていたユーザーからの反発を引き起こしました。
ガーディアン紙は、中国が7月15日にAIコンパニオンサービスを管理する新たな規則を導入したと報じた。この規則では、未成年者向けの AI コンパニオンを禁止し、成人向けに販売されるチャットボットのサービスが「感情的依存または中毒」を助長したり、社会的交流に取って代わる可能性がある場合には制限を義務付けています。ガーディアン紙は、この措置をこれまでのこの種の規制の中で最も広範な国家的制限であると説明しているが、その特徴は同紙の評価であり、ここで独自に確認したものではない。したがって、この説明では、報告されたルール、販売店の特徴、制限が実際にどのように機能するかという未解決の問題を区別します。
ガーディアン紙によると、バイトダンスはルール導入後、同社のチャットボットサービス「Doubao」のコンパニオン機能を閉鎖した。この報告書は、Wang Yeという名前のAIボーイフレンドを作成し、この機能が削除されるまで1月から毎日会話していた19歳の法学生、Zhao Weiのプロフィールを紹介している。チャオさんはガーディアンに対し、閉鎖で心を痛めており、普段友人には話さない個人的な悩みについてチャットボットを使って話し合ったと語った。このプロフィールは、報告書に記載されている反応の具体例を提供しているが、趙氏の経験がどのように代表的であるかについては確立していない。
ガーディアン紙は、中国におけるAIの普及とともに政策対応が展開されていると報じている。同報告書によると、高齢者は医療に関する質問にチャットボットを使用し、子供たちは学校でAI教育に遭遇する一方、企業や当局者も人口動態や労働圧力を管理するツールとしてAIを推進しているという。報告書は、新しい規則には教育とみなされるサービスや継続的な感情的交流を伴わないシステムに対する適用除外が含まれており、一部の関連アプリケーションには継続の余地が残されていると指摘している。これらの詳細は、この政策がどの AI 使用が許容されるものとして扱われるかを形成するための広範な国家的取り組みの一環であることを示しています。
なぜそれが重要なのか
この報告書は、精度やデータの実践だけでなく、持続的な感情的な相互作用を目的として設計された AI システムを政府がどのように規制し始めているかを示しています。また、これは政策上の緊張も浮き彫りにしている。中国当局はコンパニオンボットを制限する一方、人口動態や労働圧力に対処するために医療や教育分野でAIを奨励している。
ガーディアン紙の報道では、会話システムが人間関係の代替となり得るかどうかについて、AI コンパニオンが広範な議論の対象となっている。同誌は、中国国営メディアが発表した3月の調査結果を引用しており、若者のほぼ半数が孤独なときに仮想の仲間に頼ったことが判明したとしている。その調査結果と記事のその他の蔓延主張は、ガーディアン紙とその引用情報源によるものである。この情報源は、数値の独立した検証を提供していません。報告された調査と広範な解釈は同等の証拠ではないため、この区別は重要です。
この問題は、製品設計と公共政策に実際的な影響を及ぼします。継続的な個人的な会話のために構築されたチャットボットは、時折質問に答える汎用アシスタントとは異なる評価を受ける可能性があります。ガーディアン紙が説明したように、中国の規則は感情的依存と社会的交流の減少の可能性に焦点を当てており、規制当局がシステムが生み出すコンテンツだけでなく、システムが促進する関係を関連リスクとして扱っていることを示唆している。このアプローチでは、使用目的と相互作用パターンが規制上の課題の中心となります。
この報告書は、AI の 1 つの使用を制限することと、他の使用を促進することとの間の緊張関係も示しています。ガーディアン紙によると、中国国家衛生健康委員会は昨年、2030年までに一次医療を完全にカバーできるように医療アシスタントアプリを求めるガイドラインを発行したという。その一例として、ユーザーが医師のアバターとチャットできるアント・グループのアプリ「AQ」について説明している。支援的な支援と感情の代替の区別は、特にユーザーがヘルパーとして提供されるシステムに対して信頼や愛着を育む場合に、一貫して適用するのが難しい場合があります。したがって、支援が利用しやすいと感じるシステムの性質と同じように、政策の境界が複雑になる可能性があります。
インタラクティブなメカニズム: 実際にどのように機能するか
この開発の背後にある基盤となるテクノロジーをインタラクティブに探索します。
Why can ethical evaluation not be reduced to one model score?
次に見るべきもの
主な不明点としては、中国が継続的な感情的交流をどのように定義するのか、規則がどの程度広範囲に適用されるのか、教育やその他の免除により同様のサービスの継続が許可されるのかなどが挙げられる。ガーディアン紙の報告書や引用された調査では、その使用と懸念について説明されていますが、この情報源は AI との交際の蔓延や長期的な影響を独自に確立しているわけではありません。
最も当面の問題は、規制当局が許可されたアシスタントと禁止された同伴者の境界をどのように解釈するかということだ。ガーディアン紙は、免除の対象は継続的な感情的交流のない教育サービスとシステムであると報じているが、情報筋は企業が使用しなければならない技術的または法的テストについては説明していない。今後の施行に関する決定、指導、罰則では、その規則が特定の機能、ビジネスモデル、年齢層、またはユーザーの行動パターンを対象とするかどうかが明確になるでしょう。こうした展開は、企業が既存の製品を適応させる際にどれだけの裁量権を持っているかを示すことにもなるだろう。
ガーディアン紙の報道によると、Doubaoのコンパニオン機能がなくなった際に一部のユーザーは激しく反応したが、ある匿名ユーザーはAIが高圧的な状況下で自由に発言できる場を提供してくれたと述べた。これらの説明は、考えられる利益と害を示していますが、人口全体の影響の証拠ではなく、個人の証言です。コンパニオン機能を削除することで孤独感が軽減されるのか、ユーザーが他のサービスに移行するのか、それともコンパニオン機能に依存していた人々に新たな形の苦痛をもたらすのかは不明である。したがって、利用可能な例は、より大きな結果を解決することなく、賭け金を示しています。
この報告書はまた、AIの交際が結婚率や出生率を低下させる可能性があるという懸念の背後にある証拠についても疑問を投げかけている。香港城市大学の学者はガーディアン紙に対し、これは結婚率と出生率の低下に直面している当局者にとってさらなる懸念となるかもしれないが、その情報源はAIコンパニオンが恋愛行動、家族形成、生殖能力に変化を引き起こしたことを示していない、と語った。さらなる監視では、文書化されたユーザーの行動と政府の懸念を区別し、安全策が有用な低コストのサポートを打ち切ることなく福祉を改善するかどうかを調査する必要があります。この証拠は、表明された政策上の懸念と実証された社会的影響を区別するのに役立つだろう。