汎用人工知能
汎用人工知能 (AGI) とは、翻訳や画像ラベル付けなどの 1 つの狭いスキルだけではなく、ほとんどの認知タスクにわたって人間レベル (またはそれ以上) の広範な能力を備えた AI システムを指します。
概要
汎用人工知能 (AGI) とは、翻訳や画像ラベル付けなどの 1 つの狭いスキルだけではなく、ほとんどの認知タスクにわたって人間レベル (またはそれ以上) の広範な能力を備えた AI システムを指します。
汎用人工知能は、能力、権力、国民の選択の交差点に位置しており、高度な AI が大規模に役立つか害を及ぼすかは、安全性、ガバナンス、正当性によって決まります。
ディープダイブ
AGI には単一の合意された定義はありません。 「ほとんどの知識労働において人間の専門家の中央値と同等」を意味する人もいれば、「経済的に価値のあるタスクの大部分を自動化できる」ことを意味する人もいます。また、科学や戦略全体にわたって、システム自体を改善したり人類を上回ることができるシステムを意味する人もいます。政策、投資、安全計画はすべて、そのようなシステムがいつ登場し、何ができるかによって決まるため、定義は重要です。現在の大規模な言語モデルは、厳密な定義では AGI ではありませんが、すでに広範な能力と急速な改善を示しています。これがタイムラインに異議が唱えられている理由であり、実存リスク研究者が AGI (およびそれを超えたシステム) を SF ではなく現実の計画問題として扱う理由です。 AGI レベルのシステムが限定された監視下で動作できる場合、調整と制御の問題は学術的なものではなくなります。
技術的な洞察
より広範な能力への進歩は主に、データ、コンピューティング、アルゴリズムのスケーリングによってもたらされました。モデルをより使いやすくするポストトレーニングから。そしてモデルを世界で動作させるツール/エージェントから。信頼できる長期的な代理店、根拠のある世界モデル、一貫した真実性には依然としてギャップが残っています。安全性に関する質問には、どの機能が突然出現するのか、評価がそれらを検出するかどうか、リスクが高まったときにラボが展開を一時停止またはゲートできるかどうかなどがあります。
汎用人工知能をマスターする
深い理解を構築するには、汎用人工知能を単一の機能ではなくオペレーティング モデルとして扱います。望ましい結果を定義し、前提条件を明確にし、システムが確実に実行できることと、依然として専門家の判断が必要なことを区別します。
実際には、汎用人工知能を使用する強力なチームは、ガバナンス、安全性、および明確な責任構造と機能の成長を組み合わせます。明示的な成功基準を文書化し、現実的なデータとワークフローに対してテストし、一度限りのベンチマークの成功ではなく、観察された失敗パターンに基づいて反復します。ここで、理論的な理解が、製品、ポリシー、運用全体にわたる永続的な機能に変わります。
AI による壊滅的な被害も日常的な被害も、誰がリスクを理解し、誰が行動できるかにかかっています。同時に、実存的リスクを SF として扱う一方で、能力は複雑になります。最も回復力のあるアプローチは、実験のスピードとガバナンスの規律を組み合わせることであり、パイロットを実行し、証拠を取得し、意思決定ログを公開し、モデルの動作、ユーザーの期待、規制要件の進化に応じて安全対策を継続的に更新します。
戦略的影響
AI による壊滅的な被害も日常的な被害も、誰がリスクを理解し、誰が行動できるかにかかっています。
AI による壊滅的な被害も日常的な被害も、誰がリスクを理解し、誰が行動できるかにかかっています。高品質の導入では、これが測定可能な運用ルール、所有権の境界、定期的なレビューの儀式に変換されるため、チームは曖昧さを拡大するのではなく、自信を拡大することができます。
国民と専門家のリテラシーは、強力な安全政策が政治的に可能かどうかを左右します。
国民と専門家のリテラシーは、強力な安全政策が政治的に可能かどうかを左右します。高品質の導入では、これが測定可能な運用ルール、所有権の境界、定期的なレビューの儀式に変換されるため、チームは曖昧さを拡大するのではなく、自信を拡大することができます。
明確な説明は、誇大広告、研究室の PR、曖昧な倫理劇場に囚われることを減らします。
明確な説明は、誇大広告、研究室の PR、曖昧な倫理劇場に囚われることを減らします。高品質の導入では、これが測定可能な運用ルール、所有権の境界、定期的なレビューの儀式に変換されるため、チームは曖昧さを拡大するのではなく、自信を拡大することができます。
現実世界の実装
フロンティア モデルがチャットからコーディング、研究支援、マルチステップ ツールの使用にどのように拡張されるかを追跡します。
研究機関による AGI の公的定義と、安全政策にとって重要であると主張する閾値を比較します。
システムが大規模な遠隔認知労働を代替できる場合、経済とセキュリティに影響を与える計画を立てます。
明示的な成功基準と人間によるレビュー チェックポイントを備えた、反復可能な汎用人工知能ワークフローを構築します。
実装パターン
汎用人工知能の実用化
フロンティア モデルがチャットからコーディング、研究支援、マルチステップ ツールの使用にどのように拡張されるかを追跡します。
通常、チームは、品質のしきい値を事前に定義し、エッジ ケースに対して人によるエスカレーション パスを確保し、生産性の向上とエラー コストの両方を長期的に追跡することで、より良い結果を得ることができます。
汎用人工知能の実用化
研究機関による AGI の公的定義と、安全政策にとって重要であると主張する閾値を比較します。
通常、チームは、品質のしきい値を事前に定義し、エッジ ケースに対して人によるエスカレーション パスを確保し、生産性の向上とエラー コストの両方を長期的に追跡することで、より良い結果を得ることができます。
汎用人工知能の実用化
システムが大規模な遠隔認知労働を代替できる場合、経済とセキュリティに影響を与える計画を立てます。
通常、チームは、品質のしきい値を事前に定義し、エッジ ケースに対して人によるエスカレーション パスを確保し、生産性の向上とエラー コストの両方を長期的に追跡することで、より良い結果を得ることができます。
汎用人工知能の実用化
明示的な成功基準と人間によるレビュー チェックポイントを備えた、反復可能な汎用人工知能ワークフローを構築します。
通常、チームは、品質のしきい値を事前に定義し、エッジ ケースに対して人によるエスカレーション パスを確保し、生産性の向上とエラー コストの両方を長期的に追跡することで、より良い結果を得ることができます。
リスクとガードレール
能力が複雑になる一方で、実存的なリスクを SF として扱います。
高度な自律性の下での調整による表面製品の安全性を混乱させる。
英語以外や専門家ではない聴衆には、低品質の情報源しか提供されません。
実装ロードマップ
製品の危害、誤使用、制御不能/調整不良のリスクを分離します。
これを証拠ゲートとして扱います。基準が満たされない場合は、ロールアウトを一時停止し、ギャップを埋めてから、使用を拡大します。
どのような証拠がタイムラインと重大度についてのあなたの見方を変えるかを尋ねてください。
これを証拠ゲートとして扱います。基準が満たされない場合は、ロールアウトを一時停止し、ギャップを埋めてから、使用を拡大します。
マーケティング上の主張よりも、一次情報源と具体的な評価を優先します。
これを証拠ゲートとして扱います。基準が満たされない場合は、ロールアウトを一時停止し、ギャップを埋めてから、使用を拡大します。
意識だけでなく、キャリア、政策、資金、スキルなど、行動経路を 1 つ特定します。
これを証拠ゲートとして扱います。基準が満たされない場合は、ロールアウトを一時停止し、ギャップを埋めてから、使用を拡大します。
探検を続けましょう
Check your understanding
Test yourself: take the Artificial General Intelligence quiz