社会ガイド
汎用人工知能
汎用人工知能 (AGI) とは、翻訳や画像ラベル付けなどの 1 つの狭いスキルだけではなく、ほとんどの認知タスクにわたって人間レベル (またはそれ以上) の広範な能力を備えた AI システムを指します。
このガイドを聴くAIによるナレーション · ~2 min
ディープダイブ
AGI には単一の合意された定義はありません。 「ほとんどの知識労働において人間の専門家の中央値と同等」を意味する人もいれば、「経済的に価値のあるタスクの大部分を自動化できる」ことを意味する人もいます。また、科学や戦略全体にわたって、システム自体を改善したり人類を上回ることができるシステムを意味する人もいます。政策、投資、安全計画はすべて、そのようなシステムがいつ登場し、何ができるかによって決まるため、定義は重要です。現在の大規模な言語モデルは、厳密な定義では AGI ではありませんが、すでに広範な能力と急速な改善を示しています。これがタイムラインに異議が唱えられている理由であり、実存リスク研究者が AGI (およびそれを超えたシステム) を SF ではなく現実の計画問題として扱う理由です。 AGI レベルのシステムが限定された監視下で動作できる場合、調整と制御の問題は学術的なものではなくなります。
現実世界の実装
フロンティア モデルがチャットからコーディング、研究支援、マルチステップ ツールの使用にどのように拡張されるかを追跡します。
研究機関による AGI の公的定義と、安全政策にとって重要であると主張する閾値を比較します。
システムが大規模な遠隔認知労働を代替できる場合、経済とセキュリティに影響を与える計画を立てます。
汎用人工知能の未来
スケジュールをめぐる議論は継続し、フロンティア訓練実施に対する政府の関心はさらに高まり、測定可能な能力の閾値を定義するよう圧力がかかることが予想される。一般の人々にとって有益な教訓は、正確な年ではありません。それは、方向性がより一般的で自律的なシステムに向かっていること、そして安全対策がその曲線を先取りする必要があるということです。
実践する
なぜそれが重要なのか
- リスクと安全性. AI による壊滅的な被害も日常的な被害も、誰がリスクを理解し、誰が行動できるかにかかっています。
- より明確な判決. 国民と専門家のリテラシーは、強力な安全政策が政治的に可能かどうかを左右します。
- 誇大広告を打ち破る. 明確な説明は、誇大広告、研究室の PR、曖昧な倫理劇場に囚われることを減らします。
気をつけてください
- 能力が複雑になる一方で、実存的なリスクを SF として扱います。
- 高度な自律性の下での調整による表面製品の安全性を混乱させる。
- 英語以外や専門家ではない聴衆には、低品質の情報源しか提供されません。
次のステップ
- 製品の危害、誤使用、制御不能/調整不良のリスクを分離します。
- どのような証拠がタイムラインと重大度についてのあなたの見方を変えるかを尋ねてください。
- マーケティング上の主張よりも、一次情報源と具体的な評価を優先します。
- 意識だけでなく、キャリア、政策、資金、スキルなど、行動経路を 1 つ特定します。
探検を続けましょう
よくある質問
汎用人工知能とは何ですか?
汎用人工知能 (AGI) とは、翻訳や画像ラベル付けなどの 1 つの狭いスキルだけではなく、ほとんどの認知タスクにわたって人間レベル (またはそれ以上) の広範な能力を備えた AI システムを指します。
一般人工知能と限定的な AI の違いは何ですか?
狭いシステムは、チェスや翻訳などの特定のタスクに優れています。 AGI は、幅広いタスクにわたる柔軟な人間レベルの能力を指します。
モラヴェックのパラドックスは何を観察していますか?
ハンス・モラベックは、高度な推論は比較的簡単に自動化できるが、進化によって洗練された感覚運動スキルは難しいことが判明したと指摘しました。
フランソワ・ショレが抽象パズルのスキル習得効率を測定する具体的な方法として提案したベンチマークはどれですか?
ARC は、記憶された知識ではなく一般化をターゲットとして、いくつかの例から新しいルールを必要とする小さなグリッド パズルを提示します。
I. J. グッドに関連する「知能の爆発」仮説とは何ですか?
グッド氏は 1965 年に、超知能機械はさらに優れた機械を設計でき、それが再帰的な自己改善につながると主張しました。
リッチ・サットンのエッセイ「The Bitter Lesson」は、AI の進歩についてはどうなのかを論じています。
サットン氏は、より多くの計算を使用する一般的な方法は、手作りのドメイン知識を中心に構築された方法よりも時間の経過とともに繰り返し効果的であることが証明されていると主張しました。