À suivreGuide suivant
Loi sur la politique en matière d'intelligence artificielle de l'Utah
Société
GUIDE DE LA SOCIÉTÉ
Intelligence générale artificielle
L'intelligence générale artificielle (AGI) fait référence à des systèmes d'IA dotés de compétences larges, de niveau humain (ou supérieur), dans la plupart des tâches cognitives, et non pas seulement une compétence restreinte comme la traduction ou l'étiquetage d'images.
Écoutez ce guideNarré par l'IA · ~2 min
Sur cette page2 minutes de lecture
Plongée profonde
Il n’existe pas de définition unique et convenue de l’AGI. Certaines personnes veulent dire « correspond aux professionnels humains médians dans la plupart des travaux de connaissances », d'autres veulent dire « peut automatiser la majorité des tâches économiquement intéressantes », et d'autres encore réservent le terme aux systèmes qui peuvent s'améliorer ou dépasser l'humanité en matière de science et de stratégie. La définition est importante car la politique, les investissements et la planification de la sécurité dépendent tous du moment où vous pensez que de tels systèmes arriveront et de ce qu'ils peuvent faire. Les grands modèles de langage actuels ne sont pas des AGI selon des définitions strictes, mais ils font déjà preuve d'une grande compétence et d'une amélioration rapide - c'est pourquoi les délais sont contestés et pourquoi les chercheurs sur les risques existentiels traitent l'AGI (et les systèmes au-delà) comme un problème de planification en direct plutôt que comme de la science-fiction. Si les systèmes de niveau AGI peuvent agir avec une surveillance limitée, les problèmes d’alignement et de contrôle cessent d’être académiques.
Mise en œuvre dans le monde réel
Suivre la façon dont les modèles de frontière s'étendent du chat au codage, à l'aide à la recherche et à l'utilisation d'outils en plusieurs étapes.
Comparaison des définitions publiques de l'AGI des laboratoires et des seuils qu'ils prétendent importants pour la politique de sécurité.
Planification des impacts économiques et sécuritaires si les systèmes peuvent se substituer à de grandes classes de travail cognitif à distance.
L’avenir de l’intelligence artificielle générale
Attendez-vous à un débat continu sur les délais, à un intérêt accru du gouvernement pour les courses de formation aux frontières et à des pressions pour définir des seuils de capacité mesurables. Pour le public, ce qu’il faut retenir n’est pas une année précise : c’est que la direction du voyage va vers des systèmes plus généraux et plus autonomes, et que le travail de sécurité doit garder une longueur d’avance sur cette courbe.
Le mettre en pratique
Pourquoi c'est important
- Risques et sécurité. Les dommages catastrophiques et quotidiens causés par l’IA dépendent tous deux de la personne qui comprend les risques et qui peut agir.
- Décisions plus claires. Les connaissances du public et des professionnels déterminent si une politique de sécurité forte est politiquement possible.
- Passer à travers le battage médiatique. Des explications claires réduisent la capture par le battage médiatique, les relations publiques en laboratoire et le théâtre d'éthique vague.
Attention à
- Traiter le risque existentiel comme de la science-fiction alors que les capacités s’accroissent.
- Confondre sécurité des produits de surface et alignement sous haute autonomie.
- Laisser le public non anglophone et non expert avec uniquement des sources de mauvaise qualité.
Prochaines étapes
- Séparez les dommages causés aux produits, leur mauvaise utilisation et les risques de perte de contrôle/désalignement.
- Demandez quelles preuves pourraient changer votre point de vue sur les délais et la gravité.
- Préférez les sources primaires et les évaluations concrètes aux allégations marketing.
- Identifiez une voie d’action : carrière, politique, financement ou compétences – et pas seulement la sensibilisation.
Continuez à explorer
Newsletter gratuite
Recevez le briefing quotidien sur l'IA
Trois histoires d'IA vérifiées chaque matin de la semaine, écrites dans un anglais simple. Gratuit pour toujours, sans publicité.
Un e-mail chaque jour de la semaine. Désabonnez-vous en un clic. Nous ne vendons ni ne partageons jamais votre adresse.
Testez-vous
Répondez au quiz sur l'intelligence générale artificielle
Commentaires instantanés sur chaque réponse et un certificat partageable avec une pièce d'identité vérifiable une fois que vous avez réussi un cours.
Soutenez l’enseignement gratuit de l’IA. AI Understanding est une organisation à but non lucratif 501(c)(3) : pas de publicité, pas de paywall, jamais. Faire un don
Questions fréquemment posées
Qu’est-ce que l’Intelligence Générale Artificielle ?
L'intelligence générale artificielle (AGI) fait référence à des systèmes d'IA dotés de compétences larges, de niveau humain (ou supérieur), dans la plupart des tâches cognitives, et non pas seulement une compétence restreinte comme la traduction ou l'étiquetage d'images.
Qu’est-ce qui distingue l’intelligence artificielle générale de l’IA étroite ?
Les systèmes étroits excellent dans des tâches spécifiques comme les échecs ou la traduction ; AGI fait référence à une compétence flexible et humaine dans un large éventail de tâches.
Qu’observe le paradoxe de Moravec ?
Hans Moravec a noté que le raisonnement de haut niveau était relativement facile à automatiser, tandis que les compétences sensorimotrices affinées par l'évolution s'avéraient difficiles.
Which benchmark did François Chollet propose as a concrete way to measure skill-acquisition efficiency on abstract puzzles?
ARC présente de petites énigmes en grille nécessitant de nouvelles règles à partir de quelques exemples, ciblant la généralisation plutôt que la connaissance mémorisée.
Quelle est l’hypothèse de « l’explosion du renseignement » associée à I. J. Good ?
Good a soutenu en 1965 qu’une machine ultraintelligente pourrait concevoir des machines encore meilleures, conduisant à une auto-amélioration récursive.
L'essai de Rich Sutton « The Bitter Lesson » pose la question : qu'en est-il des progrès de l'IA ?
Sutton a soutenu que les méthodes générales utilisant davantage de calculs se sont révélées à plusieurs reprises plus efficaces au fil du temps que les méthodes construites autour de connaissances artisanales du domaine.
Continuez à apprendre
Guides associés
Plus de guides sélectionnés pour ce sujet