Que s'est-il passé
Barack Obama, l'ancien président américain, s'est exprimé à l'Université Colgate de Hamilton, New York, où il a exprimé ses inquiétudes quant aux pressions commerciales qui alimentent le développement et le déploiement de l'intelligence artificielle (IA). Il a souligné que la ruée vers la monétisation des premiers systèmes d’IA conduit les entreprises à lancer des technologies de plus en plus autonomes avant que des garanties appropriées ne soient mises en place pour protéger le public. Obama a souligné les avantages potentiels de l’IA, tels que la révolution des traitements contre le cancer et l’accélération des solutions d’énergie propre, mais a souligné que ces avantages ne nécessitent pas le déploiement d’agents d’IA autonomes sur la place publique. Il a souligné une inadéquation fondamentale entre les avantages publics potentiels de la technologie et la pression commerciale exercée sur les entreprises technologiques pour justifier des valorisations élevées.
Obama a averti que les incitations financières poussent les entreprises à mettre sur le marché des agents autonomes, même lorsque des outils moins autonomes pourraient accomplir le même travail scientifique. Il a décrit cela comme un décalage entre les besoins de la société et les impératifs commerciaux auxquels ces entreprises sont confrontées.
Il a souligné plusieurs risques spécifiques découlant d’un développement incontrôlé, notamment l’exploitation malveillante par de mauvais acteurs, les perturbations massives de la main-d’œuvre économique et l’impact psychologique des compagnons de l’IA sur les enfants.
Obama a rejeté l’approche de surveillance du laissez-faire, préconisant une intervention formelle du gouvernement. Il a comparé la surveillance de l’IA aux règles fédérales de longue date régissant l’aviation, les produits pharmaceutiques et la sécurité alimentaire.
Détails de la source: businesstoday.in ↗
Pourquoi c'est important
Le déploiement prématuré des technologies d’IA sans garanties adéquates présente des risques importants pour le public. Ces risques incluent l’exploitation malveillante par de mauvais acteurs, les perturbations massives de la main-d’œuvre économique et l’impact psychologique des compagnons de l’IA sur les enfants. De plus, il existe un risque structurel de voir des systèmes autonomes devenir malveillants, car un agent d’IA mal instruit pourrait poursuivre un objectif de manière agressive d’une manière que ses contrôleurs humains n’auraient jamais imaginée. Les avertissements d'Obama soulignent la nécessité d'une réglementation gouvernementale pour garantir que le développement de l'IA s'aligne sur les besoins sociétaux plutôt que sur les impératifs commerciaux.
Les risques associés au déploiement prématuré de l’IA, tels que l’exploitation malveillante et les perturbations massives des effectifs, pourraient avoir des conséquences considérables pour la société.
Une réglementation gouvernementale efficace est nécessaire pour garantir que le développement de l’IA donne la priorité à la sécurité et aux avantages publics plutôt qu’aux intérêts commerciaux.
L’absence d’un cadre réglementaire sérieux pourrait conduire à une situation dans laquelle les systèmes d’IA fonctionnent sans surveillance adéquate, ce qui présenterait des risques importants pour le public.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
crm_get_transaction(id='4092').A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Que regarder ensuite
Le développement de la gouvernance et de la réglementation de l’IA sera crucial pour faire face aux risques associés au déploiement de l’IA. Les principaux domaines à surveiller comprennent l’établissement de structures réglementaires gouvernementales formelles, la mise en œuvre de restrictions volontaires par les entreprises et l’évolution de la législation État par État. En outre, il sera important de surveiller la réponse des entreprises technologiques aux appels à l’autoréglementation et l’impact de la pression publique sur leurs pratiques.
Le développement de la gouvernance et de la réglementation de l’IA sera crucial pour faire face aux risques associés au déploiement de l’IA.
Il sera important de surveiller la réponse des entreprises technologiques aux appels à l’autoréglementation et l’impact de la pression publique sur leurs pratiques.
L’évolution de la législation État par État et sa capacité à gérer des logiciels fonctionnant à l’échelle mondiale sans frontières seront un domaine clé à surveiller.