IA et société

Identifiez qui est concerné, y compris les personnes qui n’utilisent pas directement le système. Un service automatisé peut modifier l'accès à l'assistance, les informations que les gens voient ou le travail attendu du personnel. Ces effets peuvent être négligés en mesurant uniquement l’efficacité de l’opérateur. Pensez à la distribution et à la participation. La couverture linguistique, l'accès aux personnes handicapées, la connectivité, le coût et la capacité de contester un résultat peuvent déterminer qui en bénéficie. Consulter les communautés affectées lors de la définition du problème et de l’évaluation de la solution proposée. Les environnements informationnels nécessitent une attention particulière. Le contenu généré peut accroître l’accès aux explications tout en amplifiant les éléments trompeurs. La provenance, les corrections et les preuves transparentes aident les lecteurs à évaluer les allégations sans nécessiter une confiance aveugle dans une plateforme. Considérez la gouvernance comme un processus continu. Suivez les résultats réels, enquêtez sur les plaintes et révisez les systèmes lorsque les utilisations ou les impacts changent. Évitez de supposer que les résultats sociaux généraux découlent automatiquement d’une amélioration d’un modèle. Les institutions et les choix politiques déterminent la manière dont les capacités sont déployées et qui en supporte les conséquences.