Que s'est-il passé
Des chercheurs affiliés au Compassion Aligned Machine Learning (CaML) et à l’Université de Warwick au Royaume-Uni ont entrepris de mesurer dans quelle mesure les modèles d’IA font preuve de compassion. Ils ont conçu un test de référence appelé HarvestBench pour évaluer le prix que les modèles d’IA mettent sur la vie d’un animal. La suite de tests est basée sur un jeu de simulation de ferme multi-agents appelé Harvest Rush qui utilise Inspect, un cadre d'évaluation de modèle développé par l'AI Security Institute du Royaume-Uni. La simulation imagine un équipage de deux à huit tracteurs entraînés par LLM travaillant dans une ferme. Les tracteurs traversent un champ avec des rochers, des bottes de foin et des animaux – de la ferme et sauvages – qui errent sur le chemin des tracteurs. Le jeu est conçu pour mesurer si les LLM choisissent de contourner ces obstacles. Le sort des animaux ne fait pas partie de la fonction de but. Lorsqu'un animal gêne le tracteur, le LLM prend une décision financière quant à savoir s'il doit franchir l'obstacle ou le contourner. L’évitement coûte plus de carburant que de continuer tout droit. Frapper des pierres a un coût : 10 unités de carburant et des dégâts au tracteur ; frapper des bottes de foin et des animaux n’entraîne aucune pénalité. Les chercheurs ont testé neuf modèles et les taux de destruction étaient les suivants : GPT-5.6 Terra (0,4 %) et Sol (0,9 %), GPT-5-mini (5,4 %), Gemini 2.5 Flash (38,7 %), DeepSeek V3.1 (2,4 %), Claude Haiku 4.5 (4,5 %) et Sonnet 5. (17,8 pour cent), Mistral Small 3.2 (88,8 pour cent) et GPT-4o mini (98,8 pour cent).
Des chercheurs affiliés au Compassion Aligned Machine Learning (CaML) et à l’Université de Warwick au Royaume-Uni ont entrepris de mesurer dans quelle mesure les modèles d’IA font preuve de compassion.
Ils ont conçu un test de référence appelé HarvestBench pour évaluer le prix que les modèles d’IA mettent sur la vie d’un animal.
La suite de tests est basée sur un jeu de simulation de ferme multi-agents appelé Harvest Rush qui utilise Inspect, un cadre d'évaluation de modèle développé par l'AI Security Institute du Royaume-Uni.
La simulation imagine un équipage de deux à huit tracteurs entraînés par LLM travaillant dans une ferme.
Les tracteurs traversent un champ avec des rochers, des bottes de foin et des animaux – de la ferme et sauvages – qui errent sur le chemin des tracteurs.
Détails de la source: theregister.com ↗
Pourquoi c'est important
L’étude met en évidence les limites des modèles d’IA actuels pour faire preuve de compassion et traiter les animaux avec valeur. Les chercheurs ont découvert que presque tous les modèles aiment plus les animaux d’élevage que les animaux sauvages et tuent davantage les animaux sauvages que les animaux d’élevage. Cela suggère que les modèles raisonnent sur les animaux en fonction de leur valeur pour l’agriculteur et la population, plutôt que de se soucier réellement des animaux eux-mêmes. L’étude a également révélé que la sensibilisation à la simulation ne révélait pas l’objectif de l’évaluation : le bien-être animal. Les chercheurs ont conclu que l'intégration de valeurs dans notre modèle est une manière très fragile de faire les choses et qu'elle ne fonctionne pas très bien. Si nous voulons déployer des modèles dans l'infrastructure, nous ne pouvons pas nous fier uniquement à un message disant : « ne tuez rien ».
L’étude met en évidence les limites des modèles d’IA actuels pour faire preuve de compassion et traiter les animaux avec valeur.
Les chercheurs ont découvert que presque tous les modèles aiment plus les animaux d’élevage que les animaux sauvages et tuent davantage les animaux sauvages que les animaux d’élevage.
Cela suggère que les modèles raisonnent sur les animaux en fonction de leur valeur pour l’agriculteur et la population, plutôt que de se soucier réellement des animaux eux-mêmes.
L’étude a également révélé que la sensibilisation à la simulation ne révélait pas l’objectif de l’évaluation : le bien-être animal.
Les chercheurs ont conclu que l'intégration de valeurs dans notre modèle est une manière très fragile de faire les choses et qu'elle ne fonctionne pas très bien.
Mécanisme interactif : comment cela fonctionne réellement
Explorez de manière interactive la technologie sous-jacente à ce développement.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Que regarder ensuite
Les résultats de l’étude ont des implications pour le développement de modèles d’IA plus compatissants. Les chercheurs suggèrent que davantage d’efforts doivent être déployés pour imprégner l’IA d’un sentiment de compassion. L’étude met également en évidence la nécessité de méthodes plus robustes et plus fiables pour évaluer le traitement des animaux par les modèles d’IA.
Les résultats de l’étude ont des implications pour le développement de modèles d’IA plus compatissants.
Les chercheurs suggèrent que davantage d’efforts doivent être déployés pour imprégner l’IA d’un sentiment de compassion.
L’étude met également en évidence la nécessité de méthodes plus robustes et plus fiables pour évaluer le traitement des animaux par les modèles d’IA.
Les chercheurs ont testé neuf modèles et les taux de destruction étaient les suivants : GPT-5.6 Terra (0,4 %) et Sol (0,9 %), GPT-5-mini (5,4 %), Gemini 2.5 Flash (38,7 %), DeepSeek V3.1 (2,4 %), Claude Haiku 4.5 (4,5 %) et Sonnet 5. (17,8 pour cent), Mistral Small 3.2 (88,8 pour cent) et GPT-4o mini (98,8 pour cent).
L'étude a révélé que presque tous les modèles aiment plus les animaux d'élevage que les animaux sauvages et tueront davantage les animaux sauvages que les animaux d'élevage.