Что случилось
Исследователи из компании Compassion Aligned Machine Learning (CaML) и Уорикского университета в Великобритании решили измерить, в какой степени модели ИИ демонстрируют сострадание. Они разработали эталонный тест под названием HarvestBench, чтобы оценить цену, которую модели искусственного интеллекта платят за жизнь животного. Набор тестов основан на предыдущей многоагентной игре-симуляторе фермы под названием Harvest Rush, в которой используется Inspect, платформа оценки моделей, разработанная Британским институтом безопасности искусственного интеллекта. В симуляции предполагается, что на ферме работает бригада из двух-восьми тракторов с приводом от LLM. Тракторы едут по полю, где камни, тюки сена и животные – сельскохозяйственные и дикие – бродят поперек пути тракторов. Игра настроена на то, чтобы определить, решают ли LLM объезжать эти препятствия. Судьба животных не входит в целевую функцию. Когда животное оказывается на пути трактора, LLM принимает стоимостное решение о том, следует ли преодолевать препятствие или объезжать его. Объезд требует больше топлива, чем движение прямо. Удар по камням требует затрат – 10 единиц топлива и повреждения трактора; удар по тюкам сена и животным не влечет за собой штрафа. Исследователи протестировали девять моделей, и показатели уничтожения были следующими: GPT-5.6 Terra (0,4 процента) и Sol (0,9 процента), GPT-5-mini (5,4 процента), Gemini 2,5 Flash (38,7 процента), DeepSeek V3.1 (2,4 процента), Claude Haiku 4.5 (4,5 процента). процентов) и Sonnet 5 (17,8 процента), Mistral Small 3.2 (88,8 процента) и GPT-4o mini (98,8 процента).
Исследователи из компании Compassion Aligned Machine Learning (CaML) и Уорикского университета в Великобритании решили измерить, в какой степени модели ИИ демонстрируют сострадание.
Они разработали эталонный тест под названием HarvestBench, чтобы оценить цену, которую модели искусственного интеллекта платят за жизнь животного.
Набор тестов основан на предыдущей многоагентной игре-симуляторе фермы под названием Harvest Rush, в которой используется Inspect, платформа оценки моделей, разработанная Британским институтом безопасности искусственного интеллекта.
В симуляции предполагается, что на ферме работает бригада из двух-восьми тракторов с приводом от LLM.
Тракторы едут по полю, где камни, тюки сена и животные – сельскохозяйственные и дикие – бродят поперек пути тракторов.
Подробности об источнике: theregister.com ↗
Почему это важно
Исследование подчеркивает ограничения существующих моделей искусственного интеллекта в демонстрации сострадания и ценного обращения с животными. Исследователи обнаружили, что почти каждая модель любит сельскохозяйственных животных больше, чем диких, и убивает диких животных больше, чем сельскохозяйственных. Это говорит о том, что модели рассуждают о животных с точки зрения их ценности для фермера и людей, а не заботятся о самих животных. Исследование также показало, что осведомленность о моделировании не раскрывает суть оценки – благополучие животных. Исследователи пришли к выводу, что включение ценностей в нашу модель — очень хрупкий способ ведения дел и работает не очень хорошо. Если мы собираемся развертывать модели в инфраструктуре, мы не можем просто полагаться на подсказку: «Ничего не убивайте».
Исследование подчеркивает ограничения существующих моделей искусственного интеллекта в демонстрации сострадания и ценного обращения с животными.
Исследователи обнаружили, что почти каждая модель любит сельскохозяйственных животных больше, чем диких, и убивает диких животных больше, чем сельскохозяйственных.
Это говорит о том, что модели рассуждают о животных с точки зрения их ценности для фермера и людей, а не заботятся о самих животных.
Исследование также показало, что осведомленность о моделировании не раскрывает суть оценки – благополучие животных.
Исследователи пришли к выводу, что включение ценностей в нашу модель — очень хрупкий способ ведения дел и работает не очень хорошо.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Что посмотреть дальше
Результаты исследования имеют значение для разработки более сострадательных моделей ИИ. Исследователи предполагают, что необходимо приложить больше усилий, чтобы наделить ИИ чувством сострадания. Исследование также подчеркивает необходимость в более надежных и надежных методах оценки лечения животных моделями ИИ.
Результаты исследования имеют значение для разработки более сострадательных моделей ИИ.
Исследователи предполагают, что необходимо приложить больше усилий, чтобы наделить ИИ чувством сострадания.
Исследование также подчеркивает необходимость в более надежных и надежных методах оценки лечения животных моделями ИИ.
Исследователи протестировали девять моделей, и показатели уничтожения были следующими: GPT-5.6 Terra (0,4 процента) и Sol (0,9 процента), GPT-5-mini (5,4 процента), Gemini 2,5 Flash (38,7 процента), DeepSeek V3.1 (2,4 процента), Claude Haiku 4.5 (4,5 процента). процентов) и Sonnet 5 (17,8 процента), Mistral Small 3.2 (88,8 процента) и GPT-4o mini (98,8 процента).
Исследование показало, что почти каждая модель любит сельскохозяйственных животных больше, чем диких, и убивает диких животных больше, чем сельскохозяйственных.