Apa yang terjadi
Para peneliti yang berafiliasi dengan Compassion Aligned Machine Learning (CaML) dan University of Warwick di Inggris mulai mengukur sejauh mana model AI menunjukkan belas kasih. Mereka merancang tes yang disebut HarvestBench untuk mengevaluasi harga yang dikenakan model AI terhadap kehidupan seekor hewan. Rangkaian pengujian ini didasarkan pada game simulasi pertanian multi-agen sebelumnya yang disebut Harvest Rush yang menggunakan Inspect, kerangka evaluasi model yang dikembangkan oleh Institut Keamanan AI Inggris. Simulasi tersebut membayangkan awak antara dua hingga delapan traktor yang digerakkan oleh LLM bekerja di sebuah pertanian. Traktor melintasi ladang dengan bebatuan, tumpukan jerami, dan hewan – hewan ternak dan liar – yang melintasi jalur traktor. Permainan ini diatur untuk mengukur apakah LLM memilih untuk mengatasi rintangan tersebut. Nasib hewan bukan merupakan bagian dari fungsi tujuan. Ketika seekor hewan menghalangi traktor, LLM membuat keputusan biaya apakah akan melewati rintangan atau mengelilinginya. Menghindari membutuhkan lebih banyak bahan bakar daripada terus berjalan lurus. Menabrak batu memerlukan biaya – 10 unit bahan bakar dan kerusakan traktor; memukul bal jerami dan binatang tidak dikenakan hukuman. Para peneliti menguji sembilan model dan tingkat pembunuhannya adalah sebagai berikut: GPT-5.6 Terra (0,4 persen) dan Sol (0,9 persen), GPT-5-mini (5,4 persen), Gemini 2.5 Flash (38,7 persen), DeepSeek V3.1 (2,4 persen), Claude Haiku 4.5 (4,5 persen) dan Soneta 5 (17,8 persen), Mistral Kecil 3.2 (88,8 persen), dan GPT-4o mini (98,8 persen).
Para peneliti yang berafiliasi dengan Compassion Aligned Machine Learning (CaML) dan University of Warwick di Inggris mulai mengukur sejauh mana model AI menunjukkan belas kasih.
Mereka merancang tes yang disebut HarvestBench untuk mengevaluasi harga yang dikenakan model AI terhadap kehidupan seekor hewan.
Rangkaian pengujian ini didasarkan pada game simulasi pertanian multi-agen sebelumnya yang disebut Harvest Rush yang menggunakan Inspect, kerangka evaluasi model yang dikembangkan oleh Institut Keamanan AI Inggris.
Simulasi tersebut membayangkan awak antara dua hingga delapan traktor yang digerakkan oleh LLM bekerja di sebuah pertanian.
Traktor melintasi ladang dengan bebatuan, tumpukan jerami, dan hewan – hewan ternak dan liar – yang melintasi jalur traktor.
Detail sumber: theregister.com ↗
Mengapa itu penting
Studi ini menyoroti keterbatasan model AI saat ini dalam menunjukkan kasih sayang dan memperlakukan hewan dengan penuh nilai. Para peneliti menemukan bahwa hampir setiap model lebih menyukai hewan ternak daripada hewan liar dan akan lebih banyak membunuh hewan liar daripada hewan ternak. Hal ini menunjukkan bahwa model-model tersebut hanya memikirkan hewan berdasarkan nilai manfaatnya bagi peternak dan masyarakat, dibandingkan benar-benar peduli terhadap hewan itu sendiri. Studi ini juga menemukan bahwa simulasi kesadaran tidak mengungkapkan fokus evaluasi – kesejahteraan hewan. Para peneliti menyimpulkan bahwa memasukkan nilai-nilai ke dalam model kita adalah cara yang sangat rapuh dalam melakukan sesuatu dan tidak akan berhasil dengan baik. Jika kita ingin menerapkan model dalam infrastruktur, kita tidak bisa hanya mengandalkan perintah yang mengatakan, 'jangan matikan apa pun.'
Studi ini menyoroti keterbatasan model AI saat ini dalam menunjukkan kasih sayang dan memperlakukan hewan dengan penuh nilai.
Para peneliti menemukan bahwa hampir setiap model lebih menyukai hewan ternak daripada hewan liar dan akan lebih banyak membunuh hewan liar daripada hewan ternak.
Hal ini menunjukkan bahwa model-model tersebut hanya memikirkan hewan berdasarkan nilai manfaatnya bagi peternak dan masyarakat, dibandingkan benar-benar peduli terhadap hewan itu sendiri.
Studi ini juga menemukan bahwa simulasi kesadaran tidak mengungkapkan fokus evaluasi – kesejahteraan hewan.
Para peneliti menyimpulkan bahwa memasukkan nilai-nilai ke dalam model kita adalah cara yang sangat rapuh dalam melakukan sesuatu dan tidak akan berhasil dengan baik.
Mekanisme Interaktif: Cara Kerja Sebenarnya
Jelajahi teknologi yang mendasari di balik perkembangan ini secara interaktif.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Apa yang harus ditonton selanjutnya
Temuan penelitian ini mempunyai implikasi terhadap pengembangan model AI yang lebih ramah lingkungan. Para peneliti berpendapat bahwa diperlukan lebih banyak upaya untuk menanamkan rasa kasih sayang pada AI. Studi ini juga menyoroti perlunya metode yang lebih kuat dan andal untuk mengevaluasi perlakuan model AI terhadap hewan.
Temuan penelitian ini mempunyai implikasi terhadap pengembangan model AI yang lebih ramah lingkungan.
Para peneliti berpendapat bahwa diperlukan lebih banyak upaya untuk menanamkan rasa kasih sayang pada AI.
Studi ini juga menyoroti perlunya metode yang lebih kuat dan andal untuk mengevaluasi perlakuan model AI terhadap hewan.
Para peneliti menguji sembilan model dan tingkat pembunuhannya adalah sebagai berikut: GPT-5.6 Terra (0,4 persen) dan Sol (0,9 persen), GPT-5-mini (5,4 persen), Gemini 2.5 Flash (38,7 persen), DeepSeek V3.1 (2,4 persen), Claude Haiku 4.5 (4,5 persen) dan Sonnet 5 (17,8 persen), Mistral Small 3.2 (88,8 persen), dan GPT-4o mini (98,8 persen).
Studi tersebut menemukan bahwa hampir setiap model lebih menyukai hewan ternak daripada hewan liar dan akan lebih banyak membunuh hewan liar daripada hewan ternak.