LegközelebbKövetkező az AI-politika és társadalom
AI torzítás
Társadalom
Társadalom ÚTMUTATÓ
A mesterséges intelligencia etika annak a tanulmánya és gyakorlata, amely biztosítja, hogy a mesterséges intelligencia rendszerek tisztességesen bánjanak az emberekkel, tiszteletben tartsák a magánéletet, elszámoltathatók legyenek az emberekkel szemben, és ne okozzanak olyan károkat, amelyek meghaladják az előnyeiket.
Hallgassa meg ezt az útmutatótAI-narrált · ~8 min
Ez azért fontos, mert a mesterséges intelligencia mostantól segít eldönteni, hogy kit alkalmaznak, jelöljenek meg, kiket hagyjanak jóvá vagy nézzenek meg, és a dokumentált esetek azt mutatják, hogy ezekben a rendszerekben a hibák és a torzítások egyenlőtlenül esnek a különböző csoportokra.
AI ethics asks a practical question: when a machine helps make a decision about people, how should it be built, tested and governed so that it is fair, safe and accountable? The topic covers several recurring concerns. Fairness asks whether a system works equally well for different groups. Privacy asks what personal data is collected and how it is used. Transparency and explainability ask whether people can find out that AI is involved and why it reached a result. Accountability asks who is responsible when it goes wrong. Safety asks whether the system can cause physical, financial or psychological harm. Wider questions include effects on jobs, the environment and the concentration of power. AI ethics is not only philosophy; it shows up as design decisions, test results, documentation, audits and laws.
In practice, ethical review follows a repeatable process. First, define the system's purpose and the people it affects, including people who never use it directly, such as the subjects of a risk score. Second, map what could go wrong in that specific context. Third, measure: test accuracy not just overall but separately for each relevant group, and test for misuse. Fourth, mitigate: change the data, the model, the decision threshold or the human process around it, or decide not to deploy. Fifth, assign accountability and keep monitoring after launch. The NIST AI Risk Management Framework 1.0, released by the US National Institute of Standards and Technology in January 2023 for voluntary use, names these activities govern, map, measure and manage. It lists the traits of trustworthy AI as valid and reliable, safe, secure and resilient, accountable and transparent, explainable and interpretable, privacy-enhanced, and fair with harmful bias managed, and it notes that these must be balanced against one another depending on context.
The case for measuring by group comes from documented failures. In 2018 Joy Buolamwini and Timnit Gebru published Gender Shades, which tested three commercial systems that guessed gender from face photos. The worst group, darker-skinned women, saw error rates up to 34.7%, while the best group, lighter-skinned men, saw a maximum error of 0.8%. Part of the explanation was the data used to build and judge such systems: two widely used face benchmarks they examined were 79.6% and 86.2% lighter-skinned. A system can report high average accuracy while failing badly for a group that was underrepresented in its data.
The second landmark case shows that fairness itself has more than one definition. In May 2016, ProPublica analyzed COMPAS, a commercial tool from Northpointe that scores how likely a defendant is to reoffend, using records for more than 7,000 people arrested in Broward County, Florida in 2013 and 2014. About 61% of people labeled likely to reoffend were rearrested within two years, and only about 20% of those predicted to commit violent crimes did so. Among defendants who did not reoffend, Black defendants had been labeled higher risk 44.9% of the time and white defendants 23.5%. Northpointe disputed the analysis, arguing its scores were equally accurate for both groups. Months later, Jon Kleinberg, Sendhil Mullainathan and Manish Raghavan proved that, except in highly constrained special cases, no risk score can satisfy three common fairness conditions at once. Both sides could be right by their own definition. Choosing which kind of fairness matters is a value judgment that the math cannot make.
Law has begun to turn some ethical lines into rules. The European Union's AI Act takes a risk-based approach: a short list of uses is banned, high-risk uses face requirements for data quality, documentation and human oversight, and many low-risk uses face few or none. Its prohibitions, applying since 2 February 2025, cover manipulative techniques that cause significant harm, exploiting people's age, disability or economic situation, social scoring, predicting crime from profiling alone, building face recognition databases by untargeted scraping, inferring emotions in workplaces and schools, and most real-time remote biometric identification in public spaces by police. The NIST framework, by contrast, is voluntary guidance. The Stanford AI Index 2025 counted 59 AI-related regulations issued by US federal agencies in 2024, more than double the year before.
AI ethics is easy to confuse with neighboring ideas. Law sets minimum requirements that are enforced; ethics also covers what is permitted but still harmful or unfair. AI safety, in its narrow sense, focuses on preventing accidents and dangerous capabilities, often in powerful future systems, while ethics usually deals with harms to people from systems already in use. Responsible AI is the name many companies give to their internal ethics programs, which typically combine principles, review boards and testing. All three overlap, and the same audit can serve each.
The broader costs reach beyond individual decisions. The International Energy Agency's April 2025 report estimates that data centres consumed about 415 terawatt-hours in 2024, about 1.5% of global electricity, and projects consumption more than doubling to around 945 terawatt-hours by 2030, slightly more than Japan uses today, with AI the most important driver. Concentration is another concern: the Stanford AI Index 2025 found that nearly 90% of notable AI models released in 2024 came from industry, so a small number of companies make many of the design choices that affect everyone. Public opinion is divided as well: in the same report, optimism about AI ranged from 83% of people surveyed in China to 39% in the United States.
Doing ethics well has real costs and real limits. Measuring disparities requires knowing which group each person belongs to, which can conflict with privacy. Audits, documentation and human review take staff time. Principles written in general terms, such as fairness or transparency, can be adopted without changing any product, a pattern critics call ethics washing. Trade-offs are unavoidable: making a model more explainable can make it less accurate, and equalizing one error rate can unbalance another. The most useful habit is specific: name the decision, the affected people, the measured error rates for each group, who can appeal, and who is accountable.
04Működő példa
Képzeljen el egy kockázati eszközt, amelyet két, egyenként 200 fős csoportnál használnak. Az A csoportban 100 ember fog újra bűnt elkövetni; a B csoportban 50 lesz. Az alapkamat 50% és 25%.
Az A csoportban az eszköz 100 embert jelöl meg magas kockázatúként: 60-at, aki ismételten elkövet, és 40-et, aki nem.
A B csoportban az eszköz 50 embert jelöl meg magas kockázatúként: 30-at, aki ismételten vétkezik, és 20-at, aki nem.
Ellenőrizze a kalibrációt: mindkét csoportban a megjelölt személyek 60%-a követ el újra (60 a 100-ból és 30 az 50-ből). Ezzel az intézkedéssel az eszköz egyformán kezeli a csoportokat.
Ellenőrizd a hamis pozitív arányokat: az A csoport 40 hibásan megjelölt a 100 nem ismételt elkövető közül, ami 40%; A B csoportban 20 a 150-ből, körülbelül 13,3%.
Próbálja kiegyenlíteni a hamis pozitív arányokat úgy, hogy megváltoztatja, hogy kik vannak megjelölve egy csoportban, majd számítsa újra a megjelölt személyek arányát, akik ismételten vétkeznek.
Mit mutat
A tanuló úgy látja, hogy ugyanaz az eszköz lehet igazságos az egyik definíció szerint, és igazságtalan a másik szerint, és mindkettő kiegyenlítése lehetetlen, ha az alapkamat különbözik, ahogy Kleinberg és munkatársai bebizonyították. Az ellenőrzés az, hogy a 4. és 5. lépésben szereplő aritmetika ugyanazokat a számokat használja, de ellentétes eredményt ad.
Arcelemzési auditok: a 2018-as Gender Shades tanulmány három kereskedelmi nemi besorolót tesztelt, és a sötétebb bőrű nőknél 34,7%-os hibaarányt talált, míg a világosabb bőrű férfiaknál legfeljebb 0,8%-ot.
Büntető igazságszolgáltatás: A ProPublica 2016-os elemzése a floridai Broward megyében több mint 7000 ember COMPAS kockázati pontszámairól azt találta, hogy azok a fekete vádlottak, akik nem követtek el újra, nagyobb kockázatot jelentenek, közel kétszer akkora arányban, mint a fehér vádlottak.
Kockázatkezelés a szervezetekben: az Egyesült Államok Nemzeti Szabványügyi és Technológiai Intézete 2023 januárjában tette közzé önkéntes mesterségesintelligencia-kockázatkezelési keretrendszerének 1.0-s verzióját, amely négy funkcióba osztotta a munkát: kormányzás, feltérképezés, mérés és kezelés.
Kötelező érvényű szabályok: 2025. február 2. óta az EU AI-törvénye tiltja az olyan gyakorlatokat, mint a közösségi pontozás, az arcképek nem célzott lekaparása felismerési adatbázisok létrehozása érdekében, valamint az érzelmek felismerése a munkahelyeken és az iskolákban.
Környezeti költségek: a Nemzetközi Energia Ügynökség becslései szerint az adatközpontok 2024-ben körülbelül 415 terawattórát, a világ villamosenergia-fogyasztásának nagyjából 1,5%-át használták fel, 2030-ra pedig körülbelül 945 terawattórát terveznek, és a mesterséges intelligencia a fő hajtóerő.
A szabályok még érkeznek. Az EU MI-törvény közzétett végrehajtási ütemezése szerint a törvény III. mellékletében felsorolt, önálló, magas kockázatú felhasználásokra vonatkozó kötelezettségek a tervek szerint 2027. december 2-tól lépnek életbe, a termékekbe épített mesterséges intelligenciára vonatkozó kötelezettségek pedig 2028. augusztus 2-án követik majd az uniós termékbiztonsági törvény hatályát. Az, hogy a szabályozók hogyan értelmezik az olyan kifejezéseket, mint például a magas kockázat és a megfelelő emberi gyakorlat önmagában sokkal több lesz, mint a szöveg. A mérés továbbra is nyitott kutatási probléma. A Gender Shades 2018-ban megmutatta, hogy a benchmark kompozíció elrejtheti a hibákat, és ugyanez a kérdés vonatkozik most a nyelvi és képgenerátorokra is, ahol az olyan károkat, mint a sztereotip kimenetek vagy a koholt állítások, nehezebb megszámolni, mint az osztályozási hibákat. A környezetvédelmi számvitel is előtérbe kerül. A Nemzetközi Energia Ügynökség 2025-ös elemzése szerint az adatközpontok villamosenergia-felhasználása nagyjából megduplázódik 2030-ra, és az adatközpontok kibocsátása 2035-re 180 millióról 300 millió tonnára emelkedik, ugyanakkor megjegyzi, hogy az AI-alkalmazások máshol is csökkenthetik a kibocsátást. Nem biztos, hogy ezek a megtakarítások megvalósulnak-e. Végül folytatódnak a viták arról, hogy ki határozza meg az értékeket. Mivel a legtöbb határmenti modellt néhány vállalat építette fel, a nyilvános hozzájárulással, a független auditokkal és a kutatók hozzáférésével kapcsolatos kérdések valószínűleg továbbra is központi szerepet töltenek be a területen.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A mesterséges intelligencia etika annak a tanulmánya és gyakorlata, amely biztosítja, hogy a mesterséges intelligencia rendszerek tisztességesen bánjanak az emberekkel, tiszteletben tartsák a magánéletet, elszámoltathatók legyenek az emberekkel szemben, és ne okozzanak olyan károkat, amelyek meghaladják az előnyeiket. Ez azért fontos, mert a mesterséges intelligencia mostantól segít eldönteni, hogy kit alkalmaznak, jelöljenek meg, kiket hagyjanak jóvá vagy nézzenek meg, és a dokumentált esetek azt mutatják, hogy ezekben a rendszerekben a hibák és a torzítások egyenlőtlenül esnek a különböző csoportokra.
Az útmutató szerint az etikai értékelés kontextusfüggő, és nem redukálható egyetlen mérőszámra.
Az útmutató az érintett személyek azonosítását és a tervezés feletti hatalmat javasolja.
Az útmutató azt mondja, hogy az elveknek konkrét döntésekké és információkká kell válniuk.
Az útmutató megjegyzi, hogy az emberi részvétel hatalom és erőforrások nélkül nem hatékony.
Az útmutató az elszámoltathatóságot felelősségre és cselekvési utakra fordítja.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező az AI-politika és társadalom
AI torzítás
Társadalom