Wat is er gebeurd
Een nieuwe studie van de Universiteit van Manchester, gepresenteerd op de 10e Data for Policy Conference, identificeert een structurele kloof in de ontwikkeling van AI. Op basis van diepte-interviews met ingenieurs op het gebied van technologie, financiën en productie blijkt uit het onderzoek dat hoewel AI-professionals ethische risico's kunnen identificeren, zoals oneerlijke geautomatiseerde beslissingen en ondoorzichtige systemen, ze vaak niet over de organisatorische ondersteuning beschikken om op deze problemen in te spelen. Het onderzoek schrijft dit toe aan 'compliance theater', waarbij organisaties prioriteit geven aan documentatie en snelheid boven inhoudelijke ethische waarborgen.
Onderzoekers van de Universiteit van Manchester voerden een onderzoek uit met diepte-interviews met AI- en software-ingenieurs die werkzaam zijn in technologie-, financiële, halfgeleiderproductie- en onderzoeksorganisaties. De centrale bevinding is dat deze ingenieurs zich over het algemeen bewust zijn van ethische risico's, waaronder onnauwkeurige resultaten, oneerlijke geautomatiseerde beslissingen en het gebruik van geautomatiseerd oordeel op gebieden waar veel op het spel staat.
Ondanks dit besef meldt het onderzoek dat veel ingenieurs zich niet in staat voelen de noodzakelijke waarborgen te implementeren vanwege een gebrek aan autoriteit, prikkels en organisatorische ondersteuning. De onderzoekers omschrijven dit fenomeen als 'ethisch bewustzijn zonder ethische keuzevrijheid', waarbij het structurele vermogen om op basis van ethische kennis te handelen ontbreekt.
Het onderzoek identificeert specifieke organisatorische factoren die dit bureau beperken, waaronder het controleren van nalevingsprocessen, commerciële druk en druk op deadlines, en beloningsstructuren die voorrang geven aan snelheid boven striktheid. De auteurs bestempelen deze omgeving als 'compliance theater', waarbij organisaties ethisch commitment uiten door middel van documentatie, zonder dit consequent in de praktijk te brengen.
Alessia Vlasceanu, de hoofdonderzoeker, verklaarde dat het uiten van ethische kwesties professionele kosten voor ingenieurs met zich mee kan brengen, en dat het werk dat nodig is voor echte ethiek doorgaans niet wordt beloond. Het onderzoek werd gepresenteerd op de 10e Data for Policy Conference en gepubliceerd in het tijdschrift Data for Policy CIC-Zenodo.
Waarom het ertoe doet
Dit onderzoek verschuift de focus van AI-governance van individuele ingenieursopleidingen naar organisatiecultuur en structurele prikkels. Het suggereert dat de huidige regelgevingskaders, zoals de EU , onvoldoende kunnen zijn als ze alleen het bestaan van ethische documentatie verifiëren in plaats van de praktische implementatie van waarborgen. Door te benadrukken dat ethische keuzevrijheid wordt beperkt door professionele risico's en beloningsstructuren, biedt het onderzoek een concrete basis voor toezichthouders om bewijs te eisen van praktische ethische handhaving in plaats van alleen maar naleving van het beleid.
De studie betwist de algemene veronderstelling dat de ethische mislukkingen van AI voornamelijk te wijten zijn aan een gebrek aan kennis of zorg onder ingenieurs. In plaats daarvan wijst het op systemische problemen binnen organisaties die ethisch handelen in de weg staan, wat suggereert dat het opleiden van individuele ingenieurs onvoldoende is zonder de omstandigheden te veranderen waaronder AI wordt gebouwd.
Deze bevinding heeft directe gevolgen voor de huidige inspanningen op het gebied van AI-beheer, inclusief die in het kader van de EU . Uit het onderzoek blijkt dat veel regelgevende maatregelen zich richten op het produceren van documenten en rapporten die ethisch engagement aantonen, wat kan neerkomen op het afvinken van vakjes als de onderliggende ontwikkelingspraktijken niet veranderen.
Professor Caroline Jay, die het onderzoek begeleidde, merkte op dat de infrastructuur van AI-ethiek sneller is gegroeid dan de technologie die erdoor wordt beheerst, maar grotendeels op het verkeerde niveau is gericht. De studie stelt dat betekenisvolle verandering vereist dat we kijken naar de manier waarop AI-projecten dagelijks functioneren, inclusief wie verantwoordelijk is voor het aanpakken van ethische kwesties en of veiligheidswerk wordt erkend.
Door de kloof tussen ethische documentatie en praktische implementatie in kaart te brengen, biedt het onderzoek een raamwerk voor toezichthouders om verder te kijken dan het papierwerk en te onderzoeken of ethische waarborgen in de praktijk daadwerkelijk worden nageleefd.
Interactief mechanisme: hoe het eigenlijk werkt
Ontdek interactief de onderliggende technologie achter deze ontwikkeling.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Wat je nu moet bekijken
Regelgevende instanties kunnen hun toezichtsmechanismen aanpassen om de praktische implementatie van AI-ethiek te controleren in plaats van alleen maar beleidsdocumenten te beoordelen. Organisaties kunnen beginnen met het herstructureren van interne beloningssystemen om rigoureuze veiligheidstests en het uiten van ethische zorgen te stimuleren. De onderzoekers zijn van plan een grootschaliger onderzoek uit te voeren om deze bevindingen onder een bredere technische populatie te valideren.
Regelgevers en beleidsmakers kunnen nieuwe toezichtsmethoden gaan ontwikkelen die de praktische implementatie van AI-ethiek verifiëren in plaats van alleen maar het bestaan van nalevingsdocumenten.
Technologiebedrijven kunnen onder druk komen te staan om hun interne cultuur en beloningssystemen te herstructureren ter ondersteuning van ethisch handelen, wat mogelijk kan leiden tot nieuwe rollen of processen gericht op ethisch toezicht.
Het onderzoeksteam is van plan deze bevindingen te testen door middel van een grootschaliger onderzoek onder een bredere technische populatie, dat meer kwantitatieve gegevens zou kunnen opleveren over de prevalentie van deze structurele barrières.
Industriegroepen kunnen reageren door nieuwe normen of certificeringen te ontwikkelen die zich richten op praktische ethische resultaten in plaats van alleen op procedurele naleving.