Wat is Vangrails?

Een vakgebied dat zich richt op het verminderen van schadelijk gedrag, mislukkingen en misbruikrisico's in AI-systemen.

Een gedefinieerde reeks regels of stappen die een computer volgt om een probleem op te lossen of een taak te voltooien.

Een consistent patroon van fouten of oneerlijkheid in gegevens of modelgedrag.

De mate waarin het gedrag van een model kan worden geïnterpreteerd en verklaard aan mensen.

Gedrag leren of aanpassen vanuit slechts een klein aantal voorbeelden.

Een trainingsmethode die menselijke voorkeurssignalen gebruikt om modelgedrag vorm te geven.