Wat is Jailbreak?

Het werk om ervoor te zorgen dat AI-systemen zich gedragen in overeenstemming met menselijke bedoelingen, waarden en veiligheidsbeperkingen.

Een vakgebied dat zich richt op het verminderen van schadelijk gedrag, mislukkingen en misbruikrisico's in AI-systemen.

Het vermogen van een model om patronen te volgen uit voorbeelden die rechtstreeks in de prompt worden gegeven.

Documentatie die het beoogde gebruik, de meetgegevens, de beperkingen en de risico's van een model beschrijft.

De invoerinstructies en context die aan een generatief model worden verstrekt.

Het ontwerpen van aanwijzingen om de uitvoerkwaliteit, betrouwbaarheid en beheersbaarheid te verbeteren.