co je Útěk z vězení?

Práce na tom, aby se systémy AI chovaly podle lidských záměrů, hodnot a bezpečnostních omezení.

Oblast zaměřená na snižování škodlivého chování, selhání a rizik zneužití v systémech umělé inteligence.

Schopnost modelu sledovat vzory z příkladů uvedených přímo ve výzvě.

Dokumentace popisující zamýšlené použití modelu, metriky, omezení a rizika.

Vstupní instrukce a kontext poskytnuté generativnímu modelu.

Návrh vybízí ke zlepšení kvality výstupu, spolehlivosti a ovladatelnosti.