हानि कार्य

Choosing the right loss shapes what the model actually learns.

प्रत्येक प्रशिक्षित मॉडल को विफलता की सटीक परिभाषा की आवश्यकता होती है, और हानि फ़ंक्शन यही प्रदान करता है। यह मॉडल की भविष्यवाणी की तुलना सही उत्तर से करता है और एक संख्या आउटपुट करता है: उच्चतर का मतलब बदतर है। प्रशिक्षण इस संख्या को कम करने की प्रक्रिया है। हानि का चुनाव दिखावटी नहीं है. प्रतिगमन कार्यों के लिए, माध्य वर्ग त्रुटि अंतर को वर्ग करके बड़ी त्रुटियों को भारी रूप से दंडित करती है, जबकि माध्य निरपेक्ष त्रुटि सभी त्रुटियों को अधिक समान रूप से मानती है और आउटलेर्स का विरोध करती है। वर्गीकरण के लिए, क्रॉस-एन्ट्रॉपी हानि मापती है कि अनुमानित संभाव्यता वितरण वास्तविक लेबल से कितनी दूर है, आत्मविश्वास से भरे गलत उत्तरों को गंभीर रूप से दंडित करता है। अपने लक्ष्य से मेल न खाने वाले नुकसान को चुनने से एक मॉडल तकनीकी रूप से गलत चीज़ को अनुकूलित कर सकता है, इसलिए नुकसान फ़ंक्शन प्रभावी रूप से उस चीज़ को एनकोड करता है जिसकी आपको परवाह है।