Redes neuronales

Una neurona artificial básica combina valores de entrada usando pesos, agrega un sesgo y aplica una función de activación. Los pesos controlan la fuerza con la que contribuye cada entrada. El sesgo cambia el resultado. Una activación no lineal permite que las capas representen relaciones que una pila de operaciones puramente lineales no podría. Por ejemplo, la activación de ReLU devuelve cero para una entrada negativa y deja una entrada positiva sin cambios. Las redes pueden utilizar diferentes activaciones en diferentes capas. Se elige una capa de salida que se adapte a la tarea: una predicción numérica no se interpreta de la misma manera que las puntuaciones de posibles categorías. Durante el entrenamiento, una función de pérdida compara la salida con el resultado deseado. La retropropagación utiliza la regla de la cadena para calcular cómo los parámetros afectan la pérdida. Luego, un optimizador utiliza esa información para actualizar los parámetros. La retropropagación calcula los gradientes; no es garantía de que el modelo encuentre la mejor solución posible o se generalice bien. La analogía del cerebro es limitada. Las neuronas artificiales son abstracciones matemáticas y una red exitosa no es evidencia de una mente humana. Una red más grande puede modelar relaciones complicadas, pero también puede costar más ejecutarla, ajustarse a patrones irrelevantes o fallar cuando cambian las condiciones. Compárelo con una línea de base más simple y pruebe con ejemplos fuera de los datos de entrenamiento.