La optimización es la búsqueda de la mejor elección bajo restricciones: la ruta más barata, la menor pérdida, el circuito más pequeño que funcione. Casi toda decisión de ingeniería y todo modelo entrenado es un problema de optimización. La primera destreza es formular bien el problema; la segunda, saber qué método encaja con su forma.
Conceptos clave
- Formulación: variables, un objetivo que minimizar o maximizar y restricciones que limitan las opciones.
- Convexidad: en un problema convexo todo óptimo local es global, lo que lo hace mucho más fácil de resolver.
- Métodos de gradiente: seguir la pendiente cuesta abajo; el tamaño del paso y el condicionamiento deciden lo rápido que convergen.
- Programación lineal y entera: objetivos lineales sobre restricciones lineales, resolubles de forma exacta; exigir enteros lo vuelve difícil.
- Dualidad: todo problema tiene un compañero que da cotas y un certificado de optimalidad.
Vocabulario
- Región factible: el conjunto de puntos que cumplen todas las restricciones.
- Óptimo local y global: el mejor de los cercanos y el mejor de todos.
- Descenso de gradiente: moverse repetidamente en contra del gradiente del objetivo.
- Metaheurística: una estrategia general de búsqueda, como el recocido simulado o un algoritmo genético, sin garantía de hallar el óptimo.
Qué estudiar, en orden
- Escribe un problema pequeño como variables, objetivo y restricciones, y resuélvelo a mano en dos dimensiones.
- Implementa el descenso de gradiente para una cuadrática y varía el tamaño del paso para verlo divergir.
- Aprende la idea del símplex y resuelve un programa lineal con una biblioteca.
- Estudia la convexidad y los multiplicadores de Lagrange, y luego ajusta un modelo minimizando una pérdida.
- Prueba problemas enteros y una metaheurística, y compáralos con un resolvedor exacto en una instancia pequeña.
Etiquetas relacionadas
#operations-research #linear-algebra #machine-learning #algorithms #evolutionary-computation