CURSO:OPTIMIZACION PARA CIENCIA DE DATOS
TRADUCCION:OPTIMIZATION FOR DATA SCIENCE
SIGLA:IMT2250
CREDITOS:10
MODULOS:03
CARACTER:MINIMO
TIPO:CATEDRA
CALIFICACION:ESTANDAR
PALABRAS CLAVE:CIENCIA DE DATOS, OPTIMIZACION NO-LINEAL, ALGORITMOS NUMERICOS
NIVEL FORMATIVO:PREGRADO
I.DESCRIPCIÓN DEL CURSO
En este curso los estudiantes analizaran la teoria basica de optimizacion no-lineal, con enfasis en el desarrollo de algoritmos numericos para resolver problemas de mediana escala. Los estudiantes abordaran problemas estadisticos y aplicaciones en el analisis de datos. En este curso el estudiante aprendera herramientas de analisis y resolucion de problemas de optimizacion no-lineal, ademas de un grado importante de especializacion de estas tecnicas para el caso convexo.
II.RESULTADOS DE APRENDIZAJE
1.Aplicar los fundamentos de la geometria y analisis de conjuntos y funciones convexas a problemas de optimizacion.
2.Analizar problemas simples de optimizacion a traves de las condiciones de optimalidad y KKT.
3.Dise?ar algoritmos de optimizacion para resolver problemas complejos de mediana escala.
4.Producir implementaciones computacionales para resolver problemas de optimizacion de mediana escala.
III.CONTENIDOS
1.Repaso de Calculo
1.1.Nociones de topologia en espacios normados
1.2.R^n y R^{mxn}
1.3.Gradiente y derivadas direccionales
1.4.Optimos locales y globales para funciones multivariadas
1.5.Funciones cuadraticas
2.Minimos Cuadrados
2.1.Sistemas sobre-determinados
2.2.Ajuste de datos
2.3.Sistemas sub-determinados y regularizacion
2.4.Remocion de ruido
2.5.Minimos cuadrados no-lineales
3.El Metodo del Gradiente
3.1.Metodos de direcciones de descenso
3.2.El metodo de descenso del gradiente
3.3.Numero de condicionamiento
3.4.Escalamiento diagonal
3.5.El metodo de Gauss-Newton
3.6.El problema de Fermat-Weber
3.7.Analisis de convergencia para el metodo del gradiente
4.El Metodo de Newton
4.1.El metodo de Newton puro
4.2.El metodo de Newton amortiguado
4.3.Factorizacion de Cholesky
5.Conjuntos Convexos
5.1.Definicion y ejemplos
5.2.Algebra de conjuntos convexos
5.3.La envoltura convexa
5.4.Propiedades topologicas de conjuntos convexos
5.5.Puntos extremos
6.Funciones convexas
6.1.Definicion y ejemplos
6.2.Algebra de funciones convexas
6.3.El subdiferencial
6.4.Caracterizaciones de primer orden para funciones convexas
6.5.Caracterizaciones de segundo orden para funciones convexas
6.6.Conjuntos de nivel de funciones convexas
6.7.Continuidad y diferenciabilidad de funciones convexas
6.8.Funciones reales extendidas
6.9.Maximo de funciones convexas
6.10.Desigualdades y convexidad
7.Optimizacion convexa
7.1.Definicion
7.2.Ejemplos
7.3.El metodo de subgradiente
7.4.Proyecciones ortogonales
7.5.CVX
8.Optimizacion con restricciones
8.1.Puntos estacionarios
8.2.Puntos estacionarios en problemas convexos
8.3.Revisando la proyeccion ortogonal
8.4.El metodo de proyeccion del gradiente
8.5.Problemas con estructura sparse
9.Condiciones de optimalidad para problemas con restricciones lineales
9.1.Teoremas de Separacion y Alternativa
9.2.Las condiciones de Karush-Kuhn-Tucker (KKT)
9.3.Regresion ortogonal
10.Las condiciones de KKT
10.1.Problema con restricciones de desigualdad
10.2.Problemas con restricciones de igualdad y desigualdad
10.3.El caso convexo
10.4.Minimos cuadrados con restricciones
10.5.Condiciones de optimalidad de segundo orden
10.6.Condiciones de optimalidad para el subproblema de region de confianza
10.7.Minimos cuadrados totales
11.Dualidad
11.1.Motivacion y definicion
11.2.Dualidad fuerte para el caso convexo
11.3.Ejemplos y aplicaciones
IV.ESTRATEGIAS METODOLOGICAS
-Clases expositivas.
-Ayudantias.
-Talleres practicos.
V.ESTRATEGIAS EVALUATIVAS
-Interrogaciones: 40%
-Tareas: 30%
-Examen final escrito: 30%
VI.BIBLIOGRAFIA
Minima
Introduction to Nonlinear Optimization: Theory, Algorithms and Applications with MATLAB. A. Beck. MOS-SIAM Series on Optimization, 2014
Convex Optimization. S. Boyd & L. Vanderberghe. Cambridge Univ. Press, 2004
Complementaria
Nonlinear Programming, third edition. Dimitri Bertsekas, 2016.
Lectures on Convex Optimization, second edition. Yurii Nesterov, Springer, 2018
PONTIFICIA UNIVERSIDAD CATOLICA DE CHILE
INSTITUTO DE INGENIERIA MATEMATICA Y COMPUTACIONAL / SEPTIEMBRE 2020
