Aprendizaje de Máquina
Maestría en Ingeniería - Ingeniería de Sistemas y Computación

2007-I
Departamento de Ingeniería de Sistemas e Industrial
Universidad Nacional de Colombia

Profesor:
Ing. Fabio A. González O., Ph.D.
Of. 114, Edif. Nuevo de Ingeniería
fagonzalezo@unal.edu.co

Contenido

Descripción del curso
Talleres y proyectos
Material de apoyo y recursos
Notas

Descripción del curso

Objetivo

El principal objetivo del Aprendizaje de Máquina (ML por sus siglas en Inglés) es el desarrollo de sistemas que puedan cambiar su comportamiento de manera autónoma basados en su experiencia. El ML ofrece algunas de las técnicas más efectivas para el descubrimiento de conocimiento (patrones) en grandes volúmenes de datos. El ML ha jugado un rol fundamental en áreas tales como la bioinformática, la recuperación de información en la web, la inteligencia de negocios y el desarrollo de vehículos autónomos.

El objetivo de este curso es estudiar los fundamentos computacionales, matemáticos y estadísticos del aprendizaje de máquina, indispensables para el estudio teórico de algoritmos de aprendizaje, para el desarrollo de nuevos algoritmos y para su aplicación crítica a la solución de problemas reales.

Metodología

Los conceptos fundamentales de cada tema del curso se presentan y se aclaran en clase.
Se harán talleres en clase y fuera de ella que permitan afianzar el dominio de los tópicos discutidos.
Se revisarán y presentarán artículos científicos.
Se realizarán proyectos con un componente considerable de programación que permitan aplicar las técnicas vistas en clase.
Se harán algunas evaluaciones individuales, escritas o prácticas, en las cuales los estudiantes deben mostrar un buen dominio de los conocimientos y habilidades que el curso pretende desarrollar.

Contenido

Tema	Material	Ejercicios	Exposiciones
1. Introducción Qué es aprendizaje? Tipos de aprendizaje Generalización y extracción de patrones Aplicaciones	Introducción 1 Introducción 2 [Mit97] Cap 1 [Alp04] Cap 1,2	Taller 1 Taller 2
2. Teoría de la decisión Bayesiana Clasificación Pérdidas y riesgos Clasificador Bayesiano ingenuo Redes Bayesianas Estimación de máxima verosimilitud Estimación Bayesiana	[Alp04] Cap 3, Cap 4	Taller 3 Taller 4	Belief Propagation Felipe Téllez, Jesús Burbano Hidden Markov models Claudia Becerra, Sergio Jiménez
3. Métodos basados en Kernels Kernel trick Propiedades de los Kernels Algoritmos básicos Kernels en datos estructurados	Introduction to Kernel Methods		SVM Juan Carlos Menidvelso Juan Carlos Caicedo Kernels en secuencias Nelson Hernández
4. Regularización Error de entrenamiento vs. error de prueba Compromiso sesgo - varianza Medidas de complejidad	Generalization, Overfitting and Regularization [OCW] Logistic regression, regularization (pres.1, pres.2, notes)	Taller 5	Regularización en SVMs Oscar Alonso Juan Carlos Galeano Constanza Uribe
5. Midiendo el desempeño de algoritmos de aprendizaje Medidas de desempeño en aprendizaje supervisado Medidas de desempeño en aprendizaje no supervisado Validación cruzada y resampling Test de hipótesis	[Alp04] Cap 14		Imbalance de Clases Héctor Fabio Cadavid Giovanni Cantor Clasificación Sensitiva al Costo Diego Cruz Wilmer Alvarez
6. Combinación de múltiples clasificadores Voting Códigos de corrección de error Bagging Boosting	[Alp04] Cap 15		AdaBoost Juan José Figueredo Oscar Bustos Stacking Generalization Alix Rojas
7. Agrupamiento y reducción de la dimensionalidad Maximización de la esperanza Agrupamiento jeráquico Métodos basados en teoría de grafos PCA y MDS	[TSK05] Cap 8 PCA notes by O. Veksler PCA notes by T.K. Marks		Spectral Clustering Nidia Jaimes Jorge Victorino EM Gómer González

Evaluación

Talleres 40%
Evaluación 30%

Midterm 50%
Final 50%

Exposición 30%

Presentación: 50%
Práctica: 25%
Página: 25%

Bibliografía

[Alp04] Alpaydin, E. 2004 Introduction to Machine Learning (Adaptive Computation and Machine Learning). The MIT Press.
[Mit97] Mitchell, T. M. 1997 Machine Learning. 1st. McGraw-Hill Higher Education.
[DHS00] Duda, R. O., Hart, P. E., and Stork, D. G. 2000 Pattern Classification (2nd Edition). Wiley-Interscience.
[HTF01] Hastie, T. and Tibshirani, R. and Friedman. 2001 The elements of statistical learning: data mining, inference, and prediction. Springer.
[SC04] Shawe-Taylor, J. and Cristianini, N. 2004 Kernel Methods for Pattern Analysis. Cambridge University Press.
[TSK05] Pang-Ning Tan, Michael Steinbach, Vipin Kumar, 2005, Introduction to Data Mining, Addison-Wesley.
[OCW-ML] 6.867 Machine Learning, Fall 2002, MIT OpenCourseWare.

Referencias adicionales

MacKay, "Information Theory, Inference, and Learning Algorithms", 2003. (on-line version)

Volver al inicio

Talleres y Proyectos

Taller 1: Aplicación métodos de aprendizaje
Taller 2: Jugando a ser Kepler
Taller 3: Repaso probabilidad
Taller 4: Teoría de la Decisión Bayesiana
Taller 5: Métodos de Kernel y Regularización
Proyecto final: Entrega 2 de agosto en clase

Volver al inicio

Material de apoyo y recursos

Examen parcial

Volver al inicio

Aprendizaje de Máquina Maestría en Ingeniería - Ingeniería de Sistemas y Computación

Contenido

Descripción del curso

Objetivo

Metodología

Contenido

Evaluación

Bibliografía

Referencias adicionales

Talleres y Proyectos

Material de apoyo y recursos

Aprendizaje de Máquina
Maestría en Ingeniería - Ingeniería de Sistemas y Computación