Acompanha Pós: IA048 - Aprendizado de Máquina

Ementa: Revisão de probabilidade, estimação e teoria da informação. Conceitos gerais de aprendizado de máquina. Regressão linear. Classificação linear. Redes neurais artificiais. Deep leaming. Máquinas de vetores-suporte. Aprendizado não-supervisionado. Clusterização, modelos de mistura e extração de variáveis latentes. Aprendizado por reforço. Comitês de máquinas. Árvores de decisão e random forest. Computação evolutiva.

Conteúdo Programático: 1. Revisão de Probabilidade, Estimação e Teoria da Informação Fundamentos de probabilidade: variáveis aleatórias, distribuições, teorema de Bayes Métodos de estimação: máxima verossimilhança, MAP, estimadores não viesados Entropia, informação mútua e teoria da informação aplicada ao aprendizado 2. Conceitos Gerais de Aprendizado de Máquina Definição e tipos de aprendizado (supervisionado, não supervisionado e por reforço) Generalização, viés e variância, overfitting e underfitting Métricas de desempenho e validação cruzada 3. Regressão Linear Modelo de regressão linear simples e múltipla Estimadores por mínimos quadrados e gradiente descendente Regularização: Ridge e Lasso 4. Classificação Linear Regressão logística Perceptron e separabilidade linear Softmax e classificação multiclasse 5. Redes Neurais Artificiais Modelos de neurônios artificiais Arquiteturas de redes neurais feedforward Algoritmo de retropropagação e ajuste de pesos 6. Deep Learning Redes neurais profundas e arquiteturas avançadas Funções de ativação e otimização de redes profundas Redes convolucionais (CNNs) e recorrentes (RNNs) 7. Máquinas de Vetores de Suporte (SVM) Hiperplanos separadores e margem máxima Funções kernel e SVM não linear SVM para regressão 8. Aprendizado Não Supervisionado Definição e desafios do aprendizado não supervisionado Técnicas de redução de dimensionalidade: PCA, LDA 9. Clusterização, Modelos de Mistura e Extração de Variáveis Latentes Algoritmos de clusterização: K-means, DBSCAN, aglomerativos Modelos de mistura Gaussiana (GMM) e Expectation-Maximization (EM) Modelagem de variáveis latentes e autoencoders 10. Aprendizado por Reforço Modelos de aprendizado baseados em recompensa Processos de decisão de Markov (MDP) Algoritmos Q-learning e Deep Q Networks (DQN) 11. Comitês de Máquinas Bagging, Boosting e AdaBoost Random Forest como ensemble learning Stacking e Blending 12. Árvores de Decisão e Random Forest Construção e critérios de divisão em árvores de decisão Overfitting e poda de árvores Implementação e variações do Random Forest 13. Computação Evolutiva Algoritmos genéticos e otimização bioinspirada Seleção, mutação e crossover Aplicações da computação evolutiva no aprendizado de máquina

Bibliografia: R.O. Duda, P. E. Han, D. G. Stork,Paltem Classification”, Wiley-Interscience, 2 ed., 2000. T. Hastie, R. Tibshirani, J. Friedman, “The Elements of Statistical Leaming. Data Mining, Inference and Prediction”, Springer, 2 ed., 2009. CM Bishop, “Pattem Recognition and Machine Leaming”, Springer, 2006. 5. Haykin,Neural Networks and Leaming Machines”, Prentice Hall, 3 ed., 2008. E. Alpaydin, “Introduction to Machine Leaming”, MIT Press, 3 ed,, 2014. 5. Raschka, V. Miralili, Python Machine Leaming, Packt Publishing Ltd., 2 ed. 2017. A. Géron,Hands-on Machine Leaming with Scikit-Leam and TensorFlow”, O´Reilly Media, 2017. | Goodfellow, Y. Bengio, A, Courville, “Deep Leaming", MIT Press, 2016.

Critério de Avaliação: A avaliação consistirá de três componentes: (1) Atividades computacionais, com entrega de relatórios para apresentação e discussão dos resultados envolvendo técnicas de aprendizado de máquina; (2) Prova, que abordará a fundamentação teórica; e (3) Projeto (em grupos), o qual envolverá uma aplicação de aprendizado de máquina em um tema escolhido pelo grupo.

Bibliografia complementar: n/a