Search This Blog

Monday, August 5, 2019

Material de Apoio ao curso de Metodos Matematicos e Computacionais para Finanças

Esse material deve servir de apoio ao curso de Métodos Matemáticos e Computacionais para Finanças. Os estudantes devem considerar esse material como uma sugestão de estudo. Obviamente, o estudante que ler o material antes da aula aprenderá mais facilmente o assunto.

Plano de Ensino

Pegue seu plano de ensino aqui.

Séries de exercícios

Essa série de exercícios foi elaborada para o estudante que já domina os exercícios repetitivos:

Série de exercícios de fixação.

O aprendizado da disciplina depende fortemente da disposição do estudante interessado em resolver exercícios por conta própria.

Plano de Funções de uma variável

Para esse plano de estudo, vou focar apenas nos livros

1) Mathematics for Economists - Carl P. Simon and Lawrence E. Blume [Simon].

2) Business calculus (Demystified) Rhonda Huettenmueller [Demystified]

Tópico 1: Limites e derivadas.

Leituras:

[Simon] Capítulo 2, 3, 4 e 5.

[Demystified] Capítulos 2 e 3.

Exercícios repetitivos: Veja Seções 3.1 a 3.8 do Schaum's Outline of Introduction to Mathematical Economics - Edward Dowling.

Slides

Aula 1.

Tópico 2: Integração.

Leituras:

[Demystified] Capítulos 13, 14 e 15.

Exercícios repetitivos: Veja Seções 14.1, 14.2, 15.1, 15.2, 15.3 e 15.4 do Schaum's Outline of Introduction to Mathematical Economics - Edward Dowling.

Slides

Aula 2.


Plano de Estudo de Álgebra Linear

Qualquer livro de Álgebra Linear que o aluno se sinta confortável é suficiente para acompanhar o curso. Entretanto, aqui nesse material vamos focar em três livros. O primeiro pela didática e simplicidade, o segundo pela apresentação geométrica e o terceiro pela comodidade (ele será usado praticamente em toda a segunda parte do curso):

Ref1: Introdução à Álgebra Linear - Adilson Gonçalves e Rita M. L. de Souza [Adilson]

Ref2: Introduction to Linear Algebra - Gilbert Strang [Strang]

Ref3: Mathematics for Economists - Carl P. Simon and Lawrence E. Blume (já disponível em português) [Simon]

É válido mencionar que o livro [Simon] não segue uma ordem muito didática para os assuntos de álgebra linear e não tem uma apresentação adequada de todos os tópicos, mas pode servir como uma excelente referência complementar. Além disso, ele é uma excelente fonte de aplicações.


Tópico 1: Vetores

Leituras:

[Adilson] Capítulo 1 até a seção 1.6

[Adilson] Para ter uma visão geométrica, veja o resto do capítulo 1.

[Simon] Capítulo 10

Exercícios repetitivos: Veja Seções 1.2 a 1.5 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

Um vetor é uma entidade básica de representação em matemática que aparece em muitas situações em economia. Por exemplo, pode falar em vetor de preços de n coordenadas quando nos referimos a cesta de consumo de n produtos ou a um mercado financeiro com n ativos.

Slides

Aula 1.


Tópico 2: Matrizes

Leituras:

[Adilson] Capítulo 2

[Simon] Capítulo 8

Exercícios repetitivos: Veja Seções 2.2 a 2.7 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

Uma matriz também é uma entidade básica de representação em matemática que aparece em muitas situações em economia.

Matrizes de dados serão muito usadas em econometria, onde cada coluna guardará dados de uma determinada variável aleatória de interesse. Por exemplo, imagine que você quer explicar o salário de um indivíduo usando variáveis relacionadas com o indivíduo. Quais as variáveis que você acredita que podem explicar o salário do indivíduo? Suponha que você acredite que escolaridade, gênero, escolaridade da mãe são variáveis que podem explicar o salário. Então você pode construir uma matriz de dados que inclui essas variáveis em cada coluna.

Em finanças, matrizes também são usadas para guardar payoffs dos ativos em um mercado financeiro. Por exemplo, suponha que o mercado tenha J ativos e seja modelado por S estados. Então, uma matriz de ordem S x J pode ser usada para guardar esses ativos. Veja por exemplo esse modelo nas notas de aula do curso de finanças.

Outras matrizes importantes que aparecem muito em Econometria e Finanças são as Matrizes de Variância-Covariância. Por exemplo, a teoria básica de escolha de carteiras supõe que investidores desejam construir carteiras que possuem altos valores esperados e baixas variâncias. Um conceito fundamental que aparece nesse contexto é a idéia de diversificação. Veja um exemplo simples sobre esse assunto no PRorum.

Slides

Aula 2.


Tópico 3: Operações Elementares/Sistemas Lineares

Leituras:

[Adilson] Capítulo 3: Seções 3.1, 3.2 e 3.3.

[Strang] Para uma visão geométrica, veja o Capítulo 1: Seções 1.1 a 1.5.

[Simon] Capítulos 6 e 7

Exercícios repetitivos: Veja Seções 3.2 a 3.11 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

Existem várias aplicações de sistemas lineares em Economia.

Por exemplo, em finanças a solução de sistemas lineares pode ser usada para caracterizar se um mercado financeiro é completo ou incompleto. Veja por exemplo essa caracterização nas notas de aula do curso de finanças.

Uma outra aplicação super interessante é o cálculo do Page Rank ou do modelo de Leontief usado em análise de Insumo-Produto. Veja por exemplo um post sobre esse assunto no PRorum

Slides

Aula 3.


Tópico 4: Inversa de matrizes

Leituras:

[Adilson] Capítulo 3: Seção 3.4.

[Simon] Não tem uma apresentação adequada desse tópico.

Exercícios repetitivos: Veja Seção 3.12 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

A idéia de inversão de matrizes aparece muito em econometria em vários contextos diferentes. Por exemplo, o estimador mais popular de um Modelo de Regressão Linear, conhecido como método dos mínimos quadrados, dependem explicitamente de uma inversão.

Slides

Aula 4.


Tópico 5: Determinantes

Leituras:

[Adilson] Capítulo 5: Seções 5.1, 5.2, 5.3, 5.4 e 5.5.

[Simon] Capítulos 9 e 26.

Exercícios repetitivos: Veja Seções 8.2 a 8.8 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

Os determinantes aparecem como ferramenta básica em várias situações no curso de economia. No nosso curso de Economia Quantitativa I, determinantes podem ser usadas como uma ferramenta importante de caracterização de matrizes quadradas. Se o determinante de uma matriz A de ordem n é nulo, o sistema linear Ax=0 possui infinitas soluções, o núcleo de A contém infinitos elementos e a imagem de T(x)=Ax não é o Rn.

No nosso curso também usaremos determinantes também para caracterizar se uma matriz é positiva ou negativa definida e isso será fundamental para verificar as condições de segunda ordem de um problema de otimização interior (sem restrições).

Também usaremos determinantes para calcular os autovalores e autovetores associados a uma transformação linear.

Slides

Aula 5.


Tópico 6: Espaços vetoriais

Leituras:

[Adilson] Capítulo 4: Seções 4.1 a 4.4.

[Simon] Seções 27.1, 27.2 e 27.6

Exercícios repetitivos: Veja Seções 4.2 a 4.8 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

Um espaço vetorial é um conjunto com certa estrutura que é usado em muitas situações em economia. A grande maioria dos problemas importantes em economia está definido em espaços vetoriais ou em translações desses espaços, ou seja, a solução pertence a um determinado espaço vetorial ou uma translação desse espaço. Por exemplo, o Rn é um espaço vetorial. A solução de um sistema linear homogêneo é um subespaço vetorial e a solução de um sistema linear não homogêneo é a translação de um subespaço vetorial.

Em finanças, um subespaço vetorial particularmente importante é aquele subespaço gerado pelo payoff de todos os ativos do mercado. Veja aqui a definição exata desse subespaço nas notas de aula do curso de finanças. Qual a relevância de um determinado direito contigente pertencer ou não a esse subespaço? Por exemplo, considerados dados os preços dos ativos, eu consigo encontrar um único preço para qualquer direito contigente que pertence a esse subespaço. Se ele não pertencer, o que ocorre?

Slides

Aula 6.


Tópico 7: Transformações lineares, Operadores Lineares e Funcionais Lineares

Leituras:

[Adilson] Capítulo 6: Seções 6.1, 6.2 e 6.3

[Strang] Para geometria e vários exemplos, veja a Seção 2.6.

[Simon] Não tem uma apresentação adequada desse tópico.

Exercícios repetitivos: Veja Seções 5.2 a 5.4 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

Transformações lineares aparecem em muitas situações no curso de economia. No nosso curso, usaremos esse conceito para definir autovalores e autovetores. No curso de finanças, o funcional de apreçamento é um funcional linear. Veja aqui a definição exata desse funcional nas notas de aula do curso de finanças.

Slides

Aula 7.


Tópico 8: Autovalores/Autovetores

Leituras:

[Adilson] Seção 6.6

[Simon] Seção 23.1 [Mas alguns tópicos apresentados em sala, não estão bem apresentados aqui]

Exercícios repetitivos: Veja Seções 9.2 a 9.5 do Schaum's Outline of Linear Algebra - Seymour Lipschutz and Marc Lipson.

Aplicações

Existem muitas aplicações em estatística e econometria de autovalores e autovetores. Sem dúvida uma das mais populares são Análise do Componentes Principais e a Solução de Modelos de Séries Temporais Lineares. Uma outra aplicação que também aparecerá no curso de Economia Quantitativa II é a solução de equações diferenciais lineares.

Slides

Aula 8.


Plano de Estudo de Topologia no Rn, Funções de Várias Variáveis, Análise Convexa e Otimização

Para esse plano de estudo, vou focar apenas no livro Mathematics for Economists - Carl P. Simon and Lawrence E. Blume [Simon]. Também citarei bastante as notas do curso de Microeconomia I do Professor José Guilherme de Lara Resende do Departamento de Economia da UnB, que vocês usarão no próximo semestre, pois existe um link muito forte entre essa parte do curso e o curso de Microeconomia I.

Para motivar essa parte do curso, eu sugiro que antes da aula, vocês leiam a primeira aula do curso de Microeconomia I do Professor José Guilherme, que você pode acessar aqui.


Tópico 1: Topologia no RN

Leituras:

[Simon] Capítulo 12

Aplicações

Vários dos conjuntos definidos aqui nesse tópico serão usados em vários lugares do curso de economia. Por exemplo, a noção de conjuntos compactos será usada para a discussão do teorema de Weierstrass, que aparece no tópico 7 (a seguir). Em microeconomia I, por exemplo, a noção de conjuntos fechados é usada para discutir o axioma de continuidade na aula sobre Preferências. Veja por exemplo as notas de aula do Professor José Guilherme associada a esse tópico aqui.

Slides

Aula 1.


Tópico 2: Funções Várias Variáveis (Lineares, Formas Quadráticas, Polinômios, Funções Contínuas, Funções Homogêneas e Homotéticas, Funções Côncavas, Funções Convexas, Funções Quase-Côncavas e Funções Quase-Convexas)

Leituras:

[Simon] Capítulo 13, Capítulo 20: Seções 20.1 e 20.4, Capítulo 21: Seções 21.1, 21.2 e 21.3

Aplicações

Várias das funções apresentadas aqui são usadas extensivamente nos cursos de Economia.

Funções Homogêneas e Homotéticas aparecem por exemplo em Microeconomia I. Por exemplo, a função de Demanda Marshalliana é uma função homogênea de grau 0. Por outra lado, várias funções de utilidade que aparecem no curso de Microeconomia I são homotéticas. Veja as aulas de Microeconomia que apresentam essa informação aqui e aqui.

Funções Côncavas, Funções Convexas, Funções Quase-Côncavas e Funções Quase-Convexas também aparecem em Microeconomia I. Em geral funções de utilidade são côncavas ou quase-côncavas (quando as preferências forem convexas), curvas de indiferença são (estritamente) convexas etc.

Polinômios quadráticos aparecem em econometria. Veja por exemplo aqui o problema de otimização que precisamos resolver para encontrar os parâmetros de um modelo de regressão linear. Também usaremos polinômios quadráticos em nosso curso para caracterizar as condições de segunda ordem de um problema de otimização interior (sem restrições).

Slides

Aula 2.


Tópico 3: Derivada parcial/Diferencial

Leituras:

[Simon] Capítulo 14: Seções 14.1 a 14.4 e 14.8

Exercícios repetitivos: Veja Seções 5.1 a 5.3 do Schaum's Outline of Introduction to Mathematical Economics - Dowling.

Aplicações

Derivadas parciais e diferenciais aparecem em muitos lugares no Curso de Economia. Usamos derivadas para resolver problemas de otimização que será um procedimento comum em Microeconomia I, para definir elasticidades etc. O diferencial total aparece por exemplo na definição da Taxa Marginal de Substituição. Veja exemplo de derivadas e diferenciais totais usados no curso de Microeconomia aqui.

Slides

Aulas 3, 4, 5 e 6.


Tópico 4: Cálculo de várias variáveis (Regra da cadeia)

Leituras:

[Simon] Seção 14.5

Aplicações

É uma ferramenta básica de cálculo que aparece em vários contextos. Por exemplo, no Estudo da Teoria do Consumidor em Microeconomia usamos essa "regra" para derivar por exemplo a equação de homogeneidade. Veja aqui.


Tópico 5: Cálculo de várias variáveis (Polinomios de Taylor)

Leituras:

[Simon] Seções 30.2 e 30.3

Aplicações

Polinomios de Taylor são usados em várias situações. No nosso curso, usaremos esses polinômios para estudar as condições de segunda ordem de um problema de otimização irrestrito (interior).


Tópico 6: Cálculo de várias variáveis (Funções implícitas)

Leituras:

[Simon] Seção 15.1

Aplicações

Funções implícitas aparecem em várias situações. Veja por exemplo aqui.


Tópico 7: Formas Quadráticas

Leituras:

[Simon] Capítulo 16: Seções 16.1 e 16.2

Aplicações

Usamos as condições de segunda ordem para caracterizar os pontos críticos.

Slides

Aula 7.


Tópico 8: Convexidade

Leituras:

[Simon] Seção 21.1 a 21.3

Aplicações

Como já mencionado, muitas das funções usadas no nosso curso são côncavas ou convexas e elas possuem particularidades que devem ser explicitadas.

Slides

Aula 8.


Tópico 9: Introdução a Otimização

Leituras:

[Simon] Seção 17.1 e 30.1 (Apenas o tópico relacionado com o Teorema de Weierstrass)

Aplicações

Usamos o teorema de Weierstrass em várias situações em Economia quando desejamos garantir a existência da solução de um problema de otimização, sem precisar especificar a forma da função que desejamos otimizar e/ou resolvê-lo.

No curso de Microeconomia I, pode-se garantir a existência da Função de Utilidade Indireta utilizando o Teorema de Weierstrass sempre que a função de utilidade for contínua.. Veja esse conteúdo nas Notas de Microeconomia I do Professor José Guilherme.

No curso de finanças usamos esse resultado para mostrar que na ausência de arbitragem, sempre existe uma solução para o problema de otimização de carteira. Veja aqui os slides associados a esse teorema.

Otimização em geral é uma ferramenta básica de Microeconomia e Econometria.

Slides

Aulas 9, 10 12.


Tópico 10: Otimização interior

Leituras:

[Simon] Seções 17.2, 17.3, 16.2, 21.5

Aplicações

Usamos as condições de primeira ordem para encontrar os pontos críticos.

Exercícios repetitivos: Veja Seção 5.4 do Schaum's Outline of Introduction to Mathematical Economics - Dowling.


Tópico 11: Otimização com restrições

Leituras:

Seção 18.2

Aplicações

O problema do Consumidor estudado em Microeconomia é exatamente um problema desse tipo. Veja aqui a aula do Professor José Guilherme relacionada com esse assunto.

Exercícios repetitivos: Veja Seção 5.5 do Schaum's Outline of Introduction to Mathematical Economics - Dowling.

Slides

Aulas 11 e 12.

Wednesday, July 3, 2019

Aula 32 de Métodos Computacionais em Economia - Processamento de Linguagem Natural

Essa é a décima aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.

Códigos usados em sala de aula

Todos os exemplos dessa aula foram do livro

Natural Language Processing in Python

Referências

Foundations of Statistical Natural Language Processing - Christopher D. Manning and Hinrich Schütze

Natural Language Processing in Python

Aula 31 de Métodos Computacionais em Economia - Aprendizagem de Máquinas: Aprendizagem por Reforço

Essa é a nona aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.



Códigos usados em sala de aula

Implementação do problema da locadora usando programação dinâmica

Referências

Numerical Methods in Economics - Keneth Judd

Reinforcement Learning [Capítulos 1 a 4]

Markov Decision Processes - Martin Puterman [Capítulo 6]

Referências Complementares

O site Quantitative Economics tem muito material legal.

Soluções de Exercícios

Value iteration usando discretização [Questão 1(a)]

Value iteration usando discretização [Questão 4(a)]

Método de Newton Raphson [Questão 8]

Gerando fractais: Fractal de Vicsek [Questão 11]

Gerando fractais: Carpete de Sierpinski [Questão 11]

Gerando fractais: Triângulo de Sierpinski [Questão 11]


Friday, June 28, 2019

Aula 30 de Métodos Computacionais em Economia - Aprendizagem de Máquinas: Redes Neurais e Deep Learning

Essa é a oitava aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.



Códigos usados em sala de aula

Implementação de redes neurais artificias usando o pyBrain



Soluções de Exercícios




Implementação de dropout (Exercício 3)

Autoencoder (Exercício 4)

Exemplo de redes neurais recorrentes (Exercício 5)

MNIST (Exercício 6)



Referências

Pattern Recognition and Machine Learning - Christopher Bishop [Seções 5.1 a 5.5]

Neural networks - Haykin [Capítulo 4]

Deep learning - Ian Goodfellow, Yoshua Bengio and Aaron Courville [Capítulo 6, 7, 8, 9, 10, 11, 12, 14]

LeCun, Y., Bengio, Y. and Hinton, G. E. (2015) Deep Learning Nature, Vol. 521, pp 436-444.

Hinton, G. E. (2007) Learning Multiple Layers of Representation. Trends in Cognitive Sciences, Vol. 11, pp 428-434.

Quoc V. Le A Tutorial on Deep Learning Part 1: Nonlinear Classifiers and The Backpropagation Algorithm

Quoc V. Le A Tutorial on Deep Learning Part 2: Autoencoders, Convolutional Neural Networks and Recurrent Neural Networks


Referências Complementares

Razvan Pascanu, Çağlar Gülçehre, Kyunghyun Cho and Yoshua Bengio, How to Construct Deep Recurrent Neural Networks, in: International Conference on Learning Representations 2014(Conference Track), 2014

Guillaume Alain and Yoshua Bengio, What Regularized Auto-Encoders Learn from the Data-Generating Distribution (2014), in: Journal of Machine Learning Research, 15(3563-3593)

Hinton, G. E. Where do features come from?. Cognitive Science, Vol. 38(6), pp 1078-1101.

Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I. and Salakhutdinov, R. Dropout: A simple way to prevent neural networks from overfitting The Journal of Machine Learning Research, 15(1), pp 1929-1958.

Sutskever, I., Martens, J., Dahl, G. and Hinton, G. E. On the importance of momentum and initialization in deep learning In 30th International Conference on Machine Learning, Atlanta, USA, 2013.

Yoshua Bengio and Aaron Courville, Deep Learning of Representations, in: Handbook on Neural Information Processing, Springer: Berlin Heidelberg, 2013

Çağlar Gülçehre and Yoshua Bengio, Knowledge Matters: Importance of Prior Information for Optimization, in: International Conference on Learning Representations (ICLR'2013), 2013

Yoshua Bengio, Aaron Courville and Pascal Vincent, Representation Learning: A Review and New Perspectives (2013), in: Pattern Analysis and Machine Intelligence, IEEE Transactions on, 35:8(1798-1828)

Hinton, G. E., Srivastava, N., Krizhevsky, A., Sutskever, I. and Salakhutdinov, R. R. Improving neural networks by preventing co-adaptation of feature detectors http://arxiv.org/abs/1207.0580, 2012

Suskever, I., Martens, J. and Hinton, G. E. Generating Text with Recurrent Neural Networks. Proc. 28th International Conference on Machine Learning, Seattle, 2011.

Nicolas Le Roux and Yoshua Bengio, Deep Belief Networks are Compact Universal Approximators (2010), in: Neural Computation, 22:8(2192-2207)

Dumitru Erhan, Yoshua Bengio, Aaron Courville, Pierre-Antoine Manzagol, Pascal Vincent, Samy Bengio; Why Does Unsupervised Pre-training Help Deep Learning? Journal of Machine Learning Research, 11(Feb):625−660, 2010.

Hugo Larochelle, Yoshua Bengio, Jerome Louradour and Pascal Lamblin, Exploring Strategies for Training Deep Neural Networks (2009), in: Journal of Machine Learning Research, 10(1--40)

Yoshua Bengio, Learning deep architectures for AI (2009), in: Foundations and Trends in Machine Learning, 2:1(1--127)

van der Maaten, L. J. P. and Hinton, G. E. Visualizing Data using t-SNE. Journal of Machine Learning Research, Vol 9, (Nov) pp 2579-2605, 2008.

Hinton. G. E. What kind of a graphical model is the brain? International Joint Conference on Artificial Intelligence 2005, Edinburgh.

Yoshua Bengio, Gradient-Based Optimization of Hyperparameters (2000), in: Neural Computation, 12:8(1889--1900)

Hinton, G.E. Supervised learning in multilayer neural networks in The MIT Encyclopedia of the Cognitive Sciences Editors: Robert A. Wilson and Frank C. Keil The MIT Press, 1999.

Hinton, G. E., Plaut, D. C. and Shallice, T. Simulating brain damage Scientific American, 1993.

Nowlan. S. J. and Hinton, G. E. Simplifying neural networks by soft weight sharing.
Neural Computation, 4, 173-193.

Hinton, G.E. How neural networks learn from experience. Scientific American, September 1992.

Rumelhart, D. E., Hinton, G. E., and Williams, R. J. Learning representations by back-propagating errors.
Nature, 323, 533--536, 1986.

Hinton, G. E. Learning distributed representations of concepts. Proceedings of the Eighth Annual Conference of the Cognitive Science Society, Amherst, Mass, 1986.

Hinton, G. E., McClelland, J. L., and Rumelhart, D. E. Distributed representations. In Rumelhart, D. E. and McClelland, J. L., editors, Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations, MIT Press, Cambridge, MA. pp 77-109, 1986.

Rumelhart, D. E., Hinton, G. E., and Williams, R. J.
Learning internal representations by error propagation.
In Rumelhart, D. E. and McClelland, J. L., editors, Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations, MIT Press, Cambridge, MA. pp 318-362, 1986.





Aula 29 de Métodos Computacionais em Economia (2019) - Aprendizagem de Máquinas: Decision Trees

Essa é a sétima aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.


Referências

Modern multivariate statistical techniques - Alan Julian Izenman [Capítulo 9]


Classification and Regression Trees - Leo Breiman, Jerome Friedman, Charles J. Stone, R.A. Olshen

Tuesday, June 18, 2019

Aula 28 de Métodos Computacionais em Economia (2019) - Aprendizagem de Máquinas: Classificação Linear

Essa é a sexta aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.



Códigos usados em sala de aula

OLS para classificação

Implementação do Perceptron

Implementação de um modelo de resposta binária

Referências

Pattern Recognition and Machine Learning - Christopher Bishop [Seções 4.1, 4.2 e 4.3]

A. Carvalho, D. Cajueiro e R. Camargo - Introdução aos Métodos Estatísticos para Economia e Finanças [Capítulo 9]

Modern multivariate statistical techniques - Alan Julian Izenman [Seções 8.1 a 8.4]

The elements of statistical learning - Hastie, Tibshirani e Friedman [Capítulo 4]

Neural networks - Haykin [Capítulos 3 e 5]

Bases de dados usadas para responder os exercícios

PRorum: Sites com bases de dados interessantes

Soluções de Exercícios

Linear Discriminant Analysis

Probabilistic Generative Models

Stepwise logistic regression

Xor

Aula 27 de Métodos Computacionais em Economia (2019) - Aprendizagem de Máquinas: Modelos lineares regularizados

Essa é a quinta aula de Aprendizagem de Máquinas do nosso curso, onde discutimos modelos lineares regularizados. Esses são os slides usados em sala.

Referências

Modern multivariate statistical techniques - Alan Julian Izenman [Capítulo 5]

Statistical Learning with Sparsity: The Lasso and Generalizations - Trevor Hastie and Robert Tibshirani

Referências Complementares

High-Dimensional Methods and Inference on Treatment and Structural Effects in Economics - Victor Chernozhukov, A. Belloni and C. Hansen

Soluções de Exercícios

Double Selection via lasso [Questão 1(b)]


Double Selection via lasso [Questão 1(b)]

Diferença entre os modelos regularizados usando Monte Carlo [Questão 2]