Essa é a primeira aula do Curso de Finanças do Programa de Doutorado em Economia da UnB. Esses são os slides usados em sala.
Grande parte dos pre-requisitos matematicos, você pode encontrar
aqui.
Referências
Principles of Financial Economics - Stephen F. LeRoy and Jan Werner
Asset Pricing - John H. Cochrane
Theory of Financial Decision Making - Jonathan E. Ingersoll
Referências Complementares de Otimização
Dê uma olhada aqui.
Referências Complementares de Álgebra Linear
Dê uma olhada aqui.
Você particularmente poderá querer responder essa pergunta:
O que você gostaria que tivesse no seu livro de álgebra linear e não tinha?.
Soluções de Exercícios
1)
Qual é a solução do problema de escolha dos agentes supondo que não existe consumo na data 0?
2)
Equilíbrio em um mercado com dois ativos com dois estados e dois agentes
3)
Quando um estado é segurável?
4)
Equilíbrio: 2 períodos sem incerteza
5)
Equilíbrio: Heterogeneidade nas dotações iniciais
6)
Equilíbrio: Heterogeneidade nas preferências
7)
Equilíbrio: Heterogeneidade nas preferências
9)
Equilíbrio: Heterogeneidade nas preferências
Search This Blog
Sunday, August 19, 2018
Friday, August 17, 2018
Sobre a solução de exercícios no Curso de Finanças em 2018
Considere as informações abaixo sobre a solução de exercícios que serão usados para a avaliação no nosso curso:
0) Os exercícios que serão usados para avaliação são indicados por uma estrela.
1) Os exercícios a serem resolvidos são individuais e estarão disponíveis juntos com os slides que serão publicados aqui nesse site depois da aula.
2) Se você escolher um exercício, você envia um email para a turma (seus colegas e eu) avisando que escolheu aquele exercício. No mesmo momento, você atualiza a planilha do google.
3) Todos os exercícios devem ser resolvidos e publicados no prorum.com. Você precisará criar uma conta no site para perguntar e responder. Você pode usar o seu nome ou um apelido que você criar (nesse caso, você deve avisar ao seu professor que manterá em sigilo). Se você usar o seu nome, suas perguntas, respostas e comentários ficarão públicos. Eu não vejo problema nenhum nisso, visto que todos estão no curso para aprender. Entretanto, alguém pode manter seu nome em sigilo se desejar. O nome público do site e da planilha devem ser os mesmo.
4) Como fazer a pergunta e respondê-la?
a) Primeiro você deverá fazer a pergunta.
b) Depois que você fizer a pergunta, aparecerá uma aba para resposta, onde você incluirá a sua resposta.
c) Quando terminar de responder a sua pergunta, inclua o link na planilha editável mencionada acima.
d) O PRorum aceita edição em latex. Use e explore isso. Evite usar editores de equações bizarros como aqueles usados no Word. Se você nunca usou, aproveite essa oportunidade para aprender. As dicas estão nesse link:
http://prorum.com/?qa=213/como-escrever-equacoes-matematicas-usar-latex-no-prorum-com&show=213#q213
4) Os exercícios devem ser auto-contidos para permitir que qualquer pessoa, estudante, ex-aluno, aluno de outro curso (por exemplo, alguns dos exercícios desse curso também são usados no meu curso de Métodos Computacionais ou Economia Quantitativa) possa acessa-lo sem ter que acessar os slides, livro ou outro material específico do curso. Lembre que é sempre difícil entender códigos ou resoluções de outros colegas. Por isso, seja cuidadoso e lembre que esse material que você está gerando contribui para a metade de sua nota no curso e será provavelmente usado por muitos anos e por muitos colegas.
5) Foi combinado em sala que cada estudante resolveria 3 exercícios e comentaria outros três de outros colegas.
6) Sugere-se que cada aluno se planeje para resolver pelo menos um exercício estrela por mês. Essa política evita o problema de deixar todos os exercícios para o final. Por favor, não deixe para resolver todos os exercícios na última semana. Essa postura gera prejuízos em pelo menos três dimensões:
a) Quando isso ocorre, a solução dos exercícios apresentam menor qualidade.
b) Dificulta a vida de seu colega que precisa comentar seu exercício.
7) Dificulta a vida de seu professor que precisa corrgir seu exercício.
8) Os comentários devem ser precisos. Não use "Ótima solução"! Use "Ótima solução, pois você explorou..." Ou então "Faltou na solução XXX". "Sua solução pode ser melhorada se você considerar os seguintes aspectos."
9) Alguns exemplos de boas soluções em versões anteriores do curso:
http://prorum.com/?qa=2859/voce-pode-dar-exemplo-de-aprecamento-mercados-incompletos&show=2859#q2859
http://prorum.com/?qa=2674/equilibrio-dois-ativos-dois-estados-economia-dois-agentes&show=2674#q2674
http://prorum.com/?qa=2708/encontrar-conjunto-livres-arbitragem-mercado-incompleto&show=2708#q2708
0) Os exercícios que serão usados para avaliação são indicados por uma estrela.
1) Os exercícios a serem resolvidos são individuais e estarão disponíveis juntos com os slides que serão publicados aqui nesse site depois da aula.
2) Se você escolher um exercício, você envia um email para a turma (seus colegas e eu) avisando que escolheu aquele exercício. No mesmo momento, você atualiza a planilha do google.
3) Todos os exercícios devem ser resolvidos e publicados no prorum.com. Você precisará criar uma conta no site para perguntar e responder. Você pode usar o seu nome ou um apelido que você criar (nesse caso, você deve avisar ao seu professor que manterá em sigilo). Se você usar o seu nome, suas perguntas, respostas e comentários ficarão públicos. Eu não vejo problema nenhum nisso, visto que todos estão no curso para aprender. Entretanto, alguém pode manter seu nome em sigilo se desejar. O nome público do site e da planilha devem ser os mesmo.
4) Como fazer a pergunta e respondê-la?
a) Primeiro você deverá fazer a pergunta.
b) Depois que você fizer a pergunta, aparecerá uma aba para resposta, onde você incluirá a sua resposta.
c) Quando terminar de responder a sua pergunta, inclua o link na planilha editável mencionada acima.
d) O PRorum aceita edição em latex. Use e explore isso. Evite usar editores de equações bizarros como aqueles usados no Word. Se você nunca usou, aproveite essa oportunidade para aprender. As dicas estão nesse link:
http://prorum.com/?qa=213/como-escrever-equacoes-matematicas-usar-latex-no-prorum-com&show=213#q213
4) Os exercícios devem ser auto-contidos para permitir que qualquer pessoa, estudante, ex-aluno, aluno de outro curso (por exemplo, alguns dos exercícios desse curso também são usados no meu curso de Métodos Computacionais ou Economia Quantitativa) possa acessa-lo sem ter que acessar os slides, livro ou outro material específico do curso. Lembre que é sempre difícil entender códigos ou resoluções de outros colegas. Por isso, seja cuidadoso e lembre que esse material que você está gerando contribui para a metade de sua nota no curso e será provavelmente usado por muitos anos e por muitos colegas.
5) Foi combinado em sala que cada estudante resolveria 3 exercícios e comentaria outros três de outros colegas.
6) Sugere-se que cada aluno se planeje para resolver pelo menos um exercício estrela por mês. Essa política evita o problema de deixar todos os exercícios para o final. Por favor, não deixe para resolver todos os exercícios na última semana. Essa postura gera prejuízos em pelo menos três dimensões:
a) Quando isso ocorre, a solução dos exercícios apresentam menor qualidade.
b) Dificulta a vida de seu colega que precisa comentar seu exercício.
7) Dificulta a vida de seu professor que precisa corrgir seu exercício.
8) Os comentários devem ser precisos. Não use "Ótima solução"! Use "Ótima solução, pois você explorou..." Ou então "Faltou na solução XXX". "Sua solução pode ser melhorada se você considerar os seguintes aspectos."
9) Alguns exemplos de boas soluções em versões anteriores do curso:
http://prorum.com/?qa=2859/voce-pode-dar-exemplo-de-aprecamento-mercados-incompletos&show=2859#q2859
http://prorum.com/?qa=2674/equilibrio-dois-ativos-dois-estados-economia-dois-agentes&show=2674#q2674
http://prorum.com/?qa=2708/encontrar-conjunto-livres-arbitragem-mercado-incompleto&show=2708#q2708
Monday, August 13, 2018
Como foi o curso de finanças do Programa de Pós-Graduação em Economia da UnB em 2018?
O curso de Finanças do Programa de Pós-Graduação em Economia da UnB é um curso de Economia Financeira [Financial Economics] com os tópicos usuais de (1) Apreçamento de Ativos em Mercados Completos e Incompletos; (2) Carteiras ótimas; (3) Equilíbrio em Mercados Completos e Incompletos; (4) Modelos Baseados em Consumo; (5) Análise Média-Variância.
Também discutimos em sala de aula ou por meio de séries de exercícios vários dos tópicos mencionados aqui que podem ser classificados nas seguintes áreas:
(A) Introdução a econometria financeira
(B) Noções de Finanças em Tempo Contínuo
(C) Finanças Quantitativas: Implementação de Modelos computacionais ou de otimização (principalmente usando Python)
(D) Modelos de Risco
O plano de ensino do nosso curso está aqui
A versão de 2016 desse curso está aqui e a versão de 2017 desse curso está aqui.
From the botton of my heart
Sim! Esse curso aborda questões práticas de finanças... Por que? Porque é divertido (:-)! Entretanto, esse curso é um curso microfundamentado de finanças que a grande maioria das aulas é baseada na estrutura Definição, Teorema, Demonstração, Corolário... Logo, não se engane. Vale a pena dar uma olhada também na lista de pré-requisitos (básicos para um aluno de um bom programa de economia, mas vale a pena dar uma olhada no pré-requisito especial).
O curso pode ser resumido na lista abaixo:
PARTE I - Mercado de Ativos, Escolha dos Agentes e Equilíbrio
1) Mercado de Ativos, Escolha do Agentes e Equilíbrio
Aula 1
PARTE II - Apreçamento em Mercados Completos
2) Lei do preço único e apreçamento Linear
Aula 2
3) Apreçamento Positivo e Não-Arbitragem
Aula 3
INTERLÚDIO I - Noções de Implementação Computacional em Python (Tópico opcional que depende do perfil da turma)
4) Noções de Programação Computacional
Aula 4
5) Noções de Programação Computacional - Coleções de dados
Aula 5
6) Noções de Programação Computacional - Recursões
Aula 6
7) Noções de Programação Computacional - Programação Orientada a Objeto
Aula 7
8) Noções de Programação Computacional - Monte Carlo
Aula 8
INTERLÚDIO II - Programação Linear
9) Noções do problema de programação linear
Aula 9
PARTE II - Apreçamento em Mercados Financeiros
10) Apreçamento em Mercados Incompletos
Aula 10
11) Probabilidades Neutras ao Risco
Aula 11
12) Restrições na comercialização dos Ativos
Aula 12
PARTE III - Alguns modelos e aplicações práticas
13) Modelo Binomial e Métodos Numéricos para o Apreçamento de Opções
Aula 13
14) Avaliação de Investimentos sob Incerteza e Opções Reais
Aula 14
15) Noções de Finanças em Tempo Contínuo e a Fórmula de Black-Scholes
Aula 15
PARTE IV - Aversão ao Risco
16) Aversão ao Risco
Aula 16
INTERLÚDIO III - Noções de Análise Funcional em Espaços de Hilbert
17) Espaços de Hilbert
Aula 17
PARTE V - Análise Média Variância
18) Kernels de valor esperado e apreçamento
Aula 18
19) Payoffs na Fronteira Média Variância
Aula 19
20) CAPM e Seção Transversal dos Ativos
Aula 20
21) Apreçamento Fatorial e Seção Transversal dos Ativos
Aula 21
PARTE VI - Carteiras Ótimas
22) Carteira Ótima com um ativo livre de risco e um ativo arriscado
Aula 22
23) Carteira Ótima com vários ativos
Aula 23
PARTE VII - Modelos de Equilíbrio baseados em Consumo
24) CCAPM
Aula 24
25) Equilíbrios de Pareto em Mercados Completos e Incompletos
Aula 25
PARTE VIII - Econometria Financeira (Tópicos opcionais que dependem de tempo)
Os slides dessa parte do curso foram enviados por email. Não houve exercícios relacionados com essa parte do curso.
26) Modelos de passeio aleatório
27) Modelos de valor presente e previsibilidade
28) Análise de eventos
29) Efeito da Mídia
30) Anomalias
AVALIAÇÂO
A avaliação do curso é feita por uma prova e vários exercícios individuais (os detalhes dependem do tamanho da turma). São explorados exercícios de vários tipos. Exercícios que lidam diretamente com a teoria apresentada em sala de aula e exercícios que estendem a teoria discutida em sala de aula. Exercícios numéricos simples (que exploram conceitos básicos de sala de aula ou do livro texto principal), exercícios computacionais (que normalmente estendem o discutido em sala de aula) e exercícios teóricos (normalmente provas de resultados auxiliares ao curso). Dentro do conjunto de exercícios alguns exercícios são muito fáceis, outros exercícios são mais difíceis e outros são bem trabalhosos, que dependem de material extra àquele apresentado em sala de aula e implementação computacional. O estudante deve escolher com antecedência seus exercícios para escolher aqueles de sua preferência e ter tempo de resolvê-los antes da última semana de aula.
Como resolver exercícios que serão avaliados?
Veja aqui!
PRE-REQUISITOS
Temos apenas um pre-requisito fundamental apresentado a seguir, mas vários tópicos dependem de conhecimentos de Álgebra-Linear, Otimização e maturidade em matemática, estatística ou econometria equivalente a de um aluno de mestrado em economia de um bom programa.
Grande parte dos pre-requisitos matematicos, você pode encontrar
aqui.
De fato, um pre-requisito fundamental em qualquer curso que leciono é muita disposição para aprender e lidar com coisas novas para resolver novos problemas. Os estudantes devem ter ou desenvolver a capacidade de lidar com um problema novo que estende o material em sala de aula sem a ajuda do professor, tendo em mãos apenas as referências básicas. Essa habilidade muito comum em estudantes da engenharia infelizmente não é muito explorada em estudantes de economia.
Deixar a arrogância em casa para ser capaz de perceber que não sabemos tudo e que existem sempre pessoas com mais conhecimento em um determinado tópico que nós mesmos. Aproveitar desse fato para aprender com os colegas e com o professor àquelas dimensões mais restritas.
Esse é um curso OPTATIVO e lúdico desenhado para o estudante e o professor se divertirem. Se você não está muito motivado com o curso ou acha que o curso não o acrescentará muito e você pretende manter uma atitude negativa e passiva ao longo do curso, existem dezenas de cursos mais adequados para você no programa.
Não sou aluno do Programa de Doutorado em Economia. Eu posso fazer o curso?
Sim. Você pode entrar em contato com a secretária do Programa de Pós-Graduação em Economia da UnB e verificar a disponibilidade de vagas para matrícula como aluno especial.
Posso assistir como ouvinte?
Infelizmente a UnB não permite esse tipo de aluno.
Também discutimos em sala de aula ou por meio de séries de exercícios vários dos tópicos mencionados aqui que podem ser classificados nas seguintes áreas:
(A) Introdução a econometria financeira
(B) Noções de Finanças em Tempo Contínuo
(C) Finanças Quantitativas: Implementação de Modelos computacionais ou de otimização (principalmente usando Python)
(D) Modelos de Risco
O plano de ensino do nosso curso está aqui
A versão de 2016 desse curso está aqui e a versão de 2017 desse curso está aqui.
From the botton of my heart
Sim! Esse curso aborda questões práticas de finanças... Por que? Porque é divertido (:-)! Entretanto, esse curso é um curso microfundamentado de finanças que a grande maioria das aulas é baseada na estrutura Definição, Teorema, Demonstração, Corolário... Logo, não se engane. Vale a pena dar uma olhada também na lista de pré-requisitos (básicos para um aluno de um bom programa de economia, mas vale a pena dar uma olhada no pré-requisito especial).
O curso pode ser resumido na lista abaixo:
PARTE I - Mercado de Ativos, Escolha dos Agentes e Equilíbrio
1) Mercado de Ativos, Escolha do Agentes e Equilíbrio
Aula 1
PARTE II - Apreçamento em Mercados Completos
2) Lei do preço único e apreçamento Linear
Aula 2
3) Apreçamento Positivo e Não-Arbitragem
Aula 3
INTERLÚDIO I - Noções de Implementação Computacional em Python (Tópico opcional que depende do perfil da turma)
4) Noções de Programação Computacional
Aula 4
5) Noções de Programação Computacional - Coleções de dados
Aula 5
6) Noções de Programação Computacional - Recursões
Aula 6
7) Noções de Programação Computacional - Programação Orientada a Objeto
Aula 7
8) Noções de Programação Computacional - Monte Carlo
Aula 8
INTERLÚDIO II - Programação Linear
9) Noções do problema de programação linear
Aula 9
PARTE II - Apreçamento em Mercados Financeiros
10) Apreçamento em Mercados Incompletos
Aula 10
11) Probabilidades Neutras ao Risco
Aula 11
12) Restrições na comercialização dos Ativos
Aula 12
PARTE III - Alguns modelos e aplicações práticas
13) Modelo Binomial e Métodos Numéricos para o Apreçamento de Opções
Aula 13
14) Avaliação de Investimentos sob Incerteza e Opções Reais
Aula 14
15) Noções de Finanças em Tempo Contínuo e a Fórmula de Black-Scholes
Aula 15
PARTE IV - Aversão ao Risco
16) Aversão ao Risco
Aula 16
INTERLÚDIO III - Noções de Análise Funcional em Espaços de Hilbert
17) Espaços de Hilbert
Aula 17
PARTE V - Análise Média Variância
18) Kernels de valor esperado e apreçamento
Aula 18
19) Payoffs na Fronteira Média Variância
Aula 19
20) CAPM e Seção Transversal dos Ativos
Aula 20
21) Apreçamento Fatorial e Seção Transversal dos Ativos
Aula 21
PARTE VI - Carteiras Ótimas
22) Carteira Ótima com um ativo livre de risco e um ativo arriscado
Aula 22
23) Carteira Ótima com vários ativos
Aula 23
PARTE VII - Modelos de Equilíbrio baseados em Consumo
24) CCAPM
Aula 24
25) Equilíbrios de Pareto em Mercados Completos e Incompletos
Aula 25
PARTE VIII - Econometria Financeira (Tópicos opcionais que dependem de tempo)
Os slides dessa parte do curso foram enviados por email. Não houve exercícios relacionados com essa parte do curso.
26) Modelos de passeio aleatório
27) Modelos de valor presente e previsibilidade
28) Análise de eventos
29) Efeito da Mídia
30) Anomalias
AVALIAÇÂO
A avaliação do curso é feita por uma prova e vários exercícios individuais (os detalhes dependem do tamanho da turma). São explorados exercícios de vários tipos. Exercícios que lidam diretamente com a teoria apresentada em sala de aula e exercícios que estendem a teoria discutida em sala de aula. Exercícios numéricos simples (que exploram conceitos básicos de sala de aula ou do livro texto principal), exercícios computacionais (que normalmente estendem o discutido em sala de aula) e exercícios teóricos (normalmente provas de resultados auxiliares ao curso). Dentro do conjunto de exercícios alguns exercícios são muito fáceis, outros exercícios são mais difíceis e outros são bem trabalhosos, que dependem de material extra àquele apresentado em sala de aula e implementação computacional. O estudante deve escolher com antecedência seus exercícios para escolher aqueles de sua preferência e ter tempo de resolvê-los antes da última semana de aula.
Como resolver exercícios que serão avaliados?
Veja aqui!
PRE-REQUISITOS
Temos apenas um pre-requisito fundamental apresentado a seguir, mas vários tópicos dependem de conhecimentos de Álgebra-Linear, Otimização e maturidade em matemática, estatística ou econometria equivalente a de um aluno de mestrado em economia de um bom programa.
Grande parte dos pre-requisitos matematicos, você pode encontrar
aqui.
De fato, um pre-requisito fundamental em qualquer curso que leciono é muita disposição para aprender e lidar com coisas novas para resolver novos problemas. Os estudantes devem ter ou desenvolver a capacidade de lidar com um problema novo que estende o material em sala de aula sem a ajuda do professor, tendo em mãos apenas as referências básicas. Essa habilidade muito comum em estudantes da engenharia infelizmente não é muito explorada em estudantes de economia.
Deixar a arrogância em casa para ser capaz de perceber que não sabemos tudo e que existem sempre pessoas com mais conhecimento em um determinado tópico que nós mesmos. Aproveitar desse fato para aprender com os colegas e com o professor àquelas dimensões mais restritas.
Esse é um curso OPTATIVO e lúdico desenhado para o estudante e o professor se divertirem. Se você não está muito motivado com o curso ou acha que o curso não o acrescentará muito e você pretende manter uma atitude negativa e passiva ao longo do curso, existem dezenas de cursos mais adequados para você no programa.
Não sou aluno do Programa de Doutorado em Economia. Eu posso fazer o curso?
Sim. Você pode entrar em contato com a secretária do Programa de Pós-Graduação em Economia da UnB e verificar a disponibilidade de vagas para matrícula como aluno especial.
Posso assistir como ouvinte?
Infelizmente a UnB não permite esse tipo de aluno.
Wednesday, June 27, 2018
Aula 30 de Métodos Computacionais em Economia - Processamento de Linguagem Natural
Essa é a nona aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.
Códigos usados em sala de aula
Todos os exemplos dessa aula foram do livro
Natural Language Processing in Python
Referências
Foundations of Statistical Natural Language Processing - Christopher D. Manning and Hinrich Schütze
Natural Language Processing in Python
Códigos usados em sala de aula
Todos os exemplos dessa aula foram do livro
Natural Language Processing in Python
Referências
Foundations of Statistical Natural Language Processing - Christopher D. Manning and Hinrich Schütze
Natural Language Processing in Python
Aula 29 de Métodos Computacionais em Economia - Aprendizagem de Máquinas: Aprendizagem por Reforço
Essa é a oitava aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.


Códigos usados em sala de aula
Implementação do problema da locadora usando programação dinâmica
Referências
Numerical Methods in Economics - Keneth Judd
Reinforcement Learning [Capítulos 1 a 4]
Markov Decision Processes - Martin Puterman [Capítulo 6]
Referências Complementares
O site Quantitative Economics tem muito material legal.
Soluções de Exercícios
Value iteration usando discretização [Questão 1(a)]
Método de Newton Raphson [Questão 8]
Gerando fractais: Fractal de Vicsek [Questão 11]
Gerando fractais: Carpete de Sierpinski [Questão 11]
Gerando fractais: Triângulo de Sierpinski [Questão 11]


Códigos usados em sala de aula
Implementação do problema da locadora usando programação dinâmica
Referências
Numerical Methods in Economics - Keneth Judd
Reinforcement Learning [Capítulos 1 a 4]
Markov Decision Processes - Martin Puterman [Capítulo 6]
Referências Complementares
O site Quantitative Economics tem muito material legal.
Soluções de Exercícios
Value iteration usando discretização [Questão 1(a)]
Método de Newton Raphson [Questão 8]
Gerando fractais: Fractal de Vicsek [Questão 11]
Gerando fractais: Carpete de Sierpinski [Questão 11]
Gerando fractais: Triângulo de Sierpinski [Questão 11]
Aula 28 de Métodos Computacionais em Economia - Aprendizagem de Máquinas: Redes Neurais e Deep Learning
Essa é a sétima aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.
Códigos usados em sala de aula
Implementação de redes neurais artificias usando o pyBrain
Soluções de Exercícios
Exemplo de redes neurais recorrentes
Implementação de dropout
Autoencoder
MNIST
Referências
Pattern Recognition and Machine Learning - Christopher Bishop [Seções 5.1 a 5.5]
Neural networks - Haykin [Capítulo 4]
Deep learning - Ian Goodfellow, Yoshua Bengio and Aaron Courville [Capítulo 6, 7, 8, 9, 10, 11, 12, 14]
LeCun, Y., Bengio, Y. and Hinton, G. E. (2015) Deep Learning Nature, Vol. 521, pp 436-444.
Hinton, G. E. (2007) Learning Multiple Layers of Representation. Trends in Cognitive Sciences, Vol. 11, pp 428-434.
Quoc V. Le A Tutorial on Deep Learning Part 1: Nonlinear Classifiers and The Backpropagation Algorithm
Quoc V. Le A Tutorial on Deep Learning Part 2: Autoencoders, Convolutional Neural Networks and Recurrent Neural Networks
Referências Complementares
Razvan Pascanu, Çağlar Gülçehre, Kyunghyun Cho and Yoshua Bengio, How to Construct Deep Recurrent Neural Networks, in: International Conference on Learning Representations 2014(Conference Track), 2014
Guillaume Alain and Yoshua Bengio, What Regularized Auto-Encoders Learn from the Data-Generating Distribution (2014), in: Journal of Machine Learning Research, 15(3563-3593)
Hinton, G. E. Where do features come from?. Cognitive Science, Vol. 38(6), pp 1078-1101.
Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I. and Salakhutdinov, R. Dropout: A simple way to prevent neural networks from overfitting The Journal of Machine Learning Research, 15(1), pp 1929-1958.
Sutskever, I., Martens, J., Dahl, G. and Hinton, G. E. On the importance of momentum and initialization in deep learning In 30th International Conference on Machine Learning, Atlanta, USA, 2013.
Yoshua Bengio and Aaron Courville, Deep Learning of Representations, in: Handbook on Neural Information Processing, Springer: Berlin Heidelberg, 2013
Çağlar Gülçehre and Yoshua Bengio, Knowledge Matters: Importance of Prior Information for Optimization, in: International Conference on Learning Representations (ICLR'2013), 2013
Yoshua Bengio, Aaron Courville and Pascal Vincent, Representation Learning: A Review and New Perspectives (2013), in: Pattern Analysis and Machine Intelligence, IEEE Transactions on, 35:8(1798-1828)
Hinton, G. E., Srivastava, N., Krizhevsky, A., Sutskever, I. and Salakhutdinov, R. R. Improving neural networks by preventing co-adaptation of feature detectors http://arxiv.org/abs/1207.0580, 2012
Suskever, I., Martens, J. and Hinton, G. E. Generating Text with Recurrent Neural Networks. Proc. 28th International Conference on Machine Learning, Seattle, 2011.
Nicolas Le Roux and Yoshua Bengio, Deep Belief Networks are Compact Universal Approximators (2010), in: Neural Computation, 22:8(2192-2207)
Dumitru Erhan, Yoshua Bengio, Aaron Courville, Pierre-Antoine Manzagol, Pascal Vincent, Samy Bengio; Why Does Unsupervised Pre-training Help Deep Learning? Journal of Machine Learning Research, 11(Feb):625−660, 2010.
Hugo Larochelle, Yoshua Bengio, Jerome Louradour and Pascal Lamblin, Exploring Strategies for Training Deep Neural Networks (2009), in: Journal of Machine Learning Research, 10(1--40)
Yoshua Bengio, Learning deep architectures for AI (2009), in: Foundations and Trends in Machine Learning, 2:1(1--127)
van der Maaten, L. J. P. and Hinton, G. E. Visualizing Data using t-SNE. Journal of Machine Learning Research, Vol 9, (Nov) pp 2579-2605, 2008.
Hinton. G. E. What kind of a graphical model is the brain? International Joint Conference on Artificial Intelligence 2005, Edinburgh.
Yoshua Bengio, Gradient-Based Optimization of Hyperparameters (2000), in: Neural Computation, 12:8(1889--1900)
Hinton, G.E. Supervised learning in multilayer neural networks in The MIT Encyclopedia of the Cognitive Sciences Editors: Robert A. Wilson and Frank C. Keil The MIT Press, 1999.
Hinton, G. E., Plaut, D. C. and Shallice, T. Simulating brain damage Scientific American, 1993.
Nowlan. S. J. and Hinton, G. E. Simplifying neural networks by soft weight sharing.
Neural Computation, 4, 173-193.
Hinton, G.E. How neural networks learn from experience. Scientific American, September 1992.
Rumelhart, D. E., Hinton, G. E., and Williams, R. J. Learning representations by back-propagating errors.
Nature, 323, 533--536, 1986.
Hinton, G. E. Learning distributed representations of concepts. Proceedings of the Eighth Annual Conference of the Cognitive Science Society, Amherst, Mass, 1986.
Hinton, G. E., McClelland, J. L., and Rumelhart, D. E. Distributed representations. In Rumelhart, D. E. and McClelland, J. L., editors, Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations, MIT Press, Cambridge, MA. pp 77-109, 1986.
Rumelhart, D. E., Hinton, G. E., and Williams, R. J.
Learning internal representations by error propagation.
In Rumelhart, D. E. and McClelland, J. L., editors, Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations, MIT Press, Cambridge, MA. pp 318-362, 1986.
Códigos usados em sala de aula
Implementação de redes neurais artificias usando o pyBrain
Soluções de Exercícios
Exemplo de redes neurais recorrentes
Implementação de dropout
Autoencoder
MNIST
Referências
Pattern Recognition and Machine Learning - Christopher Bishop [Seções 5.1 a 5.5]
Neural networks - Haykin [Capítulo 4]
Deep learning - Ian Goodfellow, Yoshua Bengio and Aaron Courville [Capítulo 6, 7, 8, 9, 10, 11, 12, 14]
LeCun, Y., Bengio, Y. and Hinton, G. E. (2015) Deep Learning Nature, Vol. 521, pp 436-444.
Hinton, G. E. (2007) Learning Multiple Layers of Representation. Trends in Cognitive Sciences, Vol. 11, pp 428-434.
Quoc V. Le A Tutorial on Deep Learning Part 1: Nonlinear Classifiers and The Backpropagation Algorithm
Quoc V. Le A Tutorial on Deep Learning Part 2: Autoencoders, Convolutional Neural Networks and Recurrent Neural Networks
Referências Complementares
Razvan Pascanu, Çağlar Gülçehre, Kyunghyun Cho and Yoshua Bengio, How to Construct Deep Recurrent Neural Networks, in: International Conference on Learning Representations 2014(Conference Track), 2014
Guillaume Alain and Yoshua Bengio, What Regularized Auto-Encoders Learn from the Data-Generating Distribution (2014), in: Journal of Machine Learning Research, 15(3563-3593)
Hinton, G. E. Where do features come from?. Cognitive Science, Vol. 38(6), pp 1078-1101.
Srivastava, N., Hinton, G., Krizhevsky, A., Sutskever, I. and Salakhutdinov, R. Dropout: A simple way to prevent neural networks from overfitting The Journal of Machine Learning Research, 15(1), pp 1929-1958.
Sutskever, I., Martens, J., Dahl, G. and Hinton, G. E. On the importance of momentum and initialization in deep learning In 30th International Conference on Machine Learning, Atlanta, USA, 2013.
Yoshua Bengio and Aaron Courville, Deep Learning of Representations, in: Handbook on Neural Information Processing, Springer: Berlin Heidelberg, 2013
Çağlar Gülçehre and Yoshua Bengio, Knowledge Matters: Importance of Prior Information for Optimization, in: International Conference on Learning Representations (ICLR'2013), 2013
Yoshua Bengio, Aaron Courville and Pascal Vincent, Representation Learning: A Review and New Perspectives (2013), in: Pattern Analysis and Machine Intelligence, IEEE Transactions on, 35:8(1798-1828)
Hinton, G. E., Srivastava, N., Krizhevsky, A., Sutskever, I. and Salakhutdinov, R. R. Improving neural networks by preventing co-adaptation of feature detectors http://arxiv.org/abs/1207.0580, 2012
Suskever, I., Martens, J. and Hinton, G. E. Generating Text with Recurrent Neural Networks. Proc. 28th International Conference on Machine Learning, Seattle, 2011.
Nicolas Le Roux and Yoshua Bengio, Deep Belief Networks are Compact Universal Approximators (2010), in: Neural Computation, 22:8(2192-2207)
Dumitru Erhan, Yoshua Bengio, Aaron Courville, Pierre-Antoine Manzagol, Pascal Vincent, Samy Bengio; Why Does Unsupervised Pre-training Help Deep Learning? Journal of Machine Learning Research, 11(Feb):625−660, 2010.
Hugo Larochelle, Yoshua Bengio, Jerome Louradour and Pascal Lamblin, Exploring Strategies for Training Deep Neural Networks (2009), in: Journal of Machine Learning Research, 10(1--40)
Yoshua Bengio, Learning deep architectures for AI (2009), in: Foundations and Trends in Machine Learning, 2:1(1--127)
van der Maaten, L. J. P. and Hinton, G. E. Visualizing Data using t-SNE. Journal of Machine Learning Research, Vol 9, (Nov) pp 2579-2605, 2008.
Hinton. G. E. What kind of a graphical model is the brain? International Joint Conference on Artificial Intelligence 2005, Edinburgh.
Yoshua Bengio, Gradient-Based Optimization of Hyperparameters (2000), in: Neural Computation, 12:8(1889--1900)
Hinton, G.E. Supervised learning in multilayer neural networks in The MIT Encyclopedia of the Cognitive Sciences Editors: Robert A. Wilson and Frank C. Keil The MIT Press, 1999.
Hinton, G. E., Plaut, D. C. and Shallice, T. Simulating brain damage Scientific American, 1993.
Nowlan. S. J. and Hinton, G. E. Simplifying neural networks by soft weight sharing.
Neural Computation, 4, 173-193.
Hinton, G.E. How neural networks learn from experience. Scientific American, September 1992.
Rumelhart, D. E., Hinton, G. E., and Williams, R. J. Learning representations by back-propagating errors.
Nature, 323, 533--536, 1986.
Hinton, G. E. Learning distributed representations of concepts. Proceedings of the Eighth Annual Conference of the Cognitive Science Society, Amherst, Mass, 1986.
Hinton, G. E., McClelland, J. L., and Rumelhart, D. E. Distributed representations. In Rumelhart, D. E. and McClelland, J. L., editors, Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations, MIT Press, Cambridge, MA. pp 77-109, 1986.
Rumelhart, D. E., Hinton, G. E., and Williams, R. J.
Learning internal representations by error propagation.
In Rumelhart, D. E. and McClelland, J. L., editors, Parallel Distributed Processing: Explorations in the Microstructure of Cognition. Volume 1: Foundations, MIT Press, Cambridge, MA. pp 318-362, 1986.
Aula 27 de Métodos Computacionais em Economia - Aprendizagem de Máquinas: Classificação Linear
Essa é a sexta aula de Aprendizagem de Máquinas do nosso curso. Esses são os slides usados em sala.
Códigos usados em sala de aula
OLS para classificação
Implementação do Perceptron
Implementação de um modelo de resposta binária
Referências
Pattern Recognition and Machine Learning - Christopher Bishop [Seções 4.1, 4.2 e 4.3]
A. Carvalho, D. Cajueiro e R. Camargo - Introdução aos Métodos Estatísticos para Economia e Finanças [Capítulo 9]
Modern multivariate statistical techniques - Alan Julian Izenman [Seções 8.1 a 8.4]
The elements of statistical learning - Hastie, Tibshirani e Friedman [Capítulo 4]
Neural networks - Haykin [Capítulos 3 e 5]
Bases de dados usadas para responder os exercícios
PRorum: Sites com bases de dados interessantes
Soluções de Exercícios
Linear Discriminant Analysis
Probabilistic Generative Models
Stepwise logistic regression
Xor
Códigos usados em sala de aula
OLS para classificação
Implementação do Perceptron
Implementação de um modelo de resposta binária
Referências
Pattern Recognition and Machine Learning - Christopher Bishop [Seções 4.1, 4.2 e 4.3]
A. Carvalho, D. Cajueiro e R. Camargo - Introdução aos Métodos Estatísticos para Economia e Finanças [Capítulo 9]
Modern multivariate statistical techniques - Alan Julian Izenman [Seções 8.1 a 8.4]
The elements of statistical learning - Hastie, Tibshirani e Friedman [Capítulo 4]
Neural networks - Haykin [Capítulos 3 e 5]
Bases de dados usadas para responder os exercícios
PRorum: Sites com bases de dados interessantes
Soluções de Exercícios
Linear Discriminant Analysis
Probabilistic Generative Models
Stepwise logistic regression
Xor
Subscribe to:
Posts (Atom)



