PSI3471 - Fundamentos de Sistemas Eletrônicos Inteligentes (2020)

Ex 1) Construa com um um único nó neural com pesos sinápticos apropriadamente escolhidos por você uma porta lógica tipo AND de duas entradas, e com a função de não linearidade sendo o sign(.) / sinal(.) ou a tangente hiperbólica,o que preferir. Note que como a saída da função sign / sinal é do tipo + - e a saída da tgh é saturável em +1 e -1, pode ser conveniente usar a representação bipolar de um bit (+1 e -1) em lugar da tradicional unipolar (0 e 1). Explique sua solução e apresente o grafo DETALHADO dela com todas variáveis de entrada, saida e intermediárias (v´s, usando a notação de nossas aulas), além dos valores dos parâmetros / pesos sinápticos escolhidos por você, incluindo o/s peso/s que representam vié. 

  Ex 1b) Estenda sua solução para ANDs de três entradas, quatro, cinco, e se possível generalize a solução para ANDs de N entradas.

  Ex 1c) Modifique sua solução agora para NANDs de duas e de três entradas.

Ex 2) Enunciado do Ex 1 mas trocando AND por OR

  Ex 2b) Enunciado do Ex 1 mas trocando AND por NOR

Ex 3) Assista aos diversos tutoriais do MBP, aprenda o formato do arquivo de treino e a forma de se definir uma rede neural nesse ambiente, entenda as ilustrações apresentadas para regressão e reconhecimento de padrões, e desenvolva um ensaio e tutorial seu similar ao exemplo de regressão feito para estimação do sinx/x, mas focando em uma função escolhida por você e distinta dessa.  Além da solução numérica, represente a rede resultante através de um grafo DETALHADO (aquele que inclui também a variável interna "v" de cada neurônio da rede) completo com explicitação de todas as variáveis, funções de ativação e valores dos parâmetros sinápticos envolvidos. 

Ex 3b) Use agora o MBP para treinar uma rede a realizar alguma das operações lógicas mencionadas nos Exs 1 e 2. Faça um relatório simples de documentação de resultados comentados. Apresente-o a um colega de sala e explique seus resultados e conclusões. Incorpore novas conclusões e considerações que seu colega trouxe a seus resultados, registre o nome dele e explicite as contribuições que fez.

Ex 4) Defina dois problemas de regressão multivariada (y(X) é analógico) no contexto de Sistemas Eletrônicos / ou de Eletrônica e Sistemas / ou no contexto de sua ênfase de 4o ano se for outra / ou no contexto de seu módulo de EC3 de 5o ano  (explicite disciplinas da EC3 em E&S às quais o seu problema se conecta; não vale PSI3471 ; -) ) que possa se beneficiar de aprendizado de máquina e de treinamento de uma rede neural. Defina claramente as variáveis de entrada, de saída, suas unidades e significados, explique porque o regressor é algo útil, porque precisamos do aprendizado de máquina na modelagem, e defina como coletará os pares empíricos (X,y).

  Ex 4b) Ensaie ao menos um desses dois problemas no ambiente de prototipação rápida MBP (Multiple Back Propagation). Faça um relatório simples de documentação de resultados comentados. Apresente-o a um colega de sala e explique seus resultados e conclusões. Incorpore novas conclusões e considerações que seu colega trouxe a seus resultados, registre o nome dele e explicite as contribuições que fez.

Ex 5) Defina dois problemas de detecção de padrões (y(X) é binário) no contexto de sistemas eletrônicos, um deles em imagens e outro não (explicite disciplina/s da EC3 em E&S às quais o seu problema se conecta; não vale PSI3471 ; -) ) que possa se beneficiar de aprendizado de máquina e de treinamento de uma rede neural. Defina claramente as variáveis de entrada, de saída, suas unidades e significados, explique porque o regressor é algo útil, porque precisamos do aprendizado de máquina na modelagem, e defina como coletará os pares epíricos (X,y).

  Ex 5b) Ensaie ao menos um desses dois problemas no MBP. Faça um relatório simples de documentação de resultados comentados. Apresente-o a um colega de sala e explique seus resultados e conclusões. Incorpore novas conclusões e considerações que seu colega trouxe a seus resultados, registre o nome dele e explicite as contribuições que fez.

  Ex 6b) Deduza agora a fórmula da derivada de Eqm com relação a um peso que interliga a primeira camada de neurônios com o neurônio de saída. Deduza também a fórmula da derivada de Eqm com relação a um viés do neurônio de saída.

  Ex 6c) Escreva agora com base nos seus resultados em 6 e 6b todas as 16 fórmulas de derivadas parciais do Eqm com relação aos 16 pesos sinápticos da rede (este "16" é claro incluí os 4 pesos de viés, que são também parâmetros a otimizar na estrutrura 3-3-1).

Ex 6d) Como o item 6c pode ser usado por você para escrever um código de programa de aprendizado de pesos de uma rede neural? Além de explicar como, esboce o pseudo-código.