Aula 2

Question 1

O que é uma arquitetura de RNA

Answer 1

É necessário que
mais neurônios estejam interconectados entre si, de forma a propagar os sinais
de entrada e modular por um número maior de pesos sinápticos para poder
aprender de forma efetiva. A arquitetura desempenha um papel essencial na
forma com a rede processa as informações e também na forma com os algoritmos
de aprendizagem trabalham

Question 2

O que é uma camada?

Answer 2

Pode-se dizer que uma camada contém um conjunto de neurônios que são acionados no mesmo estágio, ao mesmo tempo

Question 3

Quais os 3 tipos de RNA?

Answer 3

De acordo com a arquitetura, Haykin (2001, p. 46-49) define três tipos de RNA: de camada
única, de múltiplas camadas e redes recorrentes. A essa classificação é oportuno também adicionar as redes totalmente conectadas e redes parcialmente conectadas.

Question 4

O que é uma RNA de camada única?

Answer 4

Consideradas como redes mais simples, as RNA de camada única contêm nas entradas e saídas dos seus neurônios as próprias entradas e saídas, respectivamente, da RNA. Ela tem a característica de ser uma rede alimentada
adiante (do inglês feedforward), pois as informações sempre se propagam em um
sentido só, das entradas para as saídas

Question 5

O que é uma RNA de multiplas camadas?

Answer 5

Em uma RNA que contenha múltiplas camadas existem as camadas ocultas, as quais podem ter suas entradas conectadas à camada de entrada da rede, ou ainda às saídas de outra camada oculta de neurônios

Question 6

O que são RNA recorrentes?

Answer 6

As redes recorrentes são diferentes das RNA alimentada adiante, pois possuem pelo menos um laço de feedback ou realimentação na própria estrutura da RNA

Question 7

O que são RNA totalmente conectadas?

Answer 7

Nos exemplos das RNA de camada única e de múltiplas camadas, podese notar que, entre as camadas ocultas e de saída, todos os neurônios estavam conectados por pesos sinápticos. Dessa forma, as RNA totalmente conectadas exploram todas as possibilidades de conexão entre os neurônios das camadas próximas entre si.

Question 8

Como funciona o algortimo da RNA totalmente conecta?

Answer 8

Os algoritmos para aprendizagem das RNA totalmente conectadas consideram, para cada neurônio de uma camada, os pesos sinápticos com todos os outros neurônios de outras camadas, atualizando-os de acordo com a
existência de correlação entre os padrões de entrada e saída para aquele par de
neurônios. Se um peso sináptico atinge um valor alto, a influência dessa ligação é significativa e influencia a ativação nos neurônios adiante; se o peso sináptico é próximo de zero, então a conexão não é significativa e não contribui efetivamente para a ativação adiante.

Question 9

O que são redes parcialmente conectadas?

Answer 9

As redes parcialmente conectadas se referem àquelas onde os neurônios de duas camadas próximas não estão totalmente conectados. O uso de conexões parciais entre neurônios de camadas diferentes pode se dar em função da
existência de informação prévia durante o projeto da rede

Question 10

O que são paradigmas de aprendizagem de RNA?

Answer 10

Os paradigmas de aprendizagem se referem à forma como os algoritmos de aprendizagem das RNA são executados, levando-se em consideração os dados disponíveis no ambiente para que a RNA possa então aprender alguma coisa sobre ele. A aprendizagem das RNA pode acontecer com um professor, por reforço e sem professor, ou ainda, por último, sem professor, também chamadade não supervisionada.

Question 11

O que é aprendizagem com um professor?

Answer 11

A aprendizagem com um professor é também denominada de aprendizagem supervisionadaDe maneira geral, a RNA não possui nenhum conhecimento sobre o ambiente, porém o professor tem esse conhecimento. O conhecimento que o professor possui está representado na forma de exemplos em como as entradas e saídas são mapeadas. Dessa forma,
o conhecimento do professor é empírico. No instante da aprendizagem da RNA, algum vetor é extraído do ambiente e enviado a ela e ao professor, sendo que o professor sabe a resposta, ou pelo menos o caminho para obter a resposta. Ou seja, ele tem a resposta desejada.

Question 12

Como é dividido o BD no caso de machine learning

Answer 12

De maneira geral, em machine learning, um banco de dados com exemplos é dividido em dois conjuntos: um que ficará com o professor que irá ensinar efetivamente a RNA e outro com um professor que irá apenas avaliar a RNA – o seu conhecimento não será usado para a aprendizagem da RNA. O primeiro conjunto é dito conjunto de treinamento e o segundo o conjunto de teste. Um processo de treinamento pode utilizar diferentes combinações aleatórias dos conjuntos, de acordo também com critérios de divisão do banco de dados e das quantidades de exemplos.

Question 13

O que é aprendizagem sem professor?

Answer 13

Na aprendizagem por reforço, o mapeamento entrada-saída é obtido por meio da interação contínua com o ambiente. Da mesma forma que o aprendizado supervisionado, busca-se minimizar um índice de desempenho.É elaborado ao redor de um crítico que converte um sinal de reforço recebido do ambiente em um sinal mais qualificado, denominado de reforço heurístico (Haykin, 2001). O
sistema aprende por reforço atrasado: ou seja, ele vai observando uma sequência
temporal dos estímulos apresentados à RNA

Question 14

O que é aprendizagem não supervisionada?

Answer 14

A aprendizagem não supervisionada também é denominada de autoorganizada. Aqui, não há um professor para direcionar o desempenho da rede. São dadas à RNA condições para que possa fazer uma medida de desempenho
independente da tarefa, e a rede precisa alcançar um nível de representação dos
dados, havendo inclusive um conjunto de parâmetros para balizar o aprendizado
(Haykin, 2001, p. 91). Quando a RNA alcança este nível, onde ela consegue fazer emergir as regularidades subjacentes nos dados, ela é capaz de atribuir classes aos dados organizados nesta representação interna obtida.

Question 15

O que é aprendizagem de RNA?

Answer 15

Aprendizagem é um processo pelo qual os parâmetros livres de uma rede neural são adaptados através de um processo de estimulação pelo ambiente no qual a rede está inserida. O tipo de aprendizagem édeterminado pela maneira pela qual a modificação dos parâmetros ocorre.

Question 16

O que a definição de aprendizagem de RNA implica?

Answer 16

Essa definição implica que:
* a RNA é estimulada pelo ambiente;
* a RNA sofre modificações nos seus parâmetros livres; e
* a RNA responde de uma maneira distinta ao ambiente

Question 17

O que é um algoritmo de aprendizagem de RNA?

Answer 17

Dessa maneira, para resolver o problema de aprendizagem de uma RNA,é necessário definir um conjunto de regras bem estabelecidas para a solução desse problema. A esse conjunto denomina-se algoritmo de aprendizagem

Question 18

Quais são as 5 formas pelas quais uma RNA
pode aprender por meio de um algoritmo?

Answer 18

por correção de erro, com base em
memória, pela regra de Hebb, por aprendizagem competitiva e aprendizagem estocástica de Boltzmann.

Question 19

O que é aprendizagem por correção de erro?

Answer 19

A aprendizagem por correção de erro foi uma das primeiras abordagens de modificação dos pesos sinápticos, inspirado no conceito de autorregulação e controle da cibernética

Question 20

O que é aprendizagem baseada em memória?

Answer 20

A aprendizagem baseada em memória se beneficia das experiências anteriores que estão armazenadas na forma de pares de entrada-saída,classificados de maneira correta {(𝒙𝒙𝑖𝑖, 𝑑𝑑𝑖𝑖)}, 𝑖𝑖 = 1. . 𝑁𝑁, onde 𝒙𝒙𝑖𝑖 representa um vetor
de sinais de entrada e 𝑑𝑑𝑖𝑖 representa a resposta desejada (correta) respectiva.
Esse tipo de aprendizagem é comum em tarefas de classificação de padrões

Question 21

O que é aprendizagem hebbiana?

Answer 21

Trazendo a afirmação para o contexto das RNA, a regra poderia ser adaptada e reescrita em duas partes (Haykin, 2001, p. 80):
1. se dois neurônios em ambos os lados de uma sinapse são ativados simultaneamente, então a força daquela sinapse é seletivamente
aumentada; e
2. se dois neurônios em ambos os lados de uma sinapse são ativados assincronamente, então aquela sinapse é seletivamente enfraquecida ou
eliminada.

Question 22

O que é aprendizagem competitiva?

Answer 22

na aprendizagem competitiva, apenas um neurônio está ativo em um certo instante. Essa característica torna a aprendizagem competitiva
adequada para a descoberta de elementos capazes de melhorar a distinção entre
padrões em uma tarefa de classificação

Question 23

Quais são os 3 elementos fundamentais da aprendizagem competitiva?

Answer 23

• um conjunto de neurônios que são todos iguais entre si, mas tendo pesos sinápticos distribuídos aleatoriamente, e que respondem de maneira
  diferenciada a uma estimulação de entrada;
• uma restrição imposta à “força” de um neurônio; e
• um mecanismo que permita ao neurônio disputar pelo direito de responder
  a um subconjunto de entradas de forma que apenas um neurônio de saída
  esteja ativado.

Question 24

O que é aprendizagem de Boltzmann?

Answer 24

Numa máquina de Boltzmann, a arquitetura é de uma rede recorrente: os neurônios atuam de forma binária, representando um estado ligado (+1) ou desligado (−1). Existe uma função de energia cujo valor é determinado pelos
diversos estados particulares dos neurônios que constituem a máquina de Boltzmann

Question 25

Quais os tipos de neurônio na máquina de Boltzmann?

Answer 25

Em uma máquina de Boltzmann, podem-se encontrar dois tipos de neurônios: os visíveis e os ocultos. Os neurônios visíveis estão ligados às entradas da rede, ou seja, assumem os valores +1 e −1 conforme as entradas. Já os neurônios ocultos sempre operam de forma livre

Question 26

Quais as duas condições que uma máquina de Boltzmann podem assumir?

Answer 26

Com base nesta caracterização, a máquina de Boltzmann assume duas condições na operação: a. condição presa (clamped) – os neurônios visíveis estão todos presos a estados específicos que são fixados pelo ambiente; e b. condição de operação livre (free run) – todos os neurônios, visíveis e ocultos, podem operar livremente.

Question 27

O que é a associação?

Answer 27

A memória associativa pode ser utilizada em uma RNA de duas formas (Haykin, 2001, p. 91): a. por autoassociação, onde uma RNA deve armazenar um conjunto de padrões apresentados repetidamente a ela; e b. por heteroassociação, onde um conjunto de padrões deve ser associadoa outro conjunto de padrões.

Question 28

O que é reconhecimento de padrões?

Answer 28

O reconhecimento de padrões é a atividade na qual um determinado padrão apresentado como um sinal de entrada é categorizado, ou seja, é atribuído a uma classe ou categoria dentre um número finito de classes. O reconhecimento de padrão é feito com uma rede supervisionada, onde são apresentados um conjunto de exemplos que são pré-classificados, fazendo com que a RNA aprenda a classificar adequadamente este conjunto pré-classificado. Após a fase de treinamento da RNA, na fase de teste é apresentado um outro conjunto de padrões que não fizeram parte da fase de treinamento, para verificar a acurácia da rede em classificar estes novos dados

Question 29

O que é aproximação de função?

Answer 29

A aproximação de funções pode ser feita de duas formas (Haykin, 2001, p. 94), como se segue. 1. Identificação de sistema: o treinamento da RNA permite que se obtenha um modelo que emula um sistema desconhecido. À medida que as entradas são apresentadas, as saídas do modelo 𝑦𝑦𝑖𝑖 são confrontadas com as saídas do sistema desconhecido 𝑑𝑑𝑖𝑖 (através de diferença quadrática, evitando variações de sinal), de maneira a gerar o sinal de erro 𝑒𝑒𝑖𝑖. O sinal de erro é realimentado nos parâmetros livres do modelo (os pesos sinápticos) que faz o ajuste necessário em direção ao valor de erro mínimo. O sistema desconhecido deve ser sem memória, no sentido de que deve ser invariante no tempo (Figura 16). 2. Sistema inverso: da mesma forma, um sistema sem memória dado por 𝑓𝑓(. ) fornece as saídas d_i a partir das entradas x_i, que são utilizadas para modelar um sistema inverso 𝑓𝑓−1(. ), de forma que pode se obter o sinal de entrada 𝑥𝑥𝑖𝑖 a partir das saídas desejadas 𝑑𝑑𝑖𝑖: 𝑥𝑥 = 𝑓𝑓−1(𝑑𝑑)

Question 30

Como a RNA pode ser usada para controle?

Answer 30

Uma RNA pode ser utilizada também para o controle de uma planta, a qual representa um processo de fabricação que tem seus parâmetros mantidos em condição controlada (por exemplo, processos químicos em uma refinaria). A RNA é treinada de maneira que forneça as saídas na forma de ações que reajustam os parâmetros. Um sistema de controle envolve utilizar o sinal de saída 𝒚𝒚 para calcular a realimentação para a entrada do sistema (na forma de derivativas parciais 𝜕𝜕𝜕𝜕/𝜕𝜕𝜕𝜕), gerando-se um erro 𝒆𝒆 que reajusta os parâmetros do controlador. Desta forma, os dados 𝒖𝒖 são fornecidos novamente para a planta

Question 31

Como é a filtragem?

Answer 31

Uma RNA também pode ser utilizada para fazer a filtragem de sinais ruidosos. Na vida real, o uso de sensores pode introduzir ruído em algum sinal de entrada, o que pode induzir a interpretações errôneas do comportamento de um sistema. Outro problema é a transmissão deste sinal através de canais de informação que podem também ser ruidosos (Haykin, 2001, p. 97). Uma RNA pode ser utilizada então para três tipos de tarefas: 1. filtragem – extração de informação sobre um conjunto de sinais em um tempo discreto qualquer; 2. suavização – os dados medidos de um sinal são processados de forma a obter um componente de interesse dentro do sinal original, e que pode ser disponibilizado com atraso; e 29 3. previsão – o sinal medido é utilizado para predizer quais serão os próximos valores a serem fornecidos no sinal de entrada.

Question 32

O que é perceptron?

Answer 32

O perceptron consiste basicamente em somente um neurônio com pesos sinápticos que podem ser ajustados e também uma entrada de bias. Construído dessa forma, o perceptron está limitado a fazer uma classificação contendo apenas duas classes.

Question 33

O que é uma rede e função de base radial?

Answer 33

Uma rede de base radial (Radial Basis Function – RBF) difere de um perceptron multicamada por conter apenas três camadas: uma de entrada de dados, uma camada oculta de neurônios e uma camada de saída.Uma função de base radial tem a característica de possui um parâmetro identificado como o centro da função de base radial, a partir do qual os valores de entrada estão mais distantes ou mais próximos do valor do centro(ou seja, podem ter um raio maior ou menor).

Question 34

O que são máquinas de vetor de suporte?

Answer 34

Uma máquina de vetor de suporte (Support Vector Machine – SVM) se concentra no cálculo e obtenção de um hiperplano ótimo, que minimize da melhor forma a separação entre as classes dos padrões (Haykin, 2001, p. 350). Os vetores de suporte são os dados de treinamento utilizados no cálculo que se posicionam nos limites das classes e que servem de base para o traçado dos hiperplanos. O processo de treinamento é feito por meio de um processo de maximize a separação entre os padrões.

Question 35

O que são mapas auto-organizacionais?

Answer 35

Mapas auto-organizáveis (Self Organizing Maps – SOM) são RNA onde os neurônios estão dispostos em um reticulado (grade retangular ou hexagonal) que possui geralmente uma ou duas dimensões. Utilizando a aprendizagem competitiva, os neurônios são localizados dentro desse espaço uni ou bidimensional, de acordo com a proximidade dos padrões de entrada (Kohonen,1998). A aprendizagem é não supervisionada, e no caso das SOM é criado uma representação topográfica dos dados. Um mapa auto-organizável é, portanto, caracterizado pela formação de um papa topográfico dos padrões de entrada no qual as localizaçõesespaciais (i.e., coordenadas) dos neurônios na grade são indicativas das características estatísticas intrínsecas contidas nos padrões de entrada,daí o nome “mapa auto-organizável”. (Haykin, 2001, p. 483)

Answer 36

Diz-se que SOM perfaz um ordenamento topológico dos dados. O algoritmo responsável pela formação do SOM inicia com os pesos sinápticos aleatórios. Após, existem três processos essenciais para a formação do mapa topográfico (Haykin, 2001, p. 487), como se seguem. 1. Competição: para cada padrão de entrada, os neurônios calculam suas funções discriminantes (geralmente a função euclidiana ou outra função de distância). Aquele neurônio que possui o maior valor discriminante (ou o menor, fazendo referência a uma função distância) será considerado o neurônio vencedor. 2. Cooperação: o neurônio vencedor determina a região de vizinhança topológica, no qual os vizinhos são excitados, acontecendo a cooperação entre os neurônios vizinhos a um neurônio vencedor. A região de cooperação tende a ser grande no início do algoritmo de treinamento e vai decaindo ao longo das iterações. 3. Adaptação sináptica: permite que os pesos sinápticos relacionados com os neurônios excitados melhorem suas funções discriminantes (ou seja,são aproximados ao neurônio vencedor) em relação aos padrões de entrada, acontecendo de forma gradativa.