Aprendizado supervisionado e redes neurais a partir de dados

Um programa de aprendizado recebe exemplos do comportamento que deve aprender. No aprendizado supervisionado, cada exemplo associa uma entrada à sua saída correta, chamada de rótulo. A regra aprendida também deve funcionar em entradas ausentes durante o treinamento.

Identifique a tarefa e seus rótulos

Escreva um conjunto de treinamento como $({𝐱}_1,y_1),\dots ,({𝐱}_N,y_N)$. A entrada descreve um caso; o rótulo fornece a resposta para esse caso. Uma função-alvo desconhecida descreve a relação subjacente. Com rótulos sem ruído, $y=f(𝐱)$. O programa escolhe uma hipótese $h$ para aproximar essa relação.

Para um filtro de spam, um caso é um e-mail. Sua entrada pode descrever se ele contém “grátis”, quantos links tem e se seu remetente é um contato. Seu rótulo é spam ou mensagem legítima, isto é, um e-mail desejado. Um conjunto de treinamento pode conter 5.000 e-mails rotulados; o filtro concluído é avaliado em 1.000 e-mails rotulados diferentes.

A saída define a tarefa. “Choverá mais de 5 mm?” pede uma classe; “Quantos milímetros de chuva cairão?” pede um número. Uma saída inteira ainda pode ser uma classe: o dígito 7 nomeia uma categoria, não sete vezes o dígito 1.

O aprendizado supervisionado usa exemplos rotulados. O aprendizado não supervisionado busca estruturas sem rótulos, como grupos de clientes. O aprendizado por reforço usa recompensas que seguem as ações de um agente. Criar rótulos confiáveis pode exigir trabalho humano considerável.

Escolha uma família de regras possíveis

O espaço de hipóteses é a família na qual o programa pode buscar, como classificadores lineares que usam características especificadas. Parâmetros aprendidos, incluindo pesos ou probabilidades condicionais, selecionam um membro dessa família. Um alvo fora da família não pode ser representado exatamente, mesmo com dados ilimitados.

Um hiperparâmetro controla a configuração do aprendizado: exemplos incluem uma taxa de aprendizado ou o número de unidades ocultas. O treinamento ajusta parâmetros. Comparações em dados de validação ajudam a escolher hiperparâmetros. Famílias mais flexíveis capturam mais padrões, mas também oferecem mais maneiras de se ajustar ao ruído.

Avalie previsões em novos casos

O erro de treinamento mede o ajuste aos exemplos usados no aprendizado. Uma regra que memoriza todos os e-mails de treinamento pode ter erro de treinamento zero e ainda falhar em novas mensagens. Use um conjunto de validação para escolher o modelo e mantenha um conjunto de teste separado para a avaliação final.

Para um classificador, a taxa de erro é o número de previsões erradas dividido pelo número de exemplos testados. Três erros entre 40 e-mails resultam em

A relação com o desempenho futuro depende das condições de amostragem. Exemplos independentes e identicamente distribuídos, ou i.i.d., são extrações independentes da mesma distribuição. Se o spam futuro usar palavras muito diferentes, o conjunto de teste antigo deixará de representar esse fluxo futuro. Informe o resultado nos dados reservados para a população que eles de fato representam.

Modelos trabalham com uma descrição numérica de cada caso. A escolha e a ordem dessas características determinam o que um modelo pode perceber. Uma função de perda informa ao processo de aprendizado o custo de suas previsões.

Construa um vetor de características

Uma característica pode ser binária, uma contagem ou um número medido. “Contém grátis” se torna 0 ou 1, uma contagem de links pode ser 4 e a área de piso pode ser 85 m². Mantenha a mesma ordem de características no treinamento e na previsão. Uma imagem em tons de cinza de 28 por 28 pixels fornece $28\times 28=784$ características de pixels.

Para uma categoria sem ordem numérica, use a codificação com um único indicador ativo. Para vermelho, verde e azul, os vetores são $(1,0,0)$, $(0,1,0)$ e $(0,0,1)$. Os códigos 1, 2 e 3 imporiam uma ordem e um espaçamento artificiais a essas cores.

Combine características em uma pontuação

Um produto escalar multiplica pesos e características correspondentes e depois soma:

Para $𝐰=(2;-1;\mathrm{0,5})$ e $𝐱=(1,3,4)$, a pontuação é

Um peso positivo aumenta a pontuação quando sua característica aumenta; um peso negativo a diminui. A magnitude do peso descreve a sensibilidade por unidade da característica, portanto é preciso cuidado ao comparar magnitudes entre características com escalas diferentes.

O termo de viés desloca a pontuação independentemente das entradas variáveis. Inclua uma primeira característica constante $x_0=1$ e use $w_0$ como seu peso. Assim, $𝐱=(1,x_1,\dots ,x_n)$ inclui a característica de viés; ela não é uma propriedade medida adicional. O modelo pode então deslocar uma fronteira de decisão sem alterar os outros pesos.

Meça o custo de uma previsão

Uma função de perda compara uma previsão com seu rótulo. Diferentes perdas expressam diferentes custos:

Para uma temperatura real de 10 °C e uma previsão de 7 °C, a perda quadrática é 9 e a perda absoluta é 3. Um erro de 6 tem perda quadrática 36, quatro vezes a perda de um erro de 3. A perda média 0/1 é a taxa de erro de classificação.

A perda empírica é a perda média na amostra de treinamento. As previsões $(2,4,7)$ para os rótulos $(3,4,5)$ fornecem erros quadráticos 1, 0 e 4, portanto o erro quadrático médio é $5\mathrm{/}3\approx \mathrm{1,67}$. Some as perdas antes de dividir pelo número de exemplos.

A perda de generalização é a perda esperada em novos exemplos da mesma distribuição. Minimizar a perda empírica pode ajustar o modelo a detalhes acidentais da amostra. Características irrelevantes dão ao sistema mais oportunidades de fazer isso; características quase duplicadas também podem contar a mesma evidência duas vezes no Bayes ingênuo. A navalha de Ockham favorece uma hipótese mais simples quando as alternativas se ajustam aproximadamente bem, pois a flexibilidade extra precisa ser sustentada pelos dados.

O Bayes ingênuo combina a probabilidade inicial de uma classe com as evidências fornecidas por uma entrada. Sua hipótese simplificadora permite aprender um modelo probabilístico grande a partir de amostras relativamente pequenas.

Fatore as evidências por classe

O modelo supõe que as características são condicionalmente independentes dada a classe. Para uma variável de classe e várias características,

Uma rede bayesiana mostra a classe como nó pai de cada característica. A independência é condicional: as características podem estar fortemente relacionadas no conjunto geral porque ambas dependem da classe. Para 100 características binárias, uma tabela conjunta completa de características precisa de $2^{100}-1$ probabilidades livres por classe. O Bayes ingênuo precisa de apenas 100 probabilidades por classe, uma para o valor sim de cada característica.

A regra de Bayes fornece uma pontuação de classe

Escolha a classe com a maior pontuação. O denominador omitido, correspondente à evidência, é o mesmo para todas as classes. Uma pontuação ainda não é uma probabilidade a posteriori: para obtê-la, divida a pontuação pela soma das pontuações de todas as classes.

Resolva uma previsão com características binárias

Suponha que a probabilidade a priori de spam seja 0,4 e a de mensagem legítima seja 0,6. As probabilidades para “grátis” são 0,5 em spam e 0,05 em mensagens legítimas. Para “reunião”, elas são 0,1 e 0,4. O novo e-mail contém “grátis”, mas não contém “reunião”.

1. Para spam, a ausência de “reunião” contribui com $1-\mathrm{0,1}=\mathrm{0,9}$. A pontuação é $\mathrm{0,4}(\mathrm{0,5})(\mathrm{0,9})=\mathrm{0,18}$.
2. Para mensagem legítima, essa ausência contribui com $1-\mathrm{0,4}=\mathrm{0,6}$. A pontuação é $\mathrm{0,6}(\mathrm{0,05})(\mathrm{0,6})=\mathrm{0,018}$.
3. As pontuações somam 0,198, portanto a probabilidade a posteriori de spam é $\mathrm{0,18}\mathrm{/}\mathrm{0,198}\approx \mathrm{0,909}$.

Uma característica binária ausente fornece evidência. Se ambas as palavras aparecerem, as pontuações passam a ser 0,02 e 0,012, e a probabilidade a posteriori de spam cai para 0,625. “Reunião” inclina o resultado em favor de mensagem legítima, embora spam ainda vença.

Mantenha clara a direção do condicionamento. $P(\text{gr}\acute{\text{a}}\text{tis}\mid \text{spam})=\mathrm{0,5}$ descreve mensagens de spam. A probabilidade inversa, $P(\text{spam}\mid \text{gr}\acute{\text{a}}\text{tis})$, também precisa das probabilidades a priori das classes e da verossimilhança para mensagens legítimas; aqui ela é $\mathrm{0,2}\mathrm{/}(\mathrm{0,2}+\mathrm{0,03})\approx \mathrm{0,870}$.

Use pontuações logarítmicas sem mudar a classe vencedora

Produtos longos podem sofrer estouro por valor muito pequeno e resultar em zero na aritmética computacional. Duzentos fatores de 0,01 fornecem ${10}^{-400}$, menor que o menor número positivo de precisão dupla. Compare

em vez disso. Logaritmos preservam a ordem e transformam multiplicação em adição. Aqui $\ln \mathrm{0,18}\approx -\mathrm{1,715}$ vence $\ln \mathrm{0,018}\approx -\mathrm{4,017}$; entre pontuações negativas, a menos negativa é maior.

O Bayes ingênuo é generativo: ele modela a probabilidade a priori e como as características surgem em cada classe. A regressão logística é discriminativa: ela modela diretamente a probabilidade da classe a partir da entrada. O Bayes ingênuo com características binárias também tem uma fronteira linear no logaritmo da razão de chances. Características correlacionadas, como “Hong” e “Kong”, podem tornar sua probabilidade a posteriori extrema demais ao contar evidências sobrepostas. Uma previsão de classe pode estar correta mesmo quando a probabilidade atribuída é extrema demais.

O Bayes ingênuo aprende por contagem. As escolhas importantes são qual população deve entrar em um denominador e quanta proteção dar a um resultado que ainda não apareceu.

Estime probabilidades no grupo correto

A estimativa de máxima verossimilhança, ou MLE, torna os dados observados os mais prováveis. Para uma probabilidade a priori de classe, divida a contagem da classe pelo número total de exemplos. Para uma probabilidade condicional de característica, restrinja ambas as contagens à classe:

Considere 100 e-mails: 40 de spam e 60 legítimos. “Grátis” aparece em 20 mensagens de spam e 3 legítimas; “reunião” aparece em 4 mensagens de spam e 24 legítimas. Assim, a probabilidade a priori de spam é 0,4. As estimativas para “grátis” são $20\mathrm{/}40=\mathrm{0,5}$ para spam e $3\mathrm{/}60=\mathrm{0,05}$ para mensagens legítimas. As estimativas para “reunião” são $4\mathrm{/}40=\mathrm{0,1}$ e $24\mathrm{/}60=\mathrm{0,4}$. Dividir uma contagem de característica e classe por 100 estimaria uma probabilidade conjunta, não a probabilidade condicional solicitada.

Corrija contagens zero

Suponha que “prêmio” apareça em 8 mensagens de spam e em nenhuma mensagem legítima. Sua MLE para mensagens legítimas é zero. Qualquer nova mensagem que a contenha recebe pontuação zero para a classe legítima, independentemente do que indiquem suas outras características. Um resultado ausente em uma amostra finita passou a ser considerado impossível.

A suavização por adição de k atribui a cada valor possível de uma característica uma pseudocontagem de $k$:

Aqui, $\mathrm{\mid }F\mathrm{\mid }$ é o número de valores dessa característica. Para uma característica de sim/não, é 2, não o número de palavras modeladas. Com suavização por adição de um,

Ambos os resultados recebem uma pseudocontagem. Para mensagens legítimas, o valor ausente tem, portanto, probabilidade $61\mathrm{/}62$. As duas probabilidades somam 1. Adicionar apenas ao numerador prejudicaria essa normalização.

Escolha a intensidade da suavização

A intensidade $k$ é um hiperparâmetro. Em zero, ela fornece a MLE. À medida que aumenta, cada probabilidade se aproxima do valor uniforme $1\mathrm{/}\mathrm{\mid }F\mathrm{\mid }$ e a evidência específica de cada classe enfraquece. A suavização troca parte do ajuste às contagens observadas por previsões mais estáveis em novos casos.

Compare configurações como 0,1; 0,5; 1; 2 e 5 nos dados de validação. Mantenha o conjunto de teste separado para a avaliação final. Uma configuração grande pode causar subajuste; uma configuração muito pequena pode deixar características raras com estimativas instáveis.

A mesma pseudocontagem tem menos efeito quando as contagens reais aumentam. Entre 6.000 e-mails legítimos, dos quais 300 contêm “grátis”, a MLE é 0,05 e o valor com adição de um é $301\mathrm{/}6002\approx \mathrm{0,0502}$. Com muitas observações, os dados predominam sobre as pseudocontagens. As probabilidades a priori das classes costumam ficar sem suavização quando todas as classes estão bem representadas. Uma única passagem pelos exemplos rotulados pode coletar as contagens, o que torna esse método de treinamento rápido.

Um saco de palavras transforma texto em contagens de palavras. Ele fornece a um classificador simples evidências sobre o vocabulário, descartando a ordem em que as palavras aparecem.

Conte ocorrências de palavras, não apenas documentos

“O gato viu o cachorro” e “o cachorro viu o gato” têm o mesmo saco: “o” duas vezes e cada outra palavra uma vez. Uma ocorrência de palavra (token) é uma ocorrência; o vocabulário é o conjunto de palavras distintas representadas pelo modelo.

No classificador de Bayes ingênuo multinomial, cada posição de palavra é uma extração independente de uma distribuição de palavras específica da classe. Uma palavra que aparece três vezes contribui com três fatores:

A pontuação logarítmica correspondente é $\log P(y)+{\sum }_w{n}_w\log P(w\mid y)$. A probabilidade a priori aparece uma vez por documento. A contagem da palavra multiplica sua probabilidade logarítmica.

Estime as probabilidades das palavras a partir de contagens de ocorrências dentro de uma classe. Com suavização,

em que $N_y$ conta todas as ocorrências de treinamento nessa classe e $\mathrm{\mid }V\mathrm{\mid }$ conta as palavras do vocabulário. Suponha que o spam contenha 200 ocorrências, incluindo “dinheiro” 9 vezes, e que o vocabulário contenha 1.000 palavras. A MLE fornece $9\mathrm{/}200=\mathrm{0,045}$. A adição de um fornece $10\mathrm{/}1200\approx \mathrm{0,0083}$, enquanto $k=\mathrm{0,1}$ fornece $\mathrm{9,1}\mathrm{/}300\approx \mathrm{0,0303}$. Um vocabulário grande torna significativa até mesmo uma pseudocontagem por palavra.

Classifique um documento curto

Esportes e política têm, cada uma, probabilidade a priori de 0,5. As probabilidades das palavras são:

Para “gol gol voto partida”, a pontuação de esportes é

A pontuação de política é $\mathrm{0,5}(\mathrm{0,005}{)}^2(\mathrm{0,04})(\mathrm{0,006})=3\times {10}^{-9}$. Esportes vence por um fator de 50, e sua probabilidade a posteriori normalizada é $50\mathrm{/}51\approx \mathrm{0,98}$. Omitir o segundo “gol” descartaria parte da evidência. Na prática, use as pontuações logarítmicas, cerca de −15,71 e −19,62, para evitar produtos muito pequenos.

Diferencie os modelos de texto

Um modelo de texto de Bernoulli usa uma característica de sim/não por palavra e inclui o fator de cada palavra ausente. O modelo multinomial usa contagens de ocorrências e não tem fatores separados para palavras ausentes. Seus denominadores contam ocorrências, não documentos. Misturar essas escolhas não produz corretamente nenhum dos dois modelos.

Uma palavra do vocabulário não observada em uma classe precisa de suavização. Uma palavra fora do vocabulário não tem probabilidade modelada e costuma ser ignorada. Como alternativa, o treinamento pode reservar uma ocorrência para palavras desconhecidas com sua própria probabilidade específica de classe.

O saco ignora o contexto: “bom” fornece a mesma evidência em “não é bom” e “muito bom”. Adicionar bigramas, ou pares de palavras, pode representar uma expressão como “não é”. Palavras quase duplicadas ou vizinhas ainda podem produzir probabilidades com confiança excessiva. O modelo continua útil como referência rápida para tópicos, spam, sentimentos ou identificação de idiomas.

Um classificador linear toma uma decisão a partir de uma soma ponderada. A geometria mostra quais padrões essa soma pode separar e por que algumas tarefas exigem novas características.

Interprete a pontuação e a fronteira

Inclua primeiro a característica de viés constante: $𝐱=(1,x_1,\dots ,x_n)$. Calcule $z=𝐰\cdot 𝐱$ e preveja $+1$ para $z\ge 0$ ou $-1$ para $z<0$. Uma pontuação zero pertence à classe positiva segundo essa convenção.

Com pelo menos um peso de característica diferente de zero, a fronteira de decisão é $𝐰\cdot 𝐱=0$. Para duas características variáveis, ela é uma reta; para três, um plano; em geral, é um hiperplano. O vetor de pesos sem o viés é perpendicular a essa fronteira e aponta para o lado positivo.

Para $𝐰=(-3,1,1)$, a pontuação é $-3+x_1+x_2$ e a fronteira é $x_1+x_2=3$. O ponto $(2,2)$ recebe pontuação 1, $(1,1)$ recebe −1 e $(3,0)$ recebe zero. As previsões são positiva, negativa e positiva.

A distância geométrica é a magnitude da pontuação dividida pelo comprimento do vetor de pesos sem o viés:

Para $(2,2)$, ela é $1\mathrm{/}\sqrt{2}\approx \mathrm{0,71}$. Multiplicar cada peso por uma constante positiva altera a pontuação, mas mantém tanto a distância quanto a classe prevista. Omitir o viés restringe as fronteiras a passar pela origem.

Decida se uma reta é suficiente

Os dados são linearmente separáveis quando um vetor de pesos classifica todos os pontos corretamente. Para a função E, use $𝐰=(-\mathrm{1,5};1;1)$. Apenas $(1,1)$ tem pontuação positiva; as outras três entradas binárias têm pontuações negativas.

O XOR rotula $(1,0)$ e $(0,1)$ como positivos, mas $(0,0)$ e $(1,1)$ como negativos. Nenhuma reta pode separar esses pares diagonalmente opostos. Para entender por quê, a origem negativa exige $w_0<0$. Os dois pontos positivos exigem $w_1+w_2\ge -2w_0$, enquanto o ponto negativo $(1,1)$ exige $w_1+w_2<-w_0$. Juntas, essas condições exigem $w_0>0$, uma contradição.

A representação por características pode alterar a separabilidade. Adicione a característica $x_1{x}_2$ e use os pesos $(-\mathrm{0,5};1;1;-2)$. As quatro entradas do XOR recebem então pontuações −0,5; 0,5; 0,5 e −0,5, na ordem $(0,0),(1,0),(0,1),(1,1)$. A regra é linear no vetor de características expandido, embora seja não linear nas entradas originais. Uma camada oculta pode aprender características transformadas úteis.

Estenda a pontuação a várias classes

Mantenha um vetor por classe e escolha o maior produto escalar. Para $𝐱=(1,2)$, os vetores ${𝐰}_A=(1,1)$, ${𝐰}_B=(2,0)$ e ${𝐰}_C=(0,1)$ fornecem pontuações 3, 2 e 2. A classe A vence. Essas são pontuações comparativas, não probabilidades; elas não precisam estar entre zero e um nem somar um.

O perceptron aprende uma regra de decisão linear corrigindo os erros à medida que ocorrem. Ele altera os pesos diretamente, sem ajustar probabilidades ou derivar uma função de perda suave.

Atualize um exemplo por vez

Use rótulos $y\in \{-1,+1\}$, inclua a característica de viés e comece com pesos zero. Uma pontuação zero prevê $+1$. Para cada exemplo, faça uma previsão usando os pesos atuais. Mantenha-os inalterados se estiver correta; caso contrário, aplique

Um exemplo positivo adiciona seu vetor de características. Um exemplo negativo o subtrai. A pontuação desse exemplo muda em $y\mathrm{\parallel }𝐱{\mathrm{\parallel }}^2$, portanto se move em direção ao sinal correto. A característica de viés torna o comprimento ao quadrado positivo. Uma atualização ainda pode deixar o exemplo errado e prejudicar previsões anteriores.

Uma época é uma passagem completa pelo conjunto de treinamento. Pare após uma época inteira sem erros ou ao atingir um limite escolhido de passagens.

Acompanhe duas passagens

Considere os exemplos nesta ordem, com a coordenada de viés já incluída:

1. A recebe pontuação zero e é classificado incorretamente como positivo. Subtraia A para obter $(-1,-1,-3)$.
2. B agora recebe pontuação $-1-3-3=-7$. Some B para obter $(0,2,-2)$.
3. C recebe −2 e D recebe 4. Ambos estão corretos, portanto não há atualização.
4. Na passagem seguinte, A, B, C e D recebem −4, 4, −2 e 4. Não restam erros, portanto pare.

A fronteira aprendida é $x_1=x_2$. As previsões devem usar os pesos após todas as atualizações anteriores, não os pesos do início da época.

Entenda a convergência e seus limites

O teorema de convergência do perceptron garante um número finito de erros para dados de treinamento linearmente separáveis. Se as entradas ampliadas têm comprimento máximo $R$ e um separador de comprimento unitário alcança margem com sinal positivo $\gamma$, o limite de erros é $(R\mathrm{/}\gamma {)}^2$. A garantia encontra um separador; ela não seleciona a maior margem nem o melhor desempenho no teste.

Dados não separáveis, incluindo o XOR em suas características originais ou rótulos conflitantes, nunca permitem uma passagem sem erros. Defina um limite de treinamento e use o desempenho de validação para escolher os pesos. Um perceptron com média de pesos prevê usando a média dos pesos ao longo dos passos de treinamento. Uma taxa de aprendizado positiva e fixa apenas multiplica todos os pesos por um fator quando se começa de zero, portanto mantém inalterada a sequência de previsões binárias; uma taxa variável pode alterar esse comportamento.

Corrija uma previsão multiclasse

Em um erro multiclasse, adicione a entrada ao vetor da classe verdadeira e subtraia-a do vetor da classe prevista. Mantenha os demais inalterados. Para a entrada $(1,2)$, classe verdadeira B e classe prevista A, os vetores $(1,1)$ e $(2,0)$ tornam-se $(0,-1)$ e $(3,2)$. Suas novas pontuações são −2 e 7. A pontuação inalterada de C é 2, portanto B agora vence. Como o perceptron binário, esse modelo retorna uma classe, não uma probabilidade.

A regressão logística transforma uma pontuação linear em uma probabilidade para uma classe binária. Sua saída suave fornece um sinal de treinamento graduado mesmo quando uma classificação definida já está correta.

Transforme uma pontuação em probabilidade

Para rótulos 0 e 1, calcule $z=𝐰\cdot 𝐱$ e

A sigmoide cresce de valores próximos de zero até valores próximos de um. Ela fornece $\sigma (0)=\mathrm{0,5}$, $\sigma (1)\approx \mathrm{0,731}$, $\sigma (2)\approx \mathrm{0,881}$ e $\sigma (-2)\approx \mathrm{0,119}$. Prever a classe 1 quando $p\ge \mathrm{0,5}$ equivale a usar $z\ge 0$, portanto essa fronteira de decisão continua linear.

A pontuação é igual ao logaritmo da razão de chances:

Com pesos $(-4;\mathrm{0,8})$ e entrada $(1,\text{horas estudadas})$, cinco horas fornecem pontuação zero e probabilidade 0,5. Com 7,5 horas, a pontuação é 2 e a probabilidade é cerca de 0,881. Cada hora adicional acrescenta 0,8 ao logaritmo da razão de chances e multiplica a razão de chances por $e^{\mathrm{0,8}}\approx \mathrm{2,23}$. Ela não adiciona 0,8 à probabilidade. Uma probabilidade prevista de 0,7 se refere à classe desse exemplo; ela não informa que a acurácia do modelo é 70%.

Treine com perda logarítmica

Para um exemplo, a perda logarítmica binária é

Apenas o termo do rótulo observado permanece. Se $y=1$, use $-\ln p$; se $y=0$, use $-\ln (1-p)$. Em $p=\mathrm{0,9}$, essas perdas são cerca de 0,105 e 2,303. Uma previsão errada com alta confiança custa muito mais que uma previsão incerta; $p=\mathrm{0,5}$ fornece perda de cerca de 0,693 para qualquer um dos rótulos.

A máxima verossimilhança escolhe pesos que atribuem alta probabilidade conjunta aos rótulos observados. Aplicar um logaritmo negativo transforma o produto de suas probabilidades na soma das perdas logarítmicas. A descida do gradiente ajusta os pesos porque não há solução geral em forma fechada.

A perda logarítmica logística é convexa nos pesos, portanto todo mínimo local é global. A perda 0/1 é constante quase em toda parte e não fornece um gradiente útil; a perda quadrática após a sigmoide perde essa convexidade. Em dados de treinamento separáveis, a perda logarítmica sem regularização pode diminuir enquanto os pesos crescem sem limite, portanto não existe uma solução finita de máxima verossimilhança. Uma penalidade nos pesos controla esse crescimento.

Use softmax para mais classes

Atribua uma pontuação a cada classe e normalize as exponenciais:

As pontuações $(2,1,0)$ produzem probabilidades de aproximadamente $(\mathrm{0,665};\mathrm{0,245};\mathrm{0,090})$. Adicionar uma constante a todas as pontuações não altera as probabilidades nem a classe vencedora porque o fator exponencial comum se cancela. Com duas classes, a softmax é uma sigmoide da diferença entre as pontuações.

A regressão logística modela $P(y\mid 𝐱)$ diretamente e ajusta os pesos em conjunto. Ela não supõe independência das características. O Bayes ingênuo estima uma probabilidade a priori e distribuições de características por contagem; ele pode ser especialmente eficaz com poucos dados, mas evidências correlacionadas podem tornar suas probabilidades extremas demais.

Treinar geralmente significa encontrar pesos que tornem uma perda pequena. A descida do gradiente usa a inclinação local dessa perda para escolher os próximos pesos, repetindo o processo até que uma regra de parada seja satisfeita.

Encontre a direção de descida

Uma derivada parcial mede como a perda varia quando um parâmetro muda e os outros permanecem fixos. O gradiente reúne todas essas derivadas. Para

Em $(2,1)$, o gradiente é $(4,6)$. Ele aponta na direção de crescimento local mais acentuado segundo a distância euclidiana; seu negativo aponta na direção de descida. Um mínimo de função suave tem gradiente zero, mas um gradiente zero também pode ocorrer em um ponto de sela ou máximo.

Com taxa de aprendizado positiva $\alpha$, atualize

Calcule o gradiente inteiro antes de alterar qualquer peso. Partindo de $(2,1)$ com $\alpha =\mathrm{0,1}$, o próximo ponto é $(\mathrm{1,6};\mathrm{0,4})$, depois $(\mathrm{1,28};\mathrm{0,16})$. A perda cai de 7 para 3,04 e depois para cerca de 1,72. A segunda coordenada muda mais rápido porque sua curvatura é maior.

Veja como o tamanho do passo controla a convergência

Para $L(w)=(w-3{)}^2$, a derivada é $2(w-3)$. Partindo de zero com taxa 0,1:

1. O primeiro gradiente é −6, portanto o próximo peso é 0,6.
2. Em 0,6, o gradiente é −4,8, portanto o próximo peso é 1,08.
3. Os valores seguintes são 1,464; 1,7712 e cerca de 2,017.

Cada passo multiplica a distância até 3 por $1-2\alpha =\mathrm{0,8}$. Para essa função de perda, a convergência a partir de um ponto inicial que não é ótimo exige $0<\alpha <1$. A taxa 1 oscila entre 0 e 6; a taxa 1,1 produz 6,6; −1,32 e 8,184, afastando-se cada vez mais. Uma taxa menor pode ser estável, mas lenta. A mesma taxa não é adequada para toda função de perda ou escala de características.

Derive uma perda de previsão

Para um preditor linear $h=w_0+w_{1}x$ e um exemplo com perda quadrática $(y-h{)}^2$,

Use $x=2$, $y=5$ e pesos $(0,1)$. A previsão é 2, portanto o gradiente é $(-6,-12)$. Uma taxa de 0,05 fornece novos pesos $(\mathrm{0,3};\mathrm{1,6})$. A próxima previsão é 3,5 e a perda cai de 9 para 2,25. A derivada do viés tem fator de entrada 1, enquanto a derivada da inclinação inclui a entrada medida.

Interprete a superfície de perda

Uma função de perda convexa não tem mínimos locais inferiores ao global: todo mínimo local é global. A perda quadrática linear e a perda logarítmica logística são convexas. As perdas de redes neurais geralmente não são convexas, com pontos de sela e regiões planas, além de mínimos. A inicialização pode afetar o resultado final.

As escalas das características também afetam a otimização. Áreas de até 200 m² e contagens de cômodos de até 6 podem alongar a superfície de perda em um vale estreito. A padronização subtrai a média de treinamento de cada característica e divide pelo seu desvio padrão de treinamento. Coordenadas em escalas mais adequadas reduzem o zigue-zague. Pare usando um limite escolhido de passos, gradientes pequenos ou ausência de melhora.

Calcular um gradiente sobre todos os exemplos pode ser custoso. Atualizações estocásticas e em minilotes trocam uma direção perfeitamente calculada pela média por passos mais frequentes e baratos.

Escolha quantos dados usar em uma atualização

Uma época visita o conjunto de treinamento inteiro uma vez. Com 10.000 exemplos e lotes de 100, uma época tem 100 passos de atualização. Embaralhe os exemplos entre épocas para que os mesmos grupos não se repitam na mesma ordem.

Um gradiente de um único exemplo escolhido uniformemente tem valor esperado igual ao gradiente completo de treinamento. Mesmo assim, passos individuais podem aumentar a perda total. Traçar a perda ao longo das épocas fornece uma tendência mais clara do que avaliar uma única atualização. O ruído pode ajudar o movimento ao redor de pontos de sela e mínimos pouco profundos, mas uma taxa de aprendizado fixa e grande também mantém os pesos oscilando perto de uma solução. Um cronograma da taxa de aprendizado decrescente ajuda a estabilizá-los.

Deduza a atualização logística

Considere $p=\sigma (z)$, $z=𝐰\cdot 𝐱$ e use a perda logarítmica binária. Sua derivada em relação à probabilidade é

Multiplicar pela derivada da sigmoide $p(1-p)$ resulta em $\mathrm{\partial }L\mathrm{/}\mathrm{\partial }z=p-y$. Como $\mathrm{\partial }z\mathrm{/}\mathrm{\partial }{w}_i=x_i$, o gradiente completo é

Subtraí-lo fornece a atualização equivalente $𝐰\leftarrow 𝐰+\alpha (y-p)𝐱$. Para um lote, calcule a média desses vetores usando os mesmos pesos atuais antes de fazer uma atualização. Somar em vez de calcular a média multiplica a taxa de aprendizado efetiva pelo tamanho do lote.

Resolva um passo estocástico

Comece com $𝐰=(0,0,0)$, entrada $𝐱=(1,2,1)$, valor-alvo 1 e taxa 0,5. A pontuação é zero, portanto $p=\mathrm{0,5}$. Então

A nova pontuação é $\mathrm{0,25}+\mathrm{0,5}(2)+\mathrm{0,25}=\mathrm{1,5}$ e a nova probabilidade é cerca de 0,818. A perda logarítmica desse exemplo cai de cerca de 0,693 para 0,201. Essa melhora se refere a esse exemplo; um passo estocástico não precisa melhorar todos os casos de treinamento.

O perceptron também usa uma correção relacionada ao rótulo multiplicada pela entrada, mas usa valores-alvo ±1 e altera os pesos apenas quando erra. A regressão logística usa valores-alvo 0/1 e um erro de probabilidade suave. Com pesos finitos, ela pode continuar atualizando depois que a classe prevista está correta.

Reconheça variantes comuns de otimizadores

O momento mantém uma média móvel das direções dos gradientes, ajudando o movimento em direções consistentes e reduzindo oscilações. O Adam combina isso com tamanhos de passo adaptativos por parâmetro. Ambos ainda precisam de uma taxa de aprendizado adequada. Compare configurações com resultados de validação e registre a perda de validação junto com a perda de treinamento para decidir quando continuar treinando deixa de ajudar.

Uma rede neural conecta muitas unidades simples. Camadas ocultas transformam entradas em características aprendidas; ativações não lineares permitem que essas características representem padrões que um único classificador linear não captura.

Calcule unidades e conte parâmetros

Uma unidade calcula $z={\sum }_i{w}_i{a}_i+b$ e depois retorna $a=g(z)$. Aqui, as ativações recebidas são suas entradas, e o viés é mostrado separadamente. Isso equivale a incluir uma característica de viés constante.

Uma rede neural de propagação direta não tem ciclos direcionados: a informação passa da entrada pelas camadas ocultas até a saída. Em uma camada totalmente conectada, cada unidade recebe todas as saídas da camada anterior. Uma camada com $m$ entradas e $n$ unidades tem $mn$ pesos e $n$ vieses. Três entradas, quatro unidades ocultas e duas unidades de saída fornecem, portanto,

parâmetros treináveis. Conte um viés por unidade receptora, não um por conexão. Redes com muitas camadas ocultas são chamadas de profundas.

Acompanhe uma rede que calcula XOR

Use duas unidades ocultas ReLU e uma saída linear:

Para $(0,0)$, os valores ocultos são $(0,0)$, portanto a saída é 0. Para $(0,1)$ ou $(1,0)$, eles são $(1,0)$, fornecendo 1. Para $(1,1)$, eles são $(2,1)$, fornecendo $2-2=0$. A representação oculta permite que a saída diferencie as classes do XOR.

Sem ativações não lineares, empilhar camadas ainda produziria uma única transformação afim. Ignorando os vieses para simplificar, $W_2(W_1𝐱)=(W_2{W}_1)𝐱$. A profundidade por si só não acrescentaria poder expressivo não linear. As mudanças de inclinação introduzidas pelas ativações alteram o que a rede pode representar.

Adapte as saídas aos valores-alvo

Para um valor-alvo numérico de regressão, uma saída linear e perda quadrática são uma escolha padrão. Para rótulos binários, use uma saída sigmoide e perda logarítmica binária. Para uma entre várias classes, use saídas softmax e entropia cruzada $-\ln p_{\text{correta}}$. As probabilidades $(\mathrm{0,665};\mathrm{0,245};\mathrm{0,090})$ com a segunda classe correta fornecem perda de cerca de 1,41. A perda usa a probabilidade atribuída à classe verdadeira, mesmo quando outra classe vence.

O teorema da aproximação universal afirma que uma camada oculta suficientemente larga com uma ativação não linear adequada pode aproximar qualquer função contínua em uma região de entrada fechada e limitada com precisão arbitrária. É um resultado de existência, não uma garantia de que o treinamento encontre os pesos ou de que uma rede pequena seja suficiente. A profundidade pode representar algumas funções com muito mais eficiência.

Representações ocultas podem avançar de bordas e texturas de imagem até partes de objetos. As arquiteturas também incorporam estrutura útil: redes convolucionais compartilham pequenos conjuntos de pesos entre posições da imagem, enquanto redes recorrentes compartilham pesos entre passos da sequência.

A retropropagação do erro calcula como cada parâmetro afeta a perda. Uma passagem para frente armazena os valores necessários à regra da cadeia; uma passagem para trás os reutiliza para evitar repetir os mesmos cálculos de derivadas.

Percorra um grafo computacional

Um grafo computacional separa somas, produtos e ativações em operações. Ao longo de um caminho por um valor intermediário,

Quando um parâmetro afeta a perda por vários caminhos, some suas contribuições. Para a unidade $j$, escreva ${\delta }_j=\mathrm{\partial }L\mathrm{/}\mathrm{\partial }{z}_j$. Seu sinal na passagem para trás é

A soma inclui as unidades que recebem sua saída. Um peso que vai da ativação $a_i$ para a unidade $j$ tem gradiente $a_i{\delta }_j$. O gradiente do viés é simplesmente ${\delta }_j$ porque sua entrada é 1.

Resolva uma passagem para frente e para trás

Considere $x=2$, $h=\mathrm{ReLU}(w_{1}x)$, $\widehat{y}=w_{2}h$ e $L=(\widehat{y}-y{)}^2$. Comece com $w_1=\mathrm{0,5}$, $w_2=3$ e valor-alvo $y=1$.

1. Para frente: a soma oculta é 1, a saída oculta é 1, a previsão é 3 e a perda é 4.
2. Na saída, $\mathrm{\partial }L\mathrm{/}\mathrm{\partial }\widehat{y}=2(3-1)=4$. Assim, $\mathrm{\partial }L\mathrm{/}\mathrm{\partial }{w}_2=4h=4$.
3. Voltando pelo peso de saída, obtemos $\mathrm{\partial }L\mathrm{/}\mathrm{\partial }h=4(3)=12$. A soma oculta é positiva, portanto a derivada da ReLU é 1.
4. O gradiente do primeiro peso é, portanto, $12(1)(2)=24$.

Com taxa 0,01, atualize ambos os pesos a partir desses gradientes armazenados:

Uma nova passagem para frente fornece saída oculta 0,52, previsão 1,5392 e perda de cerca de 0,291. Usar 2,96 durante a passagem para trás anterior misturaria dois estados dos parâmetros e produziria o gradiente errado.

Verifique derivadas e reconheça sinais fracos

Uma verificação numérica aproxima uma derivada por

Com $\epsilon =\mathrm{0,001}$, a derivada do primeiro peso acima é 24. Isso exige duas passagens para frente por peso, portanto é útil para verificação, não para treinamento em larga escala. A retropropagação calcula todos os gradientes a um custo da mesma ordem que uma passagem para frente. Bibliotecas implementam isso como diferenciação automática em modo reverso.

A sigmoide tem derivada $\sigma (z)(1-\sigma (z))\le \mathrm{0,25}$; a tanh tem derivada $1-{\tanh }^{2}z$. A derivada da ReLU é 1 acima de zero e 0 abaixo; em zero, costuma-se atribuir derivada 0. Uma unidade ReLU cuja pré-ativação é negativa para toda entrada está morta e não recebe gradiente útil por sua ativação. A entropia cruzada com softmax tem gradiente de pontuação $𝐩-𝐲$ para valores-alvo codificados com um único indicador ativo.

Fatores de derivada pequenos e repetidos causam desvanecimento dos gradientes. Uma cadeia de 10 unidades sigmoides com pesos de conexão 1 tem derivada de no máximo ${\mathrm{0,25}}^{10}\approx \mathrm{9,5}\times {10}^{-7}$. Grafos mais largos também dependem dos pesos e das somas dos caminhos. ReLU, inicialização adequada e conexões residuais reduzem esse problema. Sinais grandes na passagem para trás podem, por outro lado, explodir; o recorte do gradiente limita seu tamanho.

O treinamento de redes precisa de mais que uma derivada correta. Pesos iniciais, escalas das entradas, configurações de atualização e resultados em dados reservados afetam o aprendizado de características úteis.

Quebre a simetria e ajuste a escala dos sinais

Inicialize os pesos aleatoriamente para que as unidades ocultas comecem diferentes. Se as unidades de uma camada têm pesos idênticos e as mesmas conexões de saída, elas calculam os mesmos valores, recebem as mesmas atualizações e permanecem cópias. Pesos de rede todos iguais a zero criam essa simetria. Os vieses podem começar em zero porque os pesos aleatórios das conexões já diferenciam as unidades.

A escala aleatória importa. A inicialização de Glorot, ou Xavier, é adequada para unidades tanh e sigmoides; a inicialização de He leva em conta ativações ReLU. Esses métodos buscam evitar que os tamanhos dos sinais diminuam ou aumentem demais entre camadas.

Normalize também as entradas. Dividir valores de pixels por 255 os coloca entre zero e um. A padronização subtrai a média de treinamento de uma característica e divide pelo seu desvio padrão de treinamento. Aplique a mesma transformação ajustada às entradas posteriores. Somas iniciais moderadas ajudam as unidades sigmoides e tanh a evitar regiões saturadas com derivadas muito pequenas; escalas comparáveis das características também melhoram a otimização.

Execute o laço de treinamento

1. Inicialize os pesos e escolha o otimizador e as configurações.
2. No início de cada época, embaralhe os exemplos de treinamento.
3. Para cada minilote, execute uma passagem para frente e calcule a perda média.
4. Execute a retropropagação e depois atualize todos os parâmetros usando os gradientes desse lote.
5. Ao final da época, registre os resultados de treinamento e validação.

Para 784 entradas de pixels, 128 unidades ocultas ReLU e 10 saídas softmax, a contagem de parâmetros é

Com 60.000 imagens e tamanho de lote 64, há 937 lotes completos e um lote final de 32 imagens: 938 atualizações por época. O último lote, menor, ainda usa seu próprio gradiente médio.

Interprete as curvas de treinamento

Esses padrões orientam o diagnóstico; várias causas podem compartilhar um sintoma. Para uma rede sigmoide que aprende lentamente, examine a escala das entradas e a saturação das ativações junto com a taxa de aprendizado. Uma acurácia de treinamento alta mostra apenas ajuste aos exemplos de treinamento. Uma rede grande pode até memorizar rótulos aleatórios.

Os principais hiperparâmetros incluem taxa de aprendizado, tamanho do lote, número de épocas, largura, profundidade, ativação e otimizador. Compare-os nos dados de validação. Guarde o conjunto de teste para avaliar a configuração selecionada. Aumentar a largura altera a contagem de parâmetros e a capacidade; aumentar as épocas dá aos mesmos parâmetros mais passos de atualização.

A função de perda da rede não é convexa. Diferentes inicializações aleatórias podem chegar a pesos e acurácias diferentes. Em redes grandes, pontos de sela e regiões planas muitas vezes atrasam o progresso mais do que mínimos locais ruins. O momento e o Adam ajudam a otimizar essas superfícies, mas o desempenho em dados reservados ainda determina se o padrão ajustado é útil.

Um modelo pode se ajustar bem à sua amostra de treinamento sem aprender um padrão confiável. Compare os resultados de treinamento e de dados reservados para entender se o modelo é restrito demais, flexível demais ou se está diante de dados diferentes.

Compare dois tipos de erro

Generalização é o desempenho em novos exemplos da mesma distribuição. O subajuste ocorre quando o modelo é restrito demais para capturar o padrão. O sobreajuste ocorre quando ele se ajusta tão bem ao ruído específico da amostra que as novas previsões são prejudicadas.

Escolha C com base nesses resultados de validação. A pontuação de treinamento mais alta de A não é uma vantagem nos casos reservados. A pequena diferença de B não basta para torná-lo bom: ambas as pontuações são baixas em relação ao que a tarefa permite. Dificuldade, ruído e desempenho alcançável importam ao interpretar uma pequena diferença.

Relacione capacidade e ruído

Capacidade descreve a flexibilidade da família de hipóteses. Dez pontos com ruído podem estar próximos de uma tendência reta. Uma reta usa dois coeficientes e passa ligeiramente distante dos pontos. Um polinômio de grau 9 usa dez coeficientes e pode interpolar todos os dez pontos de entrada distintos, atingindo erro de treinamento zero. Entre eles e além deles, esse polinômio pode oscilar acentuadamente e fazer previsões ruins.

À medida que a capacidade aumenta, o erro de treinamento geralmente diminui. O erro nos dados reservados muitas vezes diminui no início, à medida que a estrutura real se torna representável, e depois aumenta quando o modelo se ajusta ao ruído. Compare capacidades candidatas usando resultados em dados reservados. Esse padrão conhecido orienta a escolha do modelo, mas não garante que toda curva possível de tamanho de rede tenha exatamente essa forma.

Viés alto significa erro sistemático decorrente de uma família restritiva. Variância alta significa que a regra aprendida muda substancialmente entre amostras de treinamento do mesmo tamanho. O subajuste costuma envolver viés alto; o sobreajuste costuma envolver variância alta.

Diferencie mais dados de dados diferentes

Para uma capacidade fixa, mais exemplos representativos geralmente reduzem o sobreajuste. Um polinômio de grau 9 geralmente não consegue interpolar exatamente 1.000 pontos com ruído, portanto seu ajuste precisa chegar a um compromisso. Redes grandes ainda podem memorizar amostras grandes, incluindo rótulos aleatórios. Mais dados reduzem o risco sem eliminar a necessidade de verificações em dados reservados. Rótulos errados ou com ruído acrescentam padrões acidentais aos quais o sistema pode se ajustar.

A mudança de distribuição é um problema diferente. Um classificador treinado e testado em fotos diurnas pode falhar em fotos noturnas mesmo quando sua generalização diurna é boa. Essas novas entradas vêm de uma distribuição diferente. Mais regularização, por si só, não fornece as condições noturnas ausentes.

Preserve o significado do teste final

Treine os candidatos no conjunto de treinamento e compare suas configurações ou capacidades nos dados de validação. Depois de escolher um candidato, avalie-o no conjunto de teste intocado. Usar pontuações de teste para alterar a arquitetura ou escolher uma época transforma esse conjunto em outra fonte de seleção do modelo, tornando otimista o desempenho informado. O sobreajuste pode afetar polinômios, Bayes ingênuo, perceptrons e redes; é uma relação entre aprendizado e dados, não uma propriedade exclusiva de um algoritmo.

A regularização altera o aprendizado para melhorar as previsões em novos dados. Ela pode restringir pesos, limitar a duração do treinamento, interromper a dependência de unidades específicas ou fornecer mais exemplos válidos.

Penalize pesos grandes

Uma função objetivo regularizada combina a perda nos dados e uma penalidade de complexidade:

Para L2, use $C={\sum }_i{w}_i^2$, geralmente excluindo o viés. Os pesos $(3,-4)$ e $\lambda =\mathrm{0,1}$ fornecem penalidade $\mathrm{0,1}(9+16)=\mathrm{2,5}$. A derivada adicional é $2\lambda w_i$. Na descida do gradiente comum,

Com taxa 0,1 e intensidade 0,1, o fator de redução é 0,98; um peso de 5 contribui com 4,9 antes do passo da perda nos dados. Essa é a interpretação como decaimento dos pesos para esse otimizador. Com otimizadores adaptativos como o Adam, uma penalidade L2 e o decaimento dos pesos aplicado separadamente são operações diferentes.

A L1 usa $C={\sum }_i\mathrm{\mid }{w}_i\mathrm{\mid }$. Ela favorece soluções esparsas com muitos pesos exatamente iguais a zero, selecionando características. A L2 geralmente reduz os pesos sem torná-los exatamente zero. Nenhuma das penalidades é uma regra para definir todos os pesos como zero.

A intensidade é um hiperparâmetro. Zero remove a penalidade; intensidade excessiva causa subajuste. Compare valores em várias ordens de magnitude nos dados de validação. Uma penalidade L2 positiva também controla os pesos divergentes da regressão logística em dados separáveis.

Mantenha o melhor ponto de parada

A parada antecipada monitora a perda de validação, salva os melhores pesos e para após um intervalo de paciência sem melhora. Para perdas 0,62; 0,48; 0,41; 0,39; 0,40; 0,43 e 0,47 nas épocas 1–7, a melhor época é a 4. Paciência 3 permite as épocas 5–7, depois para e restaura os pesos da época 4. A última época treinada não é necessariamente o modelo salvo.

Treine com desativação aleatória de unidades

Em cada passo de treinamento, a desativação aleatória de unidades define independentemente as saídas das unidades ocultas como zero com probabilidade $p$. As unidades precisam aprender sem depender da presença constante de uma parceira específica. No momento da previsão, a desativação aleatória é desligada e todas as unidades participam.

Na desativação aleatória invertida, divida as ativações das unidades que permanecem ativas por $1-p$ durante o treinamento. Se $p=\mathrm{0,5}$, as saídas dessas unidades dobram, de modo que seu valor esperado corresponda à ativação sem desativação. Essa escala não é aplicada novamente na previsão.

Adicione variação válida

Coletar mais dados representativos e usar um modelo mais simples pode reduzir o sobreajuste. O aumento de dados adiciona exemplos de treinamento transformados cujos rótulos continuam corretos, como deslocamentos, recortes ou alterações de brilho adequados. Uma transformação deve ser apropriada para a tarefa: girar um 6 manuscrito em 180° pode transformá-lo em um 9, portanto manter o rótulo 6 ensinaria a relação errada.

A suavização de Laplace é outra forma de regularização: as pseudocontagens tornam o Bayes ingênuo menos dependente de contagens esparsas. Use dados de validação para escolher suavização, penalidades, taxas de desativação aleatória ou momentos de parada. Observe os erros de treinamento e de validação para que a proteção contra o sobreajuste não se torne uma restrição excessiva.