Raciocínio probabilístico e redes bayesianas

Um agente pode ver apenas parte de seu ambiente. Um sensor pode ter ruído, e uma ação pode ter vários resultados. A probabilidade permite que o agente atribua um grau de crença a cada possibilidade e revise essas crenças quando chegam informações.

Mundos, eventos e variáveis

O espaço amostral, $\mathrm{\Omega }$, lista todos os resultados possíveis. Seus resultados são mutuamente exclusivos e exaustivos: exatamente um ocorre. Um evento é um conjunto desses resultados, como “o ônibus está atrasado”. Sua probabilidade é a soma das probabilidades de seus resultados.

Uma variável aleatória atribui um valor a cada resultado. Seu domínio lista os valores possíveis. Por exemplo, $Weather$ tem o domínio $\{sun,cloud,rain\}$. Escreva as variáveis com iniciais maiúsculas e os valores com minúsculas. Para a variável booleana $Rain$, $r$ significa verdadeiro e $\mathrm{\neg }r$ significa falso. A vírgula em $P(r,t)$ significa “e”.

As probabilidades estão entre 0 e 1, e as probabilidades de todos os resultados somam 1. Eventos complementares satisfazem $P(\mathrm{\neg }a)=1-P(a)$. Uma distribuição lista a probabilidade de cada valor de uma variável; uma distribuição a priori descreve a crença antes de incorporar a evidência de interesse.

Interprete uma tabela conjunta

Uma distribuição conjunta fornece a probabilidade de cada combinação de valores. Veja um modelo de tempo e ônibus:

As seis células são os seis mundos possíveis e, juntas, somam 1. O total de uma linha é a probabilidade daquela condição do tempo, portanto uma linha não precisa somar 1. Para chuva, $P(rain)=\mathrm{0,08}+\mathrm{0,12}=\mathrm{0,20}$. A coluna de atraso fornece $P(late)=\mathrm{0,10}+\mathrm{0,12}+\mathrm{0,12}=\mathrm{0,34}$.

Essa operação é a marginalização, ou eliminação por soma. Para manter $X$ e remover $Y$, use $P(x)={\sum }_{y}P(x,y)$. Some sobre todos os valores da variável removida, incluindo valores falsos para variáveis booleanas.

Conte uma sobreposição uma vez

O evento “chuva ou atraso” inclui cada célula da linha de chuva ou da coluna de atraso. Sua probabilidade é

A subtração remove a sobreposição contada duas vezes. Em geral, $P(a\vee b)=P(a)+P(b)-P(a,b)$. Simplesmente somar as marginais daria 0,54 e contaria o mundo com chuva e atraso duas vezes.

Por que tabelas completas se tornam custosas

Uma tabela conjunta completa pode responder a qualquer consulta de probabilidade sobre suas variáveis, mas seu tamanho cresce rapidamente. Cada variável booleana adicional dobra o número de mundos. Com $n$ variáveis booleanas, há $2^n$ entradas e $2^n-1$ números livres, pois a última entrada é fixada pelo total de 1. Trinta variáveis booleanas exigem 1.073.741.824 entradas. Modelos compactos armazenam dependências locais em vez de listar explicitamente cada mundo.

Um ônibus atrasado muda quais condições do tempo parecem prováveis. A probabilidade condicional concentra-se nos mundos consistentes com uma observação e mede suas proporções relativas. A probabilidade após levar em conta a evidência é uma probabilidade a posteriori.

Relacione o denominador à evidência

Para uma evidência com probabilidade positiva,

No modelo de tempo e ônibus, as entradas de atraso para sol, nuvens e chuva são 0,10, 0,12 e 0,12. Seu total é 0,34. Assim, $P(rain\mid late)=\mathrm{0,12}\mathrm{/}\mathrm{0,34}\approx \mathrm{0,353}$. Inverter a pergunta fornece $P(late\mid rain)=\mathrm{0,12}\mathrm{/}\mathrm{0,20}=\mathrm{0,6}$. Ambas usam a mesma célula conjunta, mas cada uma divide pela probabilidade de sua própria evidência.

A distribuição condicional completa é $P(Weather\mid late)\approx ⟨\mathrm{0,294};\mathrm{0,353};\mathrm{0,353}⟩$. Essas entradas somam 1 porque descrevem valores alternativos do tempo sob uma mesma observação fixa. As três verossimilhanças $P(late\mid sun)=\mathrm{0,2}$, $P(late\mid cloud)=\mathrm{0,4}$ e $P(late\mid rain)=\mathrm{0,6}$ usam condições diferentes e não precisam somar 1.

Produtos e cadeias

Reorganizar a definição fornece a regra do produto:

Aplicá-la repetidamente fornece a regra da cadeia:

Qualquer ordem de variáveis funciona. A independência não é necessária para essa identidade; mais adiante, ela permitirá encurtar as listas de condições.

Selecione, some e normalize

Para a variável de consulta $X$, a evidência $e$ e as variáveis ocultas $Y$, a enumeração usa

Primeiro selecione os mundos que correspondem à evidência. Depois elimine todas as variáveis ocultas por soma, mantendo um total separado para cada valor da consulta. Por fim, divida esses totais por sua soma. A constante de normalização $\alpha$ é o inverso dessa soma, que é $P(e)$.

Considere as variáveis booleanas gripe Flu ($F$), febre Fever ($V$) e tosse Cough ($K$). Sua tabela conjunta completa é:

Para encontrar $P(F\mid v)$, mantenha as linhas com febre e elimine a tosse por soma. Os totais são $\mathrm{0,056}+\mathrm{0,024}=\mathrm{0,08}$ para gripe e $\mathrm{0,018}+\mathrm{0,072}=\mathrm{0,09}$ para ausência de gripe. Normalize por 0,17 para obter $P(f\mid v)\approx \mathrm{0,471}$.

Se a tosse também for observada, mantenha apenas as duas linhas com febre e tosse. Agora $P(f\mid v,k)=\mathrm{0,056}\mathrm{/}\mathrm{0,074}\approx \mathrm{0,757}$. Para febre sem tosse, $P(f\mid v,\mathrm{\neg }k)=\mathrm{0,024}\mathrm{/}\mathrm{0,096}=\mathrm{0,25}$. Somar sobre a tosse faria perder essa observação adicional. Um total bruto como 0,08 é uma probabilidade conjunta, não a probabilidade condicional solicitada.

Um agente frequentemente sabe como uma causa produz uma observação, mas precisa raciocinar na direção oposta. Um modelo de falhas pode descrever com que frequência um componente danificado dispara um alerta. Após o alerta, o agente precisa da probabilidade de dano.

Inverta uma condicional corretamente

As duas expressões da regra do produto para uma probabilidade conjunta fornecem a regra de Bayes:

Aqui $P(c)$ é a probabilidade a priori, $P(e\mid c)$ é a verossimilhança e $P(c\mid e)$ é a probabilidade a posteriori. O denominador inclui todas as maneiras pelas quais a evidência pode ocorrer. Para uma causa booleana, a lei da probabilidade total fornece

Para mais de dois valores da causa, inclua um termo para cada valor. Você também pode calcular uma pontuação de verossimilhança multiplicada pela probabilidade a priori para cada causa e normalizar as pontuações.

Resolva um exemplo de condição rara

Suponha que uma doença afete 1% de uma população. Um teste é positivo para 90% das pessoas doentes e 5% das pessoas saudáveis. A probabilidade de um resultado positivo é

A probabilidade de estar doente e ter resultado positivo é 0,009, portanto

Frequências naturais tornam o denominador mais fácil de entender. Entre 10.000 pessoas, 100 estão doentes e 90 delas têm resultado positivo. Das 9.900 pessoas saudáveis, 495 têm resultado positivo. Há 585 resultados positivos ao todo; 90 correspondem a pessoas doentes.

A sensibilidade de 90% responde “Com que frequência uma pessoa doente tem resultado positivo?”. Ela não responde “Com que frequência uma pessoa com resultado positivo está doente?”. A negligência da taxa-base atribui peso insuficiente à probabilidade a priori. Uma condição rara começa com muito menos pessoas, portanto os falsos positivos do grupo saudável maior podem superar os verdadeiros positivos. Se a sensibilidade e a taxa de falsos positivos permanecerem fixas, mudar a prevalência ainda muda a probabilidade a posteriori.

Um resultado negativo usa as verossimilhanças complementares:

Atualize novamente quando chegar uma nova evidência

A probabilidade a posteriori de uma observação torna-se a probabilidade a priori da próxima. Se o resultado de um segundo teste for condicionalmente independente do primeiro dado o estado em relação à doença, outro resultado positivo produz

Use a primeira probabilidade a posteriori sem arredondamento nos cálculos sequenciais. A independência condicional importa: leituras repetidas do mesmo sensor defeituoso podem compartilhar um erro, portanto multiplicar suas verossimilhanças como evidências independentes pode exagerar a atualização.

As informações de contexto permanecem em cada condição relevante:

Isso permite que um agente atualize suas crenças dentro da população ou situação que já conhece, usando sua probabilidade a priori atual e as verossimilhanças adequadas.

Algumas observações mudam as probabilidades umas das outras; outras não acrescentam informação quando uma condição relevante é conhecida. A independência identifica quando uma expressão de probabilidade longa pode ser substituída por partes menores.

A independência é uma afirmação sobre todos os valores

Eventos são independentes quando $P(a,b)=P(a)P(b)$. Para variáveis, essa igualdade deve valer para todo par de valores. Um par que não a satisfaça estabelece dependência. Na tabela de tempo e ônibus, $P(rain,late)=\mathrm{0,12}$, enquanto $P(rain)P(late)=\mathrm{0,20}(\mathrm{0,34})=\mathrm{0,068}$, portanto o tempo e a situação do ônibus são dependentes.

Eventos mutuamente exclusivos com probabilidades positivas são dependentes: saber que um ocorreu força a probabilidade do outro a zero. Eventos independentes podem ocorrer juntos. Se $n$ variáveis booleanas forem todas mutuamente independentes, serão necessárias apenas $n$ probabilidades, em comparação com $2^n-1$ para uma tabela conjunta sem restrições.

Saiba o que está sendo mantido fixo

A independência condicional, escrita $X\perp Y\mid Z$, significa

A igualdade vale para cada combinação relevante de valores. De modo equivalente, conhecer $Y$ não acrescenta nada sobre $X$ quando $Z$ é conhecido.

No modelo de gripe, $P(k\mid v,f)=P(k\mid f)=\mathrm{0,7}$ e $P(k\mid v,\mathrm{\neg }f)=P(k\mid \mathrm{\neg }f)=\mathrm{0,2}$. Febre e tosse são condicionalmente independentes dado o estado em relação à gripe. Sem essa condição, elas são dependentes: $P(k)=\mathrm{0,25}$, enquanto $P(k\mid v)=\mathrm{0,074}\mathrm{/}\mathrm{0,17}\approx \mathrm{0,435}$. A febre muda a crença sobre a gripe, o que muda a crença sobre a tosse.

Independência sem evidência e independência dada uma evidência são afirmações distintas. Observar um efeito comum pode até tornar dependentes duas causas antes independentes.

Classifique com Bayes ingênuo

Um modelo de Bayes ingênuo supõe que as características são condicionalmente independentes dada uma classe. Sua distribuição a posteriori é

Uma classe booleana com $n$ características booleanas precisa de $1+2n$ probabilidades. A hipótese pode ser imperfeita e ainda permitir uma classificação útil, mas características correlacionadas podem levar a probabilidades excessivamente confiantes.

Para spam, seja $P(spam)=\mathrm{0,3}$. A palavra “oferta” aparece com probabilidade 0,4 em spam e 0,05 em mensagens legítimas. A palavra “vencedor” aparece com probabilidades 0,2 e 0,01. Com ambas as palavras presentes, as pontuações são $\mathrm{0,3}(\mathrm{0,4})(\mathrm{0,2})=\mathrm{0,024}$ para spam e $\mathrm{0,7}(\mathrm{0,05})(\mathrm{0,01})=\mathrm{0,00035}$ para mensagem legítima. A normalização fornece $P(spam\mid o,w)\approx \mathrm{0,986}$.

A ausência também fornece evidência. Com “oferta” presente, mas “vencedor” ausente, as pontuações passam a $\mathrm{0,3}(\mathrm{0,4})(\mathrm{0,8})=\mathrm{0,096}$ e $\mathrm{0,7}(\mathrm{0,05})(\mathrm{0,99})=\mathrm{0,03465}$, resultando em uma probabilidade a posteriori de spam de cerca de 0,735. Use o complemento da verossimilhança para uma característica booleana ausente. Uma verossimilhança zero torna zero toda a pontuação da classe, portanto um evento possível não deve receber zero apenas porque estava ausente de uma pequena amostra de dados.

Uma rede bayesiana representa uma distribuição conjunta com um grafo acíclico direcionado e tabelas locais de probabilidade. Cada nó é uma variável aleatória. Uma seta que entra em um nó identifica um de seus pais; seguir as setas nunca deve levar de volta ao nó inicial.

Um modelo de deslocamento

Use cinco variáveis booleanas: chuva Rain ($R$), acidente Accident ($A$), trânsito intenso Traffic ($T$), atraso Late ($L$) e portar guarda-chuva Umbrella ($U$). As setas são $R\to T$, $A\to T$, $T\to L$ e $R\to U$. Chuva e acidente têm probabilidades a priori $P(r)=\mathrm{0,2}$ e $P(a)=\mathrm{0,1}$.

A tabela de probabilidades condicionais (CPT) do trânsito depende de ambos os pais:

As tabelas restantes fornecem $P(l\mid t)=\mathrm{0,6}$, $P(l\mid \mathrm{\neg }t)=\mathrm{0,1}$, $P(u\mid r)=\mathrm{0,9}$ e $P(u\mid \mathrm{\neg }r)=\mathrm{0,2}$. Cada atribuição dos pais seleciona uma distribuição sobre os valores do filho. Para nós booleanos, armazene apenas a probabilidade de verdadeiro; a probabilidade de falso é seu complemento. Assim, $P(\mathrm{\neg }t\mid r,\mathrm{\neg }a)=\mathrm{0,3}$.

Calcule a probabilidade de um mundo completo

A rede define sua distribuição conjunta por

Para chuva, ausência de acidente, trânsito intenso, atraso e guarda-chuva, selecione uma entrada de cada nó:

Os fatores descrevem, respectivamente, chuva, ausência de acidente, trânsito sob esses valores dos pais, atraso com trânsito intenso e uso de guarda-chuva com chuva. Omitir um nó produz um produto incompleto. Selecionar 0,95 para o trânsito também descreveria um acidente, portanto não corresponderia ao mundo avaliado.

A fórmula decorre da regra da cadeia em uma ordem topológica, com pais antes dos filhos. As independências condicionais da rede reduzem cada condição de todas as variáveis anteriores para apenas seus pais.

Conte parâmetros e diferencie marginais

Um nó booleano com $k$ pais booleanos precisa de $2^k$ probabilidades livres. De modo mais geral, um nó com $d$ valores e $k$ pais, cada um com $d$ valores, precisa de $(d-1)d^k$. A rede de deslocamento precisa de $1+1+4+2+2=10$ números; uma distribuição conjunta completa de suas cinco variáveis booleanas precisa de 31. Trinta nós booleanos com no máximo cinco pais cada precisam de no máximo 960 números, em comparação com mais de um bilhão para uma distribuição conjunta completa sem restrições.

Uma entrada de CPT responde a uma pergunta com todos os pais fixos. Para encontrar uma marginal, calcule a média sobre os valores desconhecidos dos pais. Aqui

em que os quatro termos ponderam as linhas de trânsito pelas probabilidades de seus pais. Da mesma forma, $P(t\mid r)=\mathrm{0,1}(\mathrm{0,95})+\mathrm{0,9}(\mathrm{0,7})=\mathrm{0,725}$. Não é o valor 0,7 de uma única linha.

As setas frequentemente seguem da causa para o efeito porque isso torna o modelo compacto e compreensível. Formalmente, elas codificam uma fatoração e afirmações de independência. Um grafo de dois nós com seta invertida pode representar a mesma distribuição conjunta com tabelas diferentes; uma seta, por si só, não estabelece causalidade.

Uma rede útil omite dependências desnecessárias e mantém aquelas de que a distribuição precisa. Escolher poucos pais pode economizar muitas entradas de tabela, mas cada omissão compromete o modelo com uma afirmação de independência.

Construa a rede em uma ordem

Escolha as variáveis e seus domínios e depois ordene as variáveis. Para cada variável, selecione um conjunto mínimo de variáveis anteriores que a torne independente das demais variáveis anteriores. Acrescente setas a partir desses pais e preencha sua CPT usando avaliações de especialistas ou probabilidades estimadas a partir de contagens.

Uma ordem com causas primeiro para o modelo de deslocamento produz quatro setas e dez probabilidades livres. Outra ordem válida é $L,T,U,R,A$, com conjuntos de pais $T:\{L\}$, $U:\{T\}$, $R:\{T,U\}$ e $A:\{T,R\}$. Ela usa seis setas e $1+2+2+4+4=13$ números. Dado o trânsito, a chuva muda a crença sobre um acidente, portanto a chuva deve permanecer entre os pais do acidente nessa ordem.

Qualquer ordem pode representar a distribuição se cada nó receber pais suficientes. Dar a cada nó todos os nós anteriores como pais sempre funciona, mas não oferece compressão. Uma ordem diagnóstica também pode exigir probabilidades mais difíceis de avaliar, como chuva dados trânsito e guarda-chuva. Omitir um pai necessário impõe uma independência falsa; acrescentar um pai desnecessário aumenta a tabela.

Duas regras de independência local

A propriedade local de Markov diz que um nó é independente de seus não descendentes dados seus pais. Na rede de deslocamento, $L\perp \{R,A,U\}\mid T$ e $U\perp \{A,T,L\}\mid R$. Uma vez conhecido o trânsito, as outras variáveis não acrescentam informação sobre o atraso.

O cobertor de Markov de um nó contém seus pais, seus filhos e os outros pais de seus filhos. Dadas essas variáveis, o nó é independente de toda variável fora do cobertor. O cobertor da chuva é $\{T,U,A\}$: o acidente pertence a ele porque é o outro pai do trânsito. O cobertor do trânsito é $\{R,A,L\}$, e o do atraso tem apenas $\{T\}$. O cobertor permite atualizações locais mesmo quando a rede completa é grande.

Substitua uma tabela grande por estrutura

Um nó determinístico é uma função fixa de seus pais, como $Late=Traffic\vee Strike$. Suas linhas contêm zeros e uns. Um OU ruidoso permite que cada causa verdadeira falhe independentemente. Se a causa $i$ tem probabilidade de inibição $q_i$, o efeito está ausente apenas se todas as causas ativas falharem:

Suponha que um acidente deixe de causar congestionamento com probabilidade 0,2 e que obras na via falhem com probabilidade 0,4. Um acidente sozinho fornece uma probabilidade de congestionamento de 0,8; obras sozinhas fornecem 0,6. Quando ambos ocorrem, a probabilidade de não haver congestionamento é $\mathrm{0,2}(\mathrm{0,4})=\mathrm{0,08}$, portanto a probabilidade de congestionamento é 0,92.

O OU ruidoso simples não produz efeito quando nenhuma causa está ativa. Uma causa de fuga, representada como uma causa sempre presente, permite que o efeito surja de causas não listadas. O modelo usa uma probabilidade de inibição por causa em vez de uma tabela sem restrições com $2^k$ linhas. Essa economia decorre de falhas causais independentes; interações arbitrárias exigem um modelo mais rico.

A d-separação encontra independências condicionais garantidas pelo grafo de uma rede. Ela considera caminhos sem exigir que as setas apontem na direção percorrida. As pontas das setas ainda importam porque determinam como cada nó intermediário se comporta.

Três padrões de caminho

Em uma cadeia, conhecer a variável intermediária elimina a influência informativa da variável anterior. Em $R\to T\to L$, a chuva não acrescenta nada sobre o atraso quando o trânsito é conhecido. Em uma bifurcação, conhecer a causa comum tem o mesmo efeito: um guarda-chuva não acrescenta nada sobre o trânsito quando a chuva é conhecida.

Um colisor, ou efeito comum, funciona de maneira oposta. O caminho $R\to T\leftarrow A$ fica bloqueado sem evidência sobre o trânsito ou seus descendentes. Observar o trânsito, ou observar o atraso depois dele, abre o colisor. Causas que eram independentes podem então fornecer informação uma sobre a outra.

Explicação por exclusão

No modelo de deslocamento, $P(a\mid r)=P(a)=\mathrm{0,1}$. O trânsito intenso aumenta a probabilidade de acidente para cerca de 0,235. Acrescentar chuva reduz essa probabilidade para $P(a\mid t,r)\approx \mathrm{0,131}$; acrescentar ausência de chuva fornece $P(a\mid t,\mathrm{\neg }r)\approx \mathrm{0,308}$. A chuva explica parte do trânsito observado, reduzindo a necessidade de um acidente como explicação. Isso é explicação por exclusão.

Verifique todos os caminhos

Para testar $X\perp Y\mid Z$:

1. Liste todos os caminhos não direcionados entre as variáveis de consulta.
2. Em cada nó interno, identifique se o caminho forma um colisor ou um não colisor.
3. Bloqueie um caminho se ele tiver um não colisor observado ou um colisor que não é observado e não tem descendente observado.
4. Conclua que há d-separação somente se todos os caminhos estiverem bloqueados.

Para guarda-chuva e acidente, o único caminho é $U\leftarrow R\to T\leftarrow A$. Sem evidência, o trânsito o bloqueia, portanto $U\perp A$. Dado o atraso, o colisor do trânsito se abre e a chuva permanece não observada, portanto o caminho fica ativo. O modelo numérico fornece $P(u\mid l)\approx \mathrm{0,434}$, mas $P(u\mid a,l)\approx \mathrm{0,356}$.

Se tanto o atraso quanto a chuva forem observados, o colisor do trânsito continua aberto, mas a chuva bloqueia o caminho como um não colisor observado. Portanto, $U\perp A\mid L,R$. Abrir uma parte de um caminho não supera um bloqueio em outra parte.

Guarda-chuva e atraso têm o caminho $U\leftarrow R\to T\to L$. Ele está ativo sem evidência e é bloqueado pela chuva ou pelo trânsito. Por exemplo, $P(l\mid u,r)=P(l\mid r)=\mathrm{0,4625}$.

Interprete a garantia do grafo

A d-separação é correta: a independência vale para toda distribuição que segue o grafo. Um caminho ativo significa que a independência não é garantida. Valores específicos das CPTs ainda podem tornar as variáveis independentes por coincidência. Em um grafo com vários caminhos, examinar um único caminho bloqueado é insuficiente; outro caminho pode permanecer ativo.

Uma rede armazena uma distribuição conjunta em partes locais. A inferência exata combina essas partes para responder a uma consulta, somando sobre as variáveis cujos valores permanecem desconhecidos. A enumeração é a maneira direta de fazer isso.

Separe os três papéis das variáveis

Em $P(X\mid e)$, $X$ é a variável de consulta e $e$ fixa a evidência. Todas as outras variáveis estão ocultas. Substitua o produto da rede na fórmula geral de enumeração:

Calcule um total não normalizado para cada valor da consulta e depois divida pela soma desses totais. Os valores de evidência permanecem fixos em cada produto. As variáveis ocultas percorrem seus domínios completos.

Para o modelo de deslocamento, com as setas $R\to T\leftarrow A$, $T\to L$ e $R\to U$, a consulta $P(R\mid l)$ deixa ocultos acidente, trânsito e guarda-chuva. Cada termo completo usa $P(R)P(A)P(T\mid R,A)P(l\mid T)P(U\mid R)$.

Remova uma folha irrelevante

Guarda-chuva não tem descendente observado e não é nem a consulta nem a evidência. Somar sua CPT sobre ambos os valores fornece ${\sum }_{u^{\mathrm{\prime }}}P(u^{\mathrm{\prime }}\mid r)=1$ para cada valor de chuva. Sua contribuição desaparece.

De modo mais geral, mantenha as variáveis de consulta, as variáveis de evidência e todos os seus ancestrais. As outras variáveis podem ser removidas somando primeiro as folhas irrelevantes e depois avançando para trás. Isso diz respeito à contribuição delas para esta consulta; um nó não observado pode importar em outra consulta.

Calcule os dois totais de chuva

As tabelas de deslocamento fornecem $P(r)=\mathrm{0,2}$, $P(a)=\mathrm{0,1}$, probabilidades de trânsito 0,95, 0,7, 0,8 e 0,2 para as combinações dos pais $(r,a),(r,\mathrm{\neg }a),(\mathrm{\neg }r,a),(\mathrm{\neg }r,\mathrm{\neg }a)$, e probabilidades de atraso 0,6 com trânsito e 0,1 sem ele.

Para chuva e acidente, some as alternativas de trânsito: $\mathrm{0,95}(\mathrm{0,6})+\mathrm{0,05}(\mathrm{0,1})=\mathrm{0,575}$. Para chuva sem acidente, o resultado é $\mathrm{0,7}(\mathrm{0,6})+\mathrm{0,3}(\mathrm{0,1})=\mathrm{0,45}$. Pondere pelas probabilidades de acidente e depois pela de chuva:

Para ausência de chuva, os totais internos correspondentes são 0,5 e 0,2, fornecendo

Normalize por $\mathrm{0,0925}+\mathrm{0,184}=\mathrm{0,2765}$. A resposta é $P(R\mid l)\approx ⟨\mathrm{0,335};\mathrm{0,665}⟩$ para verdadeiro e falso. Informar 0,0925 seria informar o evento conjunto, antes do condicionamento.

Mantenha as somas ligadas a suas dependências

Um fator só sai de uma soma se nenhum de seus argumentos depender da variável somada. Por exemplo, $P(r)$ pode sair da soma sobre acidente; $P(t\mid r,a^{\mathrm{\prime }})$ não pode, pois acidente é um argumento correspondente a um pai.

Se o guarda-chuva for observado, ele deixa de ser eliminado por soma. Com $P(u\mid r)=\mathrm{0,9}$ e $P(u\mid \mathrm{\neg }r)=\mathrm{0,2}$, a nova probabilidade a posteriori é $\mathrm{0,08325}\mathrm{/}(\mathrm{0,08325}+\mathrm{0,0368})\approx \mathrm{0,693}$. A enumeração pode ser executada em profundidade com pouca memória, mas visita um número exponencial de atribuições ocultas e repete cálculos parciais.

A enumeração repete trabalho porque muitos mundos completos compartilham o mesmo cálculo parcial. A eliminação de variáveis armazena esses resultados parciais como fatores e os reutiliza. Ela calcula a mesma distribuição a posteriori exata em uma ordem aritmética diferente.

Fatores, junções e evidência

Um fator associa números não negativos a atribuições de suas variáveis. As CPTs são fatores iniciais, mas os fatores intermediários não precisam somar 1. Aplique a evidência mantendo o valor observado. Para a evidência de atraso, $P(l\mid T)$ é um fator sobre o trânsito com entradas 0,6 e 0,1.

A junção de fatores multiplica as entradas correspondentes e usa a união de seus conjuntos de variáveis. Unir $P(A)$ e $P(T\mid R,A)$ fornece um fator sobre chuva, acidente e trânsito. Eliminar por soma o acidente consiste em somar as entradas que diferem apenas no valor do acidente.

Para cada variável oculta, una todos os fatores que a contêm, elimine-a por soma e substitua esses fatores pelo resultado. Mantenha os fatores que não a mencionam. Ao final, una os fatores restantes e normalize sobre os valores da consulta.

Elimine acidente e depois trânsito

Para $P(R\mid l)$, remova a folha não observada guarda-chuva. Comece com $P(R)$, $P(A)$, $P(T\mid R,A)$ e $P(l\mid T)$. Eliminar acidente fornece

Seus valores para trânsito verdadeiro são $f_1(r,t)=\mathrm{0,1}(\mathrm{0,95})+\mathrm{0,9}(\mathrm{0,7})=\mathrm{0,725}$ e $f_1(\mathrm{\neg }r,t)=\mathrm{0,1}(\mathrm{0,8})+\mathrm{0,9}(\mathrm{0,2})=\mathrm{0,26}$. Os valores para trânsito falso são 0,275 e 0,74.

Agora elimine trânsito:

Isso fornece $f_2(r)=\mathrm{0,725}(\mathrm{0,6})+\mathrm{0,275}(\mathrm{0,1})=\mathrm{0,4625}$ e $f_2(\mathrm{\neg }r)=\mathrm{0,26}(\mathrm{0,6})+\mathrm{0,74}(\mathrm{0,1})=\mathrm{0,23}$. Multiplicar pela probabilidade a priori de chuva fornece $⟨\mathrm{0,0925};\mathrm{0,184}⟩$. Divida por 0,2765 para obter $⟨\mathrm{0,335};\mathrm{0,665}⟩$.

Eliminar trânsito primeiro também funciona. O fator $g(R,A)={\sum }_{t^{\mathrm{\prime }}}P(t^{\mathrm{\prime }}\mid R,A)P(l\mid t^{\mathrm{\prime }})$ tem entradas 0,575, 0,45, 0,5 e 0,2. Ponderar pela probabilidade a priori de acidente produz então as mesmas duas verossimilhanças de atraso.

Escolha uma ordem que mantenha os fatores pequenos

Um fator sobre $k$ variáveis com $d$ valores tem $d^k$ entradas. O maior escopo intermediário geralmente domina o custo. Suponha que a variável oculta $Z$ aponte para variáveis booleanas $X_1,\dots ,X_n$, cada uma com um filho observado $Y_i$, e que a consulta seja $X_n$. Eliminar $Z$ primeiro une uma tabela sobre $Z,X_1,\dots ,X_n$ e depois deixa $2^n$ entradas. Eliminar primeiro as outras $X_i$ reduz cada ramo a um fator sobre $Z$; o maior escopo unido é apenas $Z,X_i$, com quatro entradas.

Uma poliárvore tem no máximo um caminho não direcionado entre quaisquer dois nós. Com uma boa ordem, a inferência é linear no tamanho total das CPTs. A inferência exata geral e a busca pela ordem ótima de eliminação são NP-difíceis. Uma heurística prática escolhe uma variável que crie um próximo fator pequeno. Mantenha a variável de consulta até a normalização. Multiplicar um fator inteiro por uma constante positiva mantém a resposta normalizada inalterada.

Quando somas exatas são custosas demais, um agente pode simular atribuições e estimar probabilidades por suas frequências. A amostragem produz uma aproximação cuja qualidade depende da quantidade de informação útil contida nos sorteios.

Transforme um número aleatório em um valor

Sorteie um número uniforme $u$ em $[0,1[$. Divida esse intervalo em partes com comprimentos iguais às probabilidades. Para as probabilidades do tempo $⟨\mathrm{0,5};\mathrm{0,3};\mathrm{0,2}⟩$, sol ocupa $[0;\mathrm{0,5}[$, nuvens $[\mathrm{0,5};\mathrm{0,8}[$ e chuva $[\mathrm{0,8};1[$. Um sorteio de 0,63 fornece nuvens. Para uma variável booleana, escolha verdadeiro se o sorteio for menor que sua probabilidade de verdadeiro.

Amostre pais antes de filhos

A amostragem a priori visita variáveis em ordem topológica. Cada nó é amostrado da linha da CPT selecionada pelos valores amostrados de seus pais. A expressão “a priori” refere-se ao sorteio da rede antes de condicionar a população de amostras à evidência da consulta.

No modelo de deslocamento, use a ordem $R,A,T,L,U$ e os sorteios 0,13, 0,57, 0,40, 0,81 e 0,35:

1. Chuva é verdadeiro porque $\mathrm{0,13}<\mathrm{0,2}$.
2. Acidente é falso porque $\mathrm{0,57}\ge \mathrm{0,1}$.
3. Trânsito é verdadeiro porque $\mathrm{0,40}<P(t\mid r,\mathrm{\neg }a)=\mathrm{0,7}$.
4. Atraso é falso porque $\mathrm{0,81}\ge P(l\mid t)=\mathrm{0,6}$.
5. Guarda-chuva é verdadeiro porque $\mathrm{0,35}<P(u\mid r)=\mathrm{0,9}$.

A atribuição é $(r,\mathrm{\neg }a,t,\mathrm{\neg }l,u)$. Sua probabilidade de geração é $\mathrm{0,2}(\mathrm{0,9})(\mathrm{0,7})(\mathrm{0,4})(\mathrm{0,9})=\mathrm{0,04536}$, exatamente sua probabilidade na distribuição conjunta da rede. Amostrar um filho antes de seus pais deixaria indefinida a linha necessária da CPT.

Estime probabilidades a partir de contagens

A fração de amostras a priori com atraso estima $P(l)$, que é 0,2765 neste modelo. O estimador é consistente: à medida que o número de sorteios independentes cresce, ele converge para a probabilidade real. Uma execução maior ainda pode oscilar. O erro típico de amostras independentes varia como $1\mathrm{/}\sqrt{N}$, portanto quatro vezes mais amostras reduzem o erro aproximadamente à metade; duas vezes mais não.

Condicione com amostragem por rejeição

A amostragem por rejeição gera atribuições a priori e descarta as que contradizem a evidência. Conte os valores da consulta apenas entre as atribuições mantidas. Por exemplo, suponha que 280 de 1.000 atribuições tenham atraso e que 94 delas também tenham chuva. Então $P(r\mid l)\approx 94\mathrm{/}280\approx \mathrm{0,336}$. Dividir por 1.000 estimaria o evento conjunto chuva e atraso.

Uma amostra pode ser abandonada assim que entrar em conflito com uma observação, economizando o restante do trabalho de simulação. A fração esperada mantida continua sendo $P(e)$. Atraso sozinho mantém cerca de 28%; atraso com guarda-chuva mantém cerca de 12%, pois $P(l,u)=\mathrm{0,12005}$. Muitas observações podem tornar rara a combinação de evidências, mesmo quando cada observação é comum isoladamente. Se nenhuma amostra sobreviver, a estimativa condicional estará indefinida e será necessária uma amostragem mais útil.

A amostragem por rejeição gasta tempo criando atribuições que não pode usar. A ponderação por verossimilhança mantém cada variável de evidência fixa e compensa isso com um peso. Amostras cujos valores ocultos tornam a evidência provável contribuem mais.

Construa uma atribuição ponderada

Comece cada amostra com peso 1. Visite os nós em ordem topológica. Amostre um nó que não é de evidência usando os valores atuais de seus pais. Em um nó de evidência, mantenha seu valor observado e multiplique o peso pela probabilidade desse valor na CPT:

Apenas probabilidades de evidência entram nesse peso. As probabilidades dos nós amostrados já determinam a frequência com que suas atribuições são geradas. Multiplicar essas probabilidades no peso as contaria duas vezes.

Duas amostras no modelo de deslocamento

Para $P(R\mid l,u)$, mantenha atraso e guarda-chuva como verdadeiros. Amostre chuva, acidente e trânsito. As probabilidades de trânsito para $(r,a),(r,\mathrm{\neg }a),(\mathrm{\neg }r,a),(\mathrm{\neg }r,\mathrm{\neg }a)$ são 0,95, 0,7, 0,8 e 0,2, com probabilidades a priori $P(r)=\mathrm{0,2}$ e $P(a)=\mathrm{0,1}$.

Usar os sorteios 0,13, 0,57 e 0,40 fornece chuva, ausência de acidente e trânsito intenso. O atraso fixo contribui com $P(l\mid t)=\mathrm{0,6}$; o guarda-chuva fixo contribui com $P(u\mid r)=\mathrm{0,9}$. O peso da amostra é $\mathrm{0,6}(\mathrm{0,9})=\mathrm{0,54}$.

Os sorteios 0,66, 0,05 e 0,92 fornecem ausência de chuva, acidente e ausência de trânsito intenso. As verossimilhanças da evidência agora são $P(l\mid \mathrm{\neg }t)=\mathrm{0,1}$ e $P(u\mid \mathrm{\neg }r)=\mathrm{0,2}$, portanto o peso é 0,02. Ambas as amostras correspondem à evidência porque esses valores foram fixados, mas suas contribuições diferem bastante.

Normalize pesos, não contagens de amostras

Estime uma probabilidade de consulta por

A estimativa de chuva com duas amostras é $\mathrm{0,54}\mathrm{/}(\mathrm{0,54}+\mathrm{0,02})\approx \mathrm{0,964}$. Ela está longe da probabilidade a posteriori exata de cerca de 0,693; dois sorteios são poucos demais para representar as atribuições ocultas relevantes. Com muitos sorteios, a razão ponderada converge para a distribuição a posteriori. Dividir 0,54 por dois não produziria uma estimativa de probabilidade condicional.

A correção funciona porque multiplicar a probabilidade de amostragem pelo peso da evidência recupera o produto conjunto completo. A normalização remove a probabilidade de evidência comum e deixa a distribuição condicional.

Reconheça pesos concentrados

A evidência fixa afeta a forma como seus descendentes são amostrados, pois eles usam essa evidência nas linhas de seus pais. As variáveis anteriores ainda são sorteadas sem retorno das observações posteriores. Se evidências raras estiverem em nós folha, a maioria das atribuições anteriores pode explicá-las mal. Seus pesos são minúsculos e poucas atribuições podem dominar o resultado.

A ponderação por verossimilhança frequentemente usa a computação de forma mais eficiente que a amostragem por rejeição, mas “nenhuma amostra rejeitada” não significa amostras igualmente informativas. Uma execução longa com pesos muito desiguais ainda pode fornecer uma estimativa instável. Examine quais atribuições concentram o peso total ao comparar resultados de diferentes execuções.

A amostragem de Gibbs mantém uma atribuição completa e altera uma variável que não é de evidência por vez. Cada alteração é sorteada da distribuição condicional da variável dados os valores atuais de todas as outras variáveis. A sequência forma um amostrador de Monte Carlo via cadeias de Markov, ou MCMC.

Inicie uma cadeia e mantenha a evidência fixa

Defina a evidência em seus valores observados e inicialize as variáveis restantes. Com zeros determinísticos, comece com uma atribuição compatível com a evidência e com probabilidade conjunta positiva. Escolha uma variável que não é de evidência para atualizar, calcule uma probabilidade para cada um de seus valores possíveis, normalize e sorteie o novo valor. Todos os outros valores permanecem no lugar nesse passo. Repetir esse processo permite que a evidência afete crenças sobre variáveis anteriores e posteriores.

Apenas o cobertor de Markov do nó selecionado é necessário: seus pais, filhos e os outros pais de seus filhos. Fatores fora desse cobertor não mudam quando o valor selecionado muda, portanto são cancelados na normalização. A fórmula local é

Os filhos mantêm seus valores atuais enquanto cada valor candidato do pai selecionado é testado. Suas entradas de CPT podem, portanto, mudar mesmo que os próprios filhos não sejam reamostrados.

Atualize chuva no modelo de deslocamento

Mantenha atraso e guarda-chuva verdadeiros. Suponha que o estado oculto atual seja ausência de chuva, ausência de acidente e trânsito intenso. O cobertor da chuva é trânsito, guarda-chuva e acidente. Para chuva verdadeira, a pontuação local é

Para chuva falsa, a pontuação é $\mathrm{0,8}(\mathrm{0,2})(\mathrm{0,2})=\mathrm{0,032}$. A normalização fornece $P(r\mid \text{cobertor})=\mathrm{0,126}\mathrm{/}\mathrm{0,158}\approx \mathrm{0,797}$. Um sorteio uniforme de 0,40 muda, portanto, chuva para verdadeiro. O fator de atraso está ausente dessa atualização porque trânsito permanece fixo e esse fator é constante entre os dois valores candidatos de chuva.

Atualize trânsito com o novo valor de chuva

O cobertor do trânsito é chuva, acidente e atraso. Suas duas pontuações são $\mathrm{0,7}(\mathrm{0,6})=\mathrm{0,42}$ para trânsito intenso e $\mathrm{0,3}(\mathrm{0,1})=\mathrm{0,03}$ para ausência de trânsito intenso. Assim, sua probabilidade de verdadeiro é $\mathrm{0,42}\mathrm{/}\mathrm{0,45}\approx \mathrm{0,933}$. Para uma atualização de acidente com chuva e trânsito intenso fixos, a probabilidade de verdadeiro é $\mathrm{0,095}\mathrm{/}(\mathrm{0,095}+\mathrm{0,63})\approx \mathrm{0,131}$.

Conte estados e permita tempo para a mistura

Após cada atualização, a atribuição completa pode contar como uma amostra, incluindo um passo que mantém o valor selecionado inalterado. Descarte um período de aquecimento inicial para reduzir a influência da inicialização. A frequência de chuva no longo prazo aproxima-se de cerca de 0,693 para essa consulta quando a cadeia converge.

Estados adjacentes compartilham quase todos os seus valores e são correlacionados. Eles contêm menos informação independente que o mesmo número de sorteios independentes. Com todas as entradas das CPTs estritamente entre 0 e 1, atualizações repetidas adequadas podem alcançar todos os estados e convergir para a distribuição a posteriori. Restrições determinísticas podem prender uma cadeia que atualiza uma variável por vez; relações quase determinísticas podem fazê-la avançar muito lentamente.

A amostragem a priori sorteia da distribuição conjunta; a rejeição filtra esses sorteios; a ponderação por verossimilhança fixa a evidência e pondera atribuições; Gibbs atualiza repetidamente um estado com evidência fixa. Condicionar apenas aos pais produziria uma distribuição local errada em uma atualização de Gibbs ao omitir a evidência dos filhos.

Probabilidades descrevem o que pode acontecer; utilidades descrevem o quanto os resultados são desejáveis. Uma função de utilidade atribui números maiores aos resultados preferidos. Uma ação incerta é uma loteria, que lista resultados e suas probabilidades.

Calcule a média da utilidade entre resultados possíveis

A utilidade esperada de uma ação é

Multiplique a utilidade de cada resultado por sua probabilidade e some. A utilidade esperada máxima (MEU) escolhe a ação com o maior resultado. O resultado com a maior utilidade individual não precisa pertencer à melhor ação, e o resultado mais provável, sozinho, não determina a escolha. Uma decisão correta ainda pode produzir um resultado ruim por acaso.

Por que preferências coerentes sustentam a MEU

A teoria da utilidade usa estes requisitos de racionalidade:

• Ordenabilidade: quaisquer duas loterias podem ser comparadas, admitindo indiferença.
• Transitividade: preferir A a B e B a C implica preferir A a C.
• Continuidade: um resultado intermediário pode ser igualado por uma loteria entre resultados melhores e piores.
• Substituibilidade: um resultado ou uma loteria indiferente pode substituir outro em uma loteria maior.
• Monotonicidade: entre loterias com os mesmos resultados melhor e pior, prefira a maior probabilidade do resultado melhor.
• Decomponibilidade: uma loteria sobre loterias se reduz às probabilidades de seus resultados finais.

O resultado de von Neumann–Morgenstern representa preferências que satisfazem esses requisitos por meio da utilidade esperada. Preferências cíclicas violam a transitividade. Se um agente paga uma pequena quantia para passar de B para A, de A para C e de C para B, trocas repetidas o levam de volta à posição original enquanto drenam seu dinheiro. Esse é o problema da “bomba de dinheiro”.

Dinheiro e utilidade podem ordenar loterias de formas diferentes

Compare um pagamento certo de 400 com uma chance de 50% de 1.000 e uma chance de 50% de zero. O dinheiro esperado favorece a loteria, cuja média é 500. Para $U(x)=\sqrt{x}$, porém, a utilidade esperada da loteria é $\mathrm{0,5}\sqrt{1000}+\mathrm{0,5}\sqrt{0}\approx \mathrm{15,81}$, enquanto o pagamento certo fornece 20. Esse agente escolhe 400.

O equivalente de certeza é a quantia certa com a utilidade da loteria. Aqui é $(\mathrm{0,5}\sqrt{1000}{)}^2=250$. A diferença entre o dinheiro esperado e o equivalente de certeza é o prêmio de risco, 250 neste exemplo.

Com utilidade côncava, uma quantia certa igual à média é pelo menos tão desejável quanto a loteria com essa média. A concavidade estrita torna essa preferência estrita para uma loteria não trivial. Uma opção arriscada suficientemente favorável ainda pode superar uma quantia certa de menor valor.

Mude escalas sem mudar preferências

Substituir a utilidade por $U^{\mathrm{\prime }}(s)=kU(s)+c$ com $k>0$ preserva toda comparação de utilidade esperada. Cada expectativa recebe a mesma mudança de escala positiva e o mesmo deslocamento. Uma transformação crescente geral preserva a ordem de resultados certos, mas pode mudar a ordem de loterias.

Ao comparar vários atributos desejáveis, uma opção pelo menos tão boa em cada atributo e melhor em pelo menos um domina a outra. Com preferências que valorizam essas melhorias, a opção dominada pode ser removida sem especificar pesos exatos para os atributos.

Uma rede de decisão, também chamada de diagrama de influência, combina um modelo de probabilidade com escolhas e preferências. Resolvê-la exige tanto inferência sobre estados incertos quanto comparação das ações disponíveis ao agente.

Interprete os três tipos de nós

Nós de acaso, geralmente ovais, têm tabelas de probabilidade. Nós de decisão, geralmente retângulos, representam ações controladas pelo agente. Nós de utilidade, geralmente losangos, atribuem utilidade a combinações de valores dos pais. Uma seta que entra em um nó de decisão identifica uma informação disponível no momento da escolha. Ela não é uma dependência comum de probabilidade condicional.

Para um evento ao ar livre, a chuva influencia uma previsão e a utilidade do evento. A ação também influencia a utilidade. A previsão aponta para a decisão quando é observada antes de a pessoa organizadora escolher. Não há seta da ação para a chuva: mudar para um local fechado não altera o tempo.

Resolva sem uma previsão

Suponha $P(rain)=\mathrm{0,3}$ e use esta tabela de utilidade:

As utilidades esperadas são $EU(outdoors)=\mathrm{0,7}(100)+\mathrm{0,3}(0)=70$ e $EU(indoors)=\mathrm{0,7}(60)+\mathrm{0,3}(70)=63$. Sem mais informações, escolha o local ao ar livre e a MEU é 70. O nó de decisão recebe um valor escolhido, não uma tabela de probabilidades para calcular a média sobre ações.

Incorpore uma previsão

Sejam $P(wet\mid rain)=\mathrm{0,8}$ e $P(wet\mid \mathrm{\neg }rain)=\mathrm{0,1}$. A probabilidade de previsão de chuva é $\mathrm{0,8}(\mathrm{0,3})+\mathrm{0,1}(\mathrm{0,7})=\mathrm{0,31}$. A regra de Bayes fornece $P(rain\mid wet)=\mathrm{0,24}\mathrm{/}\mathrm{0,31}\approx \mathrm{0,774}$. Uma previsão de tempo seco fornece $P(rain\mid dry)=\mathrm{0,06}\mathrm{/}\mathrm{0,69}\approx \mathrm{0,087}$.

Com uma previsão de chuva, o local ao ar livre tem utilidade esperada de cerca de 22,6 e o local fechado, de cerca de 67,7, portanto escolha o local fechado. Com uma previsão de tempo seco, o local ao ar livre fornece cerca de 91,3 e o fechado, cerca de 60,9, portanto escolha o local ao ar livre. Use a probabilidade a posteriori após uma observação; manter a probabilidade a priori descartaria a informação fornecida pela previsão.

A política resultante é “Escolha o local fechado após previsão de chuva; escolha o local ao ar livre após previsão de tempo seco”. Uma política associa observações a ações, portanto pode ser especificada antes de a observação chegar. Uma ação é a escolha única feita quando sua informação está disponível.

Encontre onde a escolha muda

Seja $p$ a probabilidade atual de chuva. Então $EU(outdoors)=100(1-p)$ e $EU(indoors)=60(1-p)+70p=60+10p$. Igualá-las fornece $40=110p$, ou $p=4\mathrm{/}11\approx \mathrm{0,364}$. Abaixo desse limiar, escolha o local ao ar livre; acima dele, escolha o local fechado; no limiar, as ações empatam.

Para resolver outra rede de decisão, fixe a evidência atual, considere cada ação por vez, infira a distribuição de acaso relevante para a utilidade e calcule sua utilidade esperada. Se uma ação alterar um resultado incerto, inclua os efeitos dessa ação no modelo de probabilidade antes de comparar as expectativas. Por fim, selecione a melhor ação separadamente para cada observação possível que a política receberá.

Uma observação é valiosa quando ajuda o agente a escolher uma ação melhor. O valor da informação perfeita (VPI) mede a melhoria esperada ao conhecer o valor de uma variável antes de agir. “Perfeita” descreve o acesso ao valor real dessa variável; a própria variável pode ser uma previsão imperfeita de outra coisa.

Otimize dentro de cada observação possível

Dada a evidência atual $e$, o valor de observar $E^{\mathrm{\prime }}$ é

Primeiro encontre a melhor utilidade esperada ao decidir agora. Depois, para cada observação possível, atualize as probabilidades e escolha a melhor ação para essa observação. Calcule a média dessas utilidades otimizadas usando as probabilidades das observações. Subtraia a MEU atual. Escolher uma ação primeiro e depois calcular a média deixaria de considerar a capacidade de adaptar a ação.

Avalie a previsão e o tempo

Para o modelo do evento, escolher o local ao ar livre sem previsão fornece MEU 70. Previsões de chuva ocorrem com probabilidade 0,31 e levam ao local fechado, com MEU de cerca de 67,74. Previsões de tempo seco ocorrem com probabilidade 0,69 e levam ao local ao ar livre, com MEU de cerca de 91,30. Usando valores exatos, obtemos

Assim, $VPI(F)=84-70=14$ unidades de utilidade. Um custo expresso como perda de utilidade inferior a 14 torna vantajoso obter a previsão; em 14, o agente é indiferente. Um preço em dinheiro deve primeiro ser avaliado na escala de utilidade do agente.

Conhecer o próprio tempo é mais útil. Chuva leva ao local fechado com utilidade 70; ausência de chuva leva ao local ao ar livre com utilidade 100. A média é $\mathrm{0,3}(70)+\mathrm{0,7}(100)=91$, portanto $VPI(Rain)=91-70=21$.

Por que a informação tem valor esperado não negativo

O agente sempre pode ignorar uma informação gratuita e manter sua ação original. Otimizar após observar, portanto, nunca pode reduzir a utilidade esperada antes de a observação ser conhecida. Se a mesma ação for a melhor para todo resultado possível, a informação terá valor zero. Uma informação independente de todas as variáveis de acaso relevantes para a utilidade, dada a evidência atual, também tem valor zero nesse modelo de decisão.

Um resultado específico ainda pode ser indesejado. Após uma previsão de chuva, a MEU é cerca de 67,7, abaixo dos 70 anteriores. A não negatividade diz respeito à média sobre todos os resultados antes de observá-los.

Combine informações sem contar duas vezes

O VPI geralmente não é aditivo. A previsão sozinha vale 14 e o tempo sozinho vale 21, mas conhecer ambos vale 21 porque a previsão não acrescenta nada depois que o tempo é conhecido.

Após uma previsão de chuva, conhecer o tempo acrescenta cerca de 9,03; após uma previsão de tempo seco, acrescenta cerca de 6,09. Antes de conhecer a previsão, o valor adicional esperado é $\mathrm{0,31}(\mathrm{9,03})+\mathrm{0,69}(\mathrm{6,09})\approx 7$. Portanto, o ganho conjunto é $14+7=21$, igual a conhecer o tempo primeiro e depois acrescentar zero. O total independe da ordem quando todas as observações antecedem a ação, com cada ganho posterior avaliado usando as informações anteriores.

Um agente que coleta informações pode escolher repetidamente a observação com o maior VPI menos custo positivo e agir quando nenhuma continuar valendo a pena. Essa estratégia míope avalia uma observação de cada vez. Duas observações podem ser úteis juntas mesmo quando nenhuma delas muda sozinha a melhor ação, portanto a seleção gulosa pode deixar passar um par valioso.