Rullst AcademyRullst Academy/Lição
Dados, probabilidade e estatística I · Lição 11 / 12

Antes de celebrar um modelo, compare

Um alarme fictício acerta 90% dos dez casos de teste. Isso parece bom até descobrir que uma regra que sempre diz “normal” também acerta 90% — e deixa passar a única falha.

Trilhas de aprendizado18 min

Vamos descobrir juntos

  1. 1

    Há nove casos normais e uma falha. A regra Sempre normal tem nove acertos, uma falha não detectada e zero alarmes falsos. Acurácia é acertos/total; aqui, 9/10 = 90%. Ela sozinha esconde qual caso foi perdido.

  2. 2

    A segunda regra detecta a falha, mas dispara também para um caso normal. Continua com nove acertos: oito normais mais a falha. Agora há zero falhas perdidas e um alarme falso. Mesmo percentual, consequências diferentes.

  3. 3

    O painel de comparação abaixo calcula esses resultados; ele não treina IA nem avalia equipamento real. Escolher depende do objetivo e do custo dos erros. Dez casos inventados não demonstram desempenho fora deste exercício.

  4. 4

    Defina métrica e referência antes da comparação. Em um projeto de IA, exemplos usados para ajustar a solução não devem servir como única avaliação final. Guardar casos separados e relatar erros por grupo ajuda a detectar resultados que uma média esconde.

Laboratório de evidências

Experimente com entregas fictícias da estação Aurora. A análise acontece neste navegador. Nenhum dado digitado aqui é enviado ao servidor.

A oficina reinicia ao sair ou recarregar. Baixe dados e relatório para guardar seu trabalho, ou leve o relato ao editor da atividade, que mantém um rascunho neste navegador. Conclusão e XP ficam na conta.

Cabeçalho id,group,minutes; uma entrega por linha; id único; grupos A/B; ponto decimal; duração 0–1440 com até duas casas. Vazio significa desconhecido. Até 100 linhas. Sem aspas ou vírgula decimal. Use dados inventados.

A seleção usa a tabela digitada, incluindo ausentes. Sorteio não garante representatividade. A mesma semente reproduz a seleção; ela não recupera casos fora da tabela.

Faça uma previsão e analise a tabela.

Bolsa virtual: modelo com reposição

Há quatro fichas equiprováveis; você escolhe quantas são azuis. Cada ficha volta antes do próximo sorteio. É uma simulação determinística, sem prêmios, dinheiro ou observações reais.

Repetir a semente repete a sequência. Mais sorteios não garantem maior proximidade em toda execução e não validam o modelo real.

Duas regras, o mesmo percentual de acerto

Dez casos fictícios: nove normais e uma falha. Regras definidas para este exemplo; nenhum treinamento de IA ou teste de equipamento real. Mesmo número de acertos, consequências diferentes.

Duas regras, o mesmo percentual de acerto
RegraAcertos / totalFalhas não detectadasAlarmes falsos

Seu relato de investigação

Links oficiais e próximo passo

✦
SUA MISSÃO

Comparar uma solução com uma referência simples e examinar tipos de erro.

Agora é a sua vez

Oficina de descobertas

Preveja, confira, explique

Comparar uma solução com uma referência simples e examinar tipos de erro.
Monte suas respostas e confira quando estiver pronto.
Uma pausa para entender

Por que comparar com Sempre normal?

Preciso de uma pista

Percentual de acerto não substitui objetivo, distribuição dos casos e custo dos erros. Uma referência simples torna a comparação mais informativa.

Carregando sua jornada…

Leve com você

Invente 12 casos com duas falhas e compare Sempre normal com uma regra sua. Conte acertos, falhas perdidas e alarmes falsos. Explique qual erro seria mais custoso nesse cenário fictício e que dados ainda faltam.

No seu ritmo

Meus arquivos e GitHub

Toda lição pode virar um registro seu: código, anotações ou um plano de prática. Guardar um arquivo no GitHub é opcional e não altera seu XP.

Manual do aluno

O editor e os downloads abrem quando esta lição estiver liberada para sua conta. Confira o acesso abaixo ou volte ao mapa da trilha.

Conferindo seu acesso à lição…

Rullstpetbot

A IA pode errar. Confira no material da lição.