Validade de decisão Flashcards

(35 cards)

1
Q

O que são curvas ROC?

A

São ferramentas gráficas utilizadas para avaliar o desempenho de testes de diagnóstico ou modelos de classificação binária, ou seja, testes que procuram distinguir entre duas categorias, tipicamente “positivo” (indivíduos com a condição) e “negativo” (indivíduos sem a condição).

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
2
Q

As curvas ROC são úteis para quê?

A
  • Visualizar o desempenho de um teste em diferentes pontos de corte
  • comparar a precisão diagnóstica de diferentes testes ou modelos
  • Identificar o ponto de corte ideal que equilibra a sensibilidade (taxa de verdadeiros positivos) e especificidade (taxa de verdadeiros negativos)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
3
Q

Qual o pressuposto/ideia por detrás das curvas ROC?

A

Um teste eficaz deve identificar corretamente os indivíduos com a condição (verdadeiros positivos) e os indivíduos sem a condição (verdadeiros negativos).

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
4
Q

O que é que a curva ROC ilustra?

A

Ilustra o compromisso entre a sensibilidade e a especificidade em cada ponto de corte, permitindo uma avaliação mais precisa do desempenho global do teste.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
5
Q

O que é o ponto de corte?

A

Permite-nos diferenciar os verdadeiros positivos e verdadeiros negativos (não existe um ponto de corte perfeito).
É o ponto que nos permite dizer se o sujeito tem ou não aquela condição.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
6
Q

A decisão de dar prioridade à sensibilidade ou especificidade (tolerar mais falsos positivos ou falsos negativos) depende de quê?

A

Depende do contexto e da finalidade do teste.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
7
Q

Em contextos de rastreio, damos prioridade a quê?

A

Sensibilidade, para evitar que casos relevantes passem despercebidos, mesmo que isso implique alguns falsos positivos.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
8
Q

Em contextos de confirmação diagnóstica, damos prioridade a quê?

A

Especificidade pois, como o objetivo é confirmar um diagnóstico e evitar intervenções desnecessárias, queremos reduzir o número de falsos positivos.

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
9
Q

Quais são as decisões que devem informar a curva ROC?

A
  • aplicar o teste ou modelo
  • ordenar os resultados
  • definir os pontos de corte
  • representar graficamente os valores
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
10
Q

Em que consiste a etapa de aplicar o teste ou modelo?

A

O primeiro passo consiste em aplicar o teste ou modelo a indivíduos cuja condição já é conhecida (por exemplo, se tem ou não ansiedade).

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
11
Q

Em que consiste a etapa de ordenar os resultados?

A

O teste atribui a cada individuo uma pontuação ou probabilidade. Estes resultados são organizados por ordem decrescente

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
12
Q

Em que consiste a etapa de definir os pontos de corte?

A

Para cada ponto de corte possível, calcula-se:
- o número de verdadeiros positivos (casos corretamente identificados como tendo a condição)
- o número de falsos negativos (casos incorretamente identificados como tendo a condição)

How well did you know this?
1
Not at all
2
3
4
5
Perfectly
13
Q

Em que consiste a etapa de representar graficamente os valores?

A
  • O eixo horizontal (x) corresponde à taxa de falsos positivos (1 - especificidade)
  • O eixo vertical (y) corresponde à taxa de verdadeiros positivos (sensibilidade)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
14
Q

O que mostra a linha resultante da curva ROC?

A
  • mostra como o teste se comporta em todos os pontos de corte possíveis
  • quanto mais próxima a curva estiver do canto superior esquerdo do gráfico, melhor é a capacidade do teste para distinguir entre indivíduos com e sem condição
  • uma curva próxima da diagonal indica que o teste não tem melhor desempenho do que uma decisão aleatória
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
15
Q

O que mede o eixo Y (vertical)?

A
  • sensibilidade: taxa de verdadeiros positivos (casos positivos que o teste identifica corretamente)
How well did you know this?
1
Not at all
2
3
4
5
Perfectly
16
Q

O que mede o eixo X (horizontal)?

A
  • 1-especificidade: taxa de falsos positivos (casos negativos que o teste classifica incorretamente como positivos)
  • especificidade: taxa de verdadeiros negativos (casos negativos que o teste identifica corretamente)
17
Q

Qual é a fórmula da sensibilidade e o que mede?

A

VP / (VP+FN)
Capacidade de identificar corretamente os casos positivos

18
Q

Qual é a fórmula da especificidade e o que mede?

A

VN / (VN+FP)
Capacidade de identificar corretamente os casos negativos

19
Q

Qual é a fórmula da precisão e o que mede?

A

VP / (VP+FP)
Entre os classificados como positivos, quantos são realmente positivos

20
Q

Qual é a fórmula da exatidão e o que mede?

A

(VP+VN)/(VP+VN+FP+FN) Percentagem total de classificações corretas

21
Q

O que é a AUC (área sobre a curva)?

A

É o espaço ocupado pela área acima do “random classifier”. O AUC deve ser o mais alto possível, quanto maior for AUC, melhor.

22
Q

Como se classifica e interpreta AUC de 0.90 a 1?

A
  • excelente
  • o modelo tem uma discriminação excecional e desempenho quase perfeito
23
Q

Como se classifica e interpreta AUC de 0.80 a 0.90?

A
  • muito bom
  • forte capacidade de distinguir entre classes, poucos erros
24
Q

Como se classifica e interpreta AUC de 0.70 a 0.80?

A
  • bom/aceitável
  • modelo útil com capacidade discriminativa razoável, espaço para melhorias
25
Como se classifica e interpreta AUC de 0.60 a 0.70?
- fraco - capacidade limitada de discriminação, não muito fiável
26
Como se classifica e interpreta AUC de 0.50 a 0.60?
- muito fraco - melhor do que uma suposição aleatória
27
Como se classifica e interpreta AUC de 0.50?
- desempenho aleatório - sem capacidade discriminativa alguma
28
Como se classifica e interpreta AUC de <0.50?
- Pior do que aleatório - Previsões sistematicamente erradas, inverter as previsões resultaria num modelo útil
29
O que é a matriz de confusão?
- mostra quantas vezes os sistemas de classificação (ou teste) confundiu uma classe com outra - a matriz de confusão não gera confusão, ajuda a organizar e explicar onde o sistema acerte e onde comete erros
30
Porquê o termo "confusão" na matriz de confusão?
O termo refere-se a misturar classes quando um sistema de classificação comete erros, por exemplo: - se um sistema classifica um cão como um gato, confunde as duas categorias - num teste médico, se o modelo classifica uma pessoa saudável como doente, confunde “saúde” com “doença”
31
Qual é a variável independente (resultado do teste)?
- Esta é a pontuação fornecida pelo teste - É a variável que usamos para prever ou classificar os indivíduos. É chamada de independente porque o teste a gera sem saber a condição real - Por exemplo, no TPL-4, a pontuação bruta (ex: 18,5) é o resultado que analisamos
32
Qual é a variável dependente (condição real)?
- Refere-se a se a pessoa tem ou não a condição que está a ser testada - É a variável que queremos prever. É chamada de dependente porque esperamos que o resultado do teste a reflita - No caso do TPL-4, a condição real pode ser a presença ou ausência de um distúrbio de linguagem
33
Se quero aumentar o número de falsos positivos, devo fazer o quê?
Diminuir o ponto de corte
34
Se quero aumentar o número de verdadeiros positivos, devo fazer o quê?
Aumentar o ponto de corte
35
Qual a relevância da curva ROC?
- valida o teste - ajuda a evitar enviesamentos - dá suporte à tomada de decisão clínica