Muestra las diferencias entre dos versiones de la página.
Ambos lados, revisión anterior Revisión previa Próxima revisión | Revisión previa Próxima revisión Ambos lados, revisión siguiente | ||
clase:iabd:pia:2eval:tema07-apendices [2022/03/20 10:17] admin [Creación de los gráficos del descenso de gradiente] |
clase:iabd:pia:2eval:tema07-apendices [2024/03/19 14:04] admin [Juntado dos Métricas derivadas] |
||
---|---|---|---|
Línea 1: | Línea 1: | ||
- | ====== 7. Entrenamiento de redes neuronales | + | ====== 7. Entrenamiento de redes neuronales |
===== Tipos de funciones de coste ===== | ===== Tipos de funciones de coste ===== | ||
Línea 83: | Línea 83: | ||
<sxh python> | <sxh python> | ||
- | def get_puntos_descenso_gradiente(epochs, | + | def get_puntos_descenso_gradiente(epochs, |
- | | + | |
+ | w_1=w_1_original | ||
- | w_0=w_0_init | + | |
- | | + | |
| | ||
for epoch in range(epochs): | for epoch in range(epochs): | ||
Línea 180: | Línea 180: | ||
return | return | ||
- | def get_puntos_descenso_gradiente-optimizer(epochs, | + | def get_puntos_descenso_gradiente_optimizer(epochs, |
puntos_descenso_gradiente=np.array([[w_0_init, | puntos_descenso_gradiente=np.array([[w_0_init, | ||
Línea 232: | Línea 232: | ||
Y obviamente el resultado es el mismo | Y obviamente el resultado es el mismo | ||
+ | ===== Métricas ===== | ||
+ | ==== Juntado dos Métricas Básicas ==== | ||
+ | ^ ^ Fórmula que usan ^^^^^ | ||
+ | ^ Métricas básicas que usan ^ Media aritmética | ||
+ | | Sensibilidad (TPR) y Especificidad (TNR) | | | | $Informedness=TPR+TNR-1$ | | | ||
+ | | Sensibilidad (TPR) y FPR | | | | | ||
+ | | Especificidad (TNR) y FNR | | | | | ||
+ | | FPR y FNR | | | | ||
+ | |||
+ | |||
+ | ==== Juntado dos Métricas derivadas ==== | ||
+ | |||
+ | ^ ^ Fórmula que usan ^^^^^ | ||
+ | ^ Métricas básicas que usan ^ Media aritmética | ||
+ | | PPV y NPV | | | | $Markdness=PPV+NPV-1$ | | | ||
+ | | PPV y FOR | | | | | ||
+ | | NPV y FDR | | | | | ||
+ | | FDR y FOR | | | | | ||
+ | |||
+ | |||
+ | ===== Métricas mixtas ===== | ||
+ | Son métricas que juntan una métrica básica con una métrica derivada. Debido a que existen 16 combinaciones no vamos a mostrar todas las que existen, sino solo las que he considerado interesantes. | ||
+ | |||
+ | * La siguiente tabla son métricas que existen (Tienen nombre) | ||
+ | |||
+ | ^ ^ Fórmula que usan ^^^^^ | ||
+ | ^ Métricas básicas que usan ^ Media aritmética | ||
+ | | PPV y Sensibilidad (TPR) | | $F_{1}score=\frac{2}{\frac{1}{PPV}+\frac{1}{TPR}}$ | ||
+ | | NPV y Especificidad (TNR) | | | | | ||
+ | |||
+ | ===== Más métricas ===== | ||
+ | |||
+ | |||
+ | ==== Fowlkes-Mallows ==== | ||
+ | |||
+ | |||
+ | $$ | ||
+ | Fowlkes-Mallows \; index=\sqrt{PPV*TPR} | ||
+ | $$ | ||
+ | |||
+ | |||
+ | |||
+ | ==== Indice Jaccard ==== | ||
+ | Este índice es la división entre 2 probabilidades: | ||
+ | |||
+ | $$ | ||
+ | Indice \; Jaccard=\frac{P(Positivo \cap Enfermo)}{P(Positivo \cup Enfermo)}=\frac{TP}{TP+FP+FN} | ||
+ | $$ | ||
+ | |||
+ | * Se deduce de la siguiente forma: | ||
+ | |||
+ | $$ | ||
+ | \frac{P(Positivo \cap Enfermo)}{P(Positivo \cup Enfermo)}= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \frac{P(Positivo|Enfermo)*P(Enfermo)}{P(Positivo)+P(Enfermo)-P(Positivo \cap Enfermo)}=\frac{P(Positivo|Enfermo)*P(Enfermo)}{P(Positivo)+P(Enfermo)-P(Positivo|Enfermo)*P(Enfermo)} | ||
+ | $$ | ||
+ | |||
+ | * Sabiendo que: | ||
+ | |||
+ | $$ | ||
+ | |||
+ | \begin{array} | ||
+ | \\ | ||
+ | P(Enfermo)& | ||
+ | \\ | ||
+ | P(Sano)& | ||
+ | \\ | ||
+ | P(Positivo)& | ||
+ | \\ | ||
+ | P(Negativo)& | ||
+ | \\ | ||
+ | P(Positivo|Enfermo)& | ||
+ | \end{array} | ||
+ | $$ | ||
+ | |||
+ | * Entonces: | ||
+ | |||
+ | $$ | ||
+ | \frac{P(Positivo|Enfermo)*P(Enfermo)}{P(Positivo)+P(Enfermo)-P(Positivo|Enfermo)*P(Enfermo)}= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \left ( \frac{TP}{TP+FN}*\frac{TP+FN}{TP+FN+FP+TN} \right ) \div \left (\frac{TP+FP}{TP+FN+FP+TN}+\frac{TP+FN}{TP+FN+FP+TN}-\frac{TP}{TP+FN}*\frac{TP+FN}{TP+FN+FP+TN} \right )= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \left ( \frac{TP}{TP+FN+FP+TN} \right ) \div \left (\frac{TP+FP}{TP+FN+FP+TN}+\frac{TP+FN}{TP+FN+FP+TN}-\frac{TP}{TP+FN+FP+TN} \right )= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \left ( \frac{TP}{TP+FN+FP+TN} \right ) \div \left (\frac{TP+FP+TP+FN-TP}{TP+FN+FP+TN} \right )=\left ( \frac{TP}{TP+FN+FP+TN} \right ) \div \left (\frac{TP+FP+FN}{TP+FN+FP+TN} \right )= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \frac{TP}{TP+FP+FN}=Indice \; Jaccard | ||
+ | $$ | ||
+ | |||
+ | * Sin embargo también podemos definir el Indice Jaccard en función de la sensibilidad, | ||
+ | |||
+ | $$ | ||
+ | P(Positivo)=\frac{P(Positivo|Enfermo)*P(Enfermo)}{P(Enfermo|Positivo)}= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \frac{P(Positivo|Enfermo)*P(Enfermo)}{1} \div \frac{P(Positivo|Enfermo)*P(Enfermo)}{P(Positivo|Enfermo)*P(Enfermo)+P(Positivo|Sano)*P(Sano)}= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | Sensibilidad*Prevalencia+(1-Especificidad)*(1-Prevalencia) | ||
+ | $$ | ||
+ | |||
+ | |||
+ | * Y ahora usamos la formula de P(Positivo) en la definición del Indice Jaccard | ||
+ | |||
+ | $$ | ||
+ | Indice \; Jaccard=\frac{P(Positivo|Enfermo)*P(Enfermo)}{P(Positivo)+P(Enfermo)-P(Positivo|Enfermo)*P(Enfermo)}= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \frac{Sensibilidad*Prevalencia}{Sensibilidad*Prevalencia+(1-Especificidad)*(1-Prevalencia)+Prevalencia-Sensibilidad*Prevalencia}= | ||
+ | $$ | ||
+ | |||
+ | $$ | ||
+ | \frac{Sensibilidad*Prevalencia}{(1-Especificidad)*(1-Prevalencia)+Prevalencia} | ||
+ | $$ | ||
+ | |||
+ | * Por lo tanto | ||
+ | |||
+ | $$ | ||
+ | Indice \; Jaccard=\frac{Sensibilidad*Prevalencia}{(1-Especificidad)*(1-Prevalencia)+Prevalencia} | ||
+ | $$ | ||
+ | |||
+ | |||
+ | |||
+ | ==== Prevalence threshold ==== | ||
+ | La métrica de Prevalence threshold está explicada en [[https:// | ||
+ | |||
+ | Lo único que diremos respecto a la formula es que en el artículo aparece como: | ||
+ | |||
+ | $$ | ||
+ | Prevalence \; threshold=\frac{\sqrt{Sensibilidad(1-Especificidad)}+(Especificidad-1)}{Sensibilidad+Especificidad+1} | ||
+ | $$ | ||
+ | Que jugando un poco con los signos se obtiene la formula equivalente que aparece en Wikipedia: | ||
+ | $$ | ||
+ | Prevalence \; threshold=\frac{\sqrt{Sensibilidad*FPR}-FPR}{Sensibilidad-FPR} | ||
+ | $$ | ||
+ | |||
+ | ==== Diagnostic odds ratio ==== | ||
+ | Se define como la división entre //Positive likelihood ratio (LR+)// y //Negative likelihood ratio (LR-)// | ||
+ | |||
+ | $$ | ||
+ | DOR=\frac{LR+}{LR-}=\frac{TP*TN}{FP*FN} | ||
+ | $$ | ||
+ | |||
+ | * Aunque también se puede definir en función de la sensibilidad y la especificidad | ||
+ | |||
+ | $$ | ||
+ | DOR=\frac{LR+}{LR-}=\frac{\frac{TPR}{1-TNR}}{\frac{1-TPR}{TNR}}=\frac{Sensibilidad*Especificidad}{(1-Sensibilidad)(1-Especificidad)} | ||
+ | $$ | ||