Reducir las desigualdades demográficas en la coherencia entre explicaciones y criterios humanos mediante regularización
Estudio sobre la equidad de las explicaciones en la detección de discurso de odio, usando el conjunto de datos HateXplain. Los autores proponen Plausibility-EFG, una métrica que mide la mayor diferencia de plausibilidad de las explicaciones entre grupos demográficos. ADV-RoBERTa, entrenado de forma adversarial, mejora la clasificación y reduce las diferencias entre grupos frente a BERT y RoBERTa, con los métodos Integrated Gradients y SHAP.
Qué significa
Un modelo puede acertar por igual con todos los grupos y, aun así, explicar sus decisiones de forma menos plausible para unos que para otros, porque la equidad en la predicción y en la explicación son objetivos distintos.
Fuentes originales
Resumen de Hoy en IA. Pulsa una fuente para leer la noticia completa en su idioma original.
- arXiv cs.CLLeer la noticia completa en arXiv cs.CL