Google What-If Tool

La herramienta Google What-If Tool (WIT) destaca como un recurso esencial de código abierto para los científicos de datos e ingenieros de ML dedicados al desarrollo responsable de IA. Desarrollada por el equipo PAIR de Google, ofrece una interfaz visual interactiva para examinar modelos de aprendizaje automático sin tener que escribir código complejo para cada consulta. Su fortaleza principal reside en el análisis contrafactual, que permite a los usuarios modificar los puntos de datos y ver instantáneamente cómo cambian las predicciones del modelo, lo cual es invaluable para descubrir sesgos ocultos.

Si bien destaca en la visualización y funciona perfectamente en Jupyter Notebooks, Colab y TensorBoard, tiene una curva de aprendizaje. Está diseñada principalmente para usuarios técnicos en lugar de partes interesadas del negocio, lo que significa que la configuración requiere cierta competencia en programación. Sin embargo, dado su sólido conjunto de funciones para segmentar datos y comparar el rendimiento entre subgrupos, combinado con ser completamente gratuita, sigue siendo una herramienta de referencia para la auditoría de equidad. Es imprescindible en el conjunto de herramientas de cualquier persona que se tome en serio la interpretabilidad del modelo y la mitigación de sesgos.