¿Podemos entender lo que ocurre dentro de una red neuronal?
Pistas serias
Por qué importa
Entender lo que ocurre dentro de las redes neuronales podría dar más garantías sobre cómo se comportarán los sistemas de IA, y arrojar luz sobre preguntas científicas acerca de la naturaleza de la inteligencia.
Lo que sabemos
Podemos aislar conceptos y circuitos internos en los grandes modelos de lenguaje.
Lo que nos frena
Los modelos son enormes, y cada neurona mezcla varios conceptos.
Pistas actuales
Diccionarios de rasgos, trazado de circuitos, herramientas de análisis automatizado.
Subpreguntas
¿Qué cuenta exactamente como un «rasgo», o concepto, dentro de una red neuronal?
¿Cómo podemos comprobar que una explicación de lo que hace una red es realmente correcta?
¿Se puede automatizar el trabajo de entender los modelos de IA y mantenerlo asequible a medida que los modelos siguen creciendo?