Miles de números que se ajustan solos.
Una red neuronal no se programa regla a regla. Ve ejemplos, mide cuánto se equivoca y corrige cada uno de sus números un poquito. Repite eso miles de veces y acaba acertando, aunque nadie sepa exactamente por qué. Aquí la desmontas pieza a pieza con tres plugins que puedes tocar.
Multiplica, suma y decide.
Una neurona recibe números. Multiplica cada uno por su peso, que es cuánto le importa esa entrada. Lo suma todo, añade un sesgo y pasa el resultado por una activación: si la suma es alta, se enciende; si es baja, se apaga.
Sola, una neurona solo sabe trazar una línea recta. A un lado se enciende y al otro no. Los pesos giran la línea; el sesgo la desplaza.
Neuronas que escuchan a otras neuronas.
Si juntas neuronas tienes una capa, y si encadenas capas tienes una red. La primera capa traza rectas. La siguiente combina esas rectas en curvas, y la siguiente combina curvas en formas.
Cada casilla del plugin es una neurona y muestra lo que ve. Prueba a quitar todas las capas ocultas: la red ya no puede rodear el círculo. Luego prueba la espiral con tres capas.
Bajar una montaña con niebla.
Al principio los pesos son aleatorios y la red falla. Se mide el error y un algoritmo, backpropagation, calcula para cada peso hacia dónde moverlo para que el error baje un poco.
Es como bajar una montaña con niebla: no ves el valle, pero notas hacia dónde baja el suelo y das un paso. El tamaño del paso es el learning rate. Si es muy grande saltas de lado a lado; si es muy pequeño no llegas nunca.
Funciona, pero nadie sabe por qué.
Esto es la red del plugin 02 tal cual: una lista de números. Ningún humano los eligió y ninguno lleva etiqueta. Un modelo grande tiene miles de millones.
Que funcione no explica cómo funciona. Por eso se habla de caja negra.
Abrir la caja y diseccionar.
La interpretabilidad mecanicista intenta entender qué hace cada pieza: qué detecta cada neurona, qué grupos trabajan juntos (circuitos) y qué se rompe si apagas una (ablación).
Haz clic en una neurona de la misma red. Verás qué detecta y podrás apagarla. El escáner las apaga una a una y marca en rojo cuánto empeora la red sin cada una. Así encuentras las imprescindibles y las que sobran.
La misma idea, aplicada a un CV.
En «Mi cerebro» una red pequeña ha leído mis dos CV. Ha aprendido qué tecnologías, proyectos y experiencias van juntos, los guarda como mezclas de 12 neuronas y encuentra relaciones que no aparecen escritas juntas. Es todo lo que has visto en este manual, funcionando sobre mi stack.