Dos modelos de IA entrenados igual pueden llegar a conclusiones distintas, según un estudio

Un estudio publicado en Nature Machine Intelligence sostiene que dos redes neuronales preparadas con los mismos datos y el mismo método pueden acabar aprendiendo cosas diferentes. Según la investigación, la explicación está en las matemáticas del aprendizaje, concretamente en estructuras fractales cuya complejidad persiste aunque se amplíe la imagen. Una diferencia minúscula en el punto de partida puede bastar para que dos modelos terminen con comportamientos distintos.

Los autores entrenaron alrededor de 500.000 redes neuronales, entre ellas sistemas para reconocer imágenes y analizar opiniones escritas, y detectaron este comportamiento con distintas arquitecturas y métodos de entrenamiento. En una de las pruebas, reducir diez mil millones de veces la separación entre las condiciones iniciales no mejoró de forma apreciable la reproducibilidad. En un experimento de reconocimiento de imágenes, dos redes discreparon aproximadamente en el 2,9% de los casos.

Hasta ahora, muchas explicaciones apuntaban al orden de los datos o a pequeñas variaciones de cálculo de los procesadores. Los investigadores no descartan esos factores, pero plantean por qué una perturbación tan pequeña puede tener consecuencias apreciables incluso controlando el resto del proceso. Para ilustrarlo describen un mapa en el que las zonas que conducen a resultados distintos aparecen entremezcladas, de modo que acercarse al punto de partida no basta para predecir el resultado.

El estudio también encontró una forma de reducir esa incertidumbre: hacer más pequeños los ajustes que la red realiza mientras aprende. Sin embargo, en muchas pruebas esa mayor estabilidad empeoraba el rendimiento del entrenamiento, de modo que las condiciones que favorecen un mejor aprendizaje son también las que dificultan repetir el resultado.

Conviene tener en cuenta que el trabajo analiza cómo se forman los modelos y no lo que ocurre cuando se repite una pregunta a un chatbot ya entrenado, y que no demuestra que toda IA sea impredecible. Los investigadores proponen que modificar el diseño de las redes podría ayudar a reducir estas diferencias, algo relevante a medida que la IA se integra en la sanidad, los negocios o la investigación. La información procede de un artículo difundido por la Universidad de Sydney.

Información elaborada a partir de El Periódico de Aragón.