El Dr. Edgardo Javier Trenti, vicedirector del Departamento de Informática de la Facultad de Ciencias Exactas de la Universidad Nacional de Salta (UNSa), analiza los desafíos de la inteligencia artificial, los riesgos de su utilización sin formación adecuada y la necesidad de comprender cómo funcionan estas tecnologías. Desde la investigación universitaria, su equipo trabaja para interpretar los procesos internos de las redes neuronales.
La inteligencia artificial (IA) dejó de ser una tecnología reservada a ámbitos especializados y comenzó a formar parte de la vida cotidiana. Su capacidad para comprender y producir lenguaje, responder consultas y generar contenidos despertó nuevas posibilidades, pero también interrogantes sobre sus efectos en la educación, el pensamiento crítico y el futuro de la sociedad.
Para el Dr. Edgardo Javier Trenti, doctor en Ciencias y profesor adjunto a cargo de las asignaturas Teorías de la Computación I, II y III, la expansión reciente de estas herramientas no significa que la inteligencia artificial sea nueva. Su presencia lleva años, pero la aparición de modelos vinculados al lenguaje permitió que sus capacidades fueran más visibles para el conjunto de la sociedad.
“Parece entendernos perfectamente y nos contesta de una manera coherente, aunque a veces no nos diga la verdad”, explicó. Esa capacidad, que calificó como asombrosa, también exige comprender sus límites y desarrollar criterios para utilizarla de manera responsable.
Comprender qué sucede dentro de las redes neuronales
Desde la Facultad de Ciencias Exactas de la UNSa, el equipo de investigación en el que trabaja Trenti busca comprender cómo las redes neuronales procesan y codifican la información. Para ello, estudia los llamados espacios latentes, estructuras matemáticas en las que los modelos representan los datos que reciben durante su entrenamiento.
Debido a que los modelos de mayor escala requieren recursos informáticos que no siempre están disponibles, el grupo trabaja con imágenes pequeñas y redes neuronales más acotadas. A través de técnicas métricas y geométricas, intenta identificar qué partes de esas redes responden a determinados estímulos y cómo se organiza internamente la información.
El investigador compara este procedimiento con el estudio del área de Broca, una región del cerebro vinculada con la producción del lenguaje. Así como la observación de una lesión permitió identificar una función cerebral, en las redes neuronales se pueden retirar pequeñas partes de su estructura —mediante técnicas conocidas como ablación— para observar qué sucede y aproximarse a comprender cómo funciona el modelo.
Este trabajo busca aportar conocimiento sobre el funcionamiento interno de sistemas que, pese a su creciente presencia, todavía presentan aspectos difíciles de interpretar.
Educación, responsabilidad y riesgos futuros
Uno de los puntos que más preocupa a Trenti es el impacto de estas herramientas durante las etapas de formación de niños y adolescentes. Si bien considera que existe una responsabilidad individual en el tiempo y la manera en que cada persona utiliza la tecnología, sostiene que también es necesario un abordaje institucional.
“Hay que tener mucho cuidado con el uso de inteligencia artificial en esa época de la vida de una persona”, advirtió, en referencia al período de desarrollo que va aproximadamente de los 3 o 4 años hasta los 20. En ese sentido, consideró urgente que el Estado convoque a distintas instituciones para analizar protocolos de uso, especialmente en el ámbito educativo.
Para el investigador, el desafío no consiste solamente en incorporar herramientas tecnológicas, sino en evitar que su utilización reemplace capacidades fundamentales como leer, interpretar, buscar información, elaborar argumentos y producir conocimiento propio.
La preocupación también alcanza al desarrollo de sistemas cada vez más complejos. Trenti recordó las advertencias de Geoffrey Hinton, uno de los referentes históricos de las redes neuronales, sobre los posibles riesgos de modelos capaces de mejorar sus propias capacidades. En particular, señaló que los mecanismos de automejora recursiva y el desarrollo de agentes de inteligencia artificial que reciben objetivos y pueden buscar distintas formas de cumplirlos plantean interrogantes sobre el control de estas tecnologías.
“Lo preocupante es que todos nos hemos convertido en vectores en esos espacios latentes”, expresó, al referirse a la manera en que las plataformas digitales representan los intereses y comportamientos de las personas para recomendar contenidos. A su entender, todavía no se comprende completamente cómo se codifica esa información ni cuáles pueden ser sus consecuencias.
Trenti reconoce que los avances de la inteligencia artificial resultan fascinantes y que su desarrollo continuará, pero advierte que la velocidad de las innovaciones exige mayor conocimiento, responsabilidad y debate público. “Mientras no sepamos bien cómo está funcionando esto, estamos jugando con fuego”, sostuvo.
Desde la Universidad Nacional de Salta, la investigación sobre redes neuronales forma parte de ese desafío: no solo utilizar las nuevas tecnologías, sino también estudiarlas, comprender sus mecanismos y contribuir a una discusión informada sobre sus alcances. En un escenario de transformación acelerada, producir conocimiento propio resulta fundamental para que la sociedad pueda participar de las decisiones sobre su futuro tecnológico.