La inteligencia artificial y la inteligencia artificial generativa (IAGen) ya forman parte de la manera en la que muchas personas realizan diversas tareas: consultar información, escribir, crear productos gráficos y multimedia, comunicarse, aprender, entretenerse, entre muchas otras. Frente a esa realidad se presentan dos posturas: el entusiasmo, que las presenta como una solución para casi todo, y el rechazo, que las percibe como una amenaza. Como siempre, ninguno de los extremos es bueno y la respuesta a la pregunta de si usar o no la IAGen es “depende”.

Estas posturas suelen tomar formas extremas. En un lado está la idea de que la IAGen es la nueva punta de la lanza de la productividad presente en todas las áreas, como si el valor se midiera solamente en lo rápido que se puede producir. En el otro lado está la idea de que la IAGen es una burbuja inflada por los intereses corporativos que apenas estalle desaparecerá junto con la novedad. Ambas posiciones tienen algo de verdad; hay intereses económicos, hay ganancias reales y muchas posibilidades, pero algo que parece probable es que tendremos que convivir con la IAGen y para ello vale la pena decidir qué rol darle en diversos aspectos de nuestra vida.

Una buena manera de orientar estas decisiones parte del nivel de conciencia que tengamos acerca de cómo funciona la IAGen. No se trata de entender su programación o la complejidad de sus algoritmos o de volvernos especialistas, sino de reconocer lo que ocurre detrás de una respuesta, cómo se construye, qué tan confiable puede ser y en qué momento hay que reconocer que hay algoritmos presentes en momentos que no advertimos. Con esa comprensión, la decisión frente al uso de la IAGen, y de cómo hacerlo, se convierte poco a poco en una elección informada.
Por esta razón, el marco de Apropiación de la IAGen propone la comprensión como una de sus dimensiones. Aunque nace en el contexto académico y como respuesta a las necesidades de la Universidad, las preguntas que plantea atraviesan el hacer profesional, la docencia, el aprendizaje y la vida cotidiana por igual.

La dimensión de comprensión de la IAGen se despliega a través de cuatro aspectos complementarios: Los fundamentos técnicos, el rol de los datos, las capacidades y limitaciones estructurales y el reconocimiento de los contextos donde puede operar la inteligencia artificial (No solo la IAGen).

El primero de estos aspectos permite entender qué hace un modelo cuando genera una respuesta; el segundo explica cómo los datos con los que aprende inciden en lo que produce; el tercero ayuda a identificar lo que puede hacer o no y por qué; y el cuarto permite reconocer que ya hay muchos espacios en los que diferentes inteligencias artificiales intervienen y no siempre lo advierten o nos dejan elegir si queremos que lo hagan. A continuación, hablaremos de cada uno acompañado de algunos hitos que ayudan a dar perspectiva de su importancia y de sus conexiones con diversos aspectos de la vida.

Los modelos de lenguaje que usamos a diario aprenden a predecir la siguiente palabra más probable a partir de un texto que reciben. No consultan una base de datos con verdades, solo calculan a partir de patrones la continuación más probable. Así mismo funciona la generación de muchos otros medios: reconocen y almacenan patrones y luego lanzan unos dados cargados (con esa información) que muy probablemente se acercarán a una respuesta plausible, pero no deja de ser cada respuesta un lanzamiento. Usar la IAGen sin comprender esto es lanzar los dados y rogar que el resultado nos sea útil. Comprenderlo nos permite ser más precisos en la forma en que lanzamos los datos y dejar de confiar en el resultado que nos entregan.

Está manera de funcionar tiene un origen reciente. En 2017, un equipo de Google publicó el artículo Attention Is All You Need ¹ , que presentó la arquitectura conocida como transformer, base de la mayoría de los modelos actuales. En noviembre de 2022, OpenAI lanzó ChatGPT y popularizó esta tecnología mientras las herramientas DALL·E 2 y Midjourney seguían un camino similar en el terreno visual: en lugar de predecir palabras, combinan patrones aprendidos de millones de imágenes hasta producir una que se acerca a nuestro prompt ² . Se veía casi como magia ¿acaso la IAGen piensa?

Existe un acuerdo amplio en que lo que hacen estos modelos se aleja de lo que concebimos como pensar: no tienen intenciones, experiencia del mundo ni comprensión de lo que dicen. Sin embargo, la frontera es menos nítida de lo que parece. Predecir lo que se espera decir y, cuando falta información, completar el vacío con algo plausible se asemeja a lo que hacemos los seres humanos en muchas conversaciones. Quizás la pregunta más útil no sea si la IAGen piensa, sino qué haremos nosotros cuando lo haga. En la práctica profesional, docente y cotidiana, esa pregunta nos devuelve la responsabilidad de contrastar, cuestionar y confrontar, en lugar de confiar en sus acciones que pueden parecer correctas.

Un modelo de IAGen aprende de enormes volúmenes de textos, imágenes, audios y código tomados de internet, libros y otras fuentes. Lo que aprende refleja esos datos, con sus aciertos, sus vacíos y sus sesgos. Pero conviene ir un paso más allá: si no existen verdades absolutas, el propio conocimiento de la humanidad es, en buena medida, información sesgada sobre la que hay ciertos consensos y disensos. La IAGen no se entrenan con verdades, sino con lo que hemos escrito, fotografiado y grabado, y tiende a reproducir con las voces más representadas. Las voces minoritarias, o las que se decidió que no fueran incluidas, aparecen poco o no aparecerán nunca.

Un caso temprano ilustra esta relación. En octubre de 2018, la agencia Reuters ³ reveló que Amazon había abandonado una herramienta de selección de personal porque penalizaba las hojas de vida de mujeres. El sistema había sido entrenado con diez años de candidaturas recibidas por la empresa, en su mayoría de hombres, y convirtió ese patrón en criterio de evaluación. Años después, en febrero de 2024, Google suspendió temporalmente la generación de imágenes de personas en su modelo Gemini ⁴, después de que produjera imágenes históricamente inexactas al intentar corregir la falta de diversidad de sus resultados. Ambos casos muestran que no hay un punto neutral desde el cual programar la representación del mundo: tanto reproducir los sesgos como intentar corregirlos implica decisiones humanas. Pareciera como si tuviéramos que educar a las IAs.

Los datos hablan también del privilegio. Quien ha tenido más acceso a publicar, digitalizar y difundir su historia aparece más representado en los datos, y su narrativa de la historia pesa más en lo que la IAGen responde. Por eso, comprender el rol de los datos implica preguntarnos qué se afirma sobre el sur global y sobre Colombia, qué tanto representan estas voces a cada género, cuánto hablan de cada cultura, qué ocurre con las minorías étnicas y con las lenguas que tienen poca presencia en internet, y qué perspectivas de cada disciplina pueden estar ausentes. En el aula, esta pregunta puede convertirse en objeto de análisis con los estudiantes; en la vida cotidiana, en un hábito de cuestionamiento frente a respuestas que parecen adecuadas.

La IAGen puede redactar, traducir, resumir, proponer ideas, crear imágenes y video, componer música y generar código en pocos segundos. Sus limitaciones, sin embargo, son rasgos que vienen de su diseño: puede inventar datos y referencias con total seguridad, en lo que se conoce como “alucinaciones”; su conocimiento tiene una fecha límite; y sus respuestas varían según la forma en que se formula la pregunta. En 2023, en el caso Mata vs Avianca ⁵, un abogado presentó ante un tribunal federal de Nueva York jurisprudencia que ChatGPT había alucinado, y el 22 de junio de ese año el juez sancionó a los abogados y a su firma.

A estas limitaciones se suma una menos visible. La IAGen produce a una velocidad que supera nuestra capacidad de revisión. Esto genera una sensación falsa de productividad: se produce mucho más, pero se verifica mucho menos, y el resultado son artefactos potencialmente defectuosos y riesgosos de usar. Un estudio de la empresa de seguridad Veracode ⁶, publicado en julio de 2025, encontró que el código generado por más de cien modelos introducía vulnerabilidades de seguridad en cerca del 45 % de las tareas evaluadas. Ese mismo mes, un agente de programación de la plataforma Replit borró la base de datos de un proyecto en curso ⁷, a pesar de haber recibido la instrucción explícita de no hacer cambios sin aprobación.

Estos casos ayudan a precisar el lugar de la IAGen en nuestras actividades: puede ser un buen punto de partida para explorar y producir, pero lo que genera necesita revisiones acordes a lo crítico que sea el propósito de uso. Comprender sus límites permite distinguir las tareas en las que aporta de aquellas en las que el riesgo supera el beneficio, y reconocer que producir más no siempre equivale a producir mejor.

Los productos que utilizan IA a veces no nos dicen explícitamente que está ahí. Podemos encontrarla en los buscadores que resumen resultados, en el predictor de texto que sugiere cómo terminar una frase, en las plataformas que recomiendan música de acuerdo con nuestros gustos, sitios que deciden qué noticias o qué videos mostrarnos, y en los servicios de atención al cliente que tienen un modelo de lenguaje respondiendo por chat. Reconocer dónde interviene la IA (No solo la IAGen) es una condición para decidir cómo relacionarnos con ella.

Ese reconocimiento es igualmente importante para saber a qué estamos renunciando cuando usamos la IA. Cuando los sistemas aprenden de nuestras preferencias y nos ofrecen más de lo mismo, pueden encerrarnos en una burbuja epistemológica: un espacio cómodo en el que encontramos lo que esperamos, confirmamos lo que ya pensamos (así sea incorrecto o inclusive peligroso) y rara vez nos topamos con lo que nos desafía o nos sorprenda. A esto se suma una tentación más sutil, la de dejar que sea un algoritmo quien resuelva por nosotros aquello que nos exigía probar, equivocarnos y volver a intentar. En ese proceso podemos perder, sin notarlo, parte de la posibilidad de explorar otros conocimientos, aprender por nuestra cuenta y crear de una manera completamente original.

El impacto más directo se puede ver en el arte y la expresión. En marzo de 2023 circuló en redes sociales una imagen del papa Francisco con una chaqueta inflable blanca ⁸, que millones de personas compartieron como real antes de que se aclarara que había sido creada con Midjourney. Unos meses antes, en 2022, una obra generada con esa misma herramienta, Théâtre D’opéra Spatial ⁹, de Jason Allen, había ganado un concurso de arte digital y desató un debate sobre qué consideramos arte. Esto nos lleva a la pregunta: ¿qué ocurre con la diversidad de nuestras formas de expresión cuando todos usamos los mismos modelos para crear, y qué pasará cuando estos modelos se alimenten cada vez más con contenido creado por ellos mismos?

En la práctica profesional y docente, reconocer la IA no solo implica identificar cuándo un texto, una imagen o una recomendación pudieron haber sido generados por un sistema automático, y acompañar a otros para que se hagan la misma pregunta. Implica también comprender que en muchas ocasiones esa respuesta es compleja, que cada vez más habrá zonas grises en las que la originalidad será difusa y que el rol del humano en la producción de un contenido será más difícil de separar de la intervención de la IA. De nuestra parte nos cuestiona acerca de la transparencia en nuestras propias prácticas, declarando cuándo y cómo usamos la IAGen, en coherencia con los Lineamientos de la Universidad.

Comprender cómo funciona la IAGen nos permite mirar con más claridad lo que está en juego para nuestra naturaleza humana. Su potencial es real: amplía las posibilidades de crear, puede acompañar el aprendizaje, facilita el acceso a información en otros idiomas y podría liberar tiempo para tareas que requieren juicio, creatividad y cuidado. Sus riesgos también lo son, y tocan supuestos que hasta hace poco dábamos por sentados.

Cambia la manera en que creamos, interactuamos, nos entretenemos, enseñamos y aprendemos. Se abren preguntas sobre la propiedad y la autoría. Aparecen sesgos que pueden incidir en nuestras decisiones económicas, políticas y sociales, en la medida en que delegamos en estos sistemas la búsqueda, la síntesis y la recomendación. Será importante entonces ser conscientes de las pérdidas a las que nos enfrentamos y tomar decisiones sobre las renuncias a las que estamos dispuestos.

Se debilita, además, nuestra capacidad de saber si algo ocurrió realmente. Esto ya tiene consecuencias concretas: cada vez más se documentan casos de delitos informáticos que utilizan mecanismos de inteligencia artificial, que incluyen casos como el de 2024, donde un empleado de la firma de ingeniería Arup en Hong Kong transfirió cerca de 25 millones de dólares después de participar en una videollamada en la que su director financiero y otros colegas eran recreaciones generadas con IA ¹⁰. Si eso puede ocurrir en una empresa global, entramos a desconfiar de la voz al teléfono que suena como la de un familiar pidiendo ayuda, de los videos que vemos en las noticias y en general de todo lo que veamos en un medio digital. En las interacciones que vienen, dudamos sobre si conversamos con un ser humano o con una IA.

Ante este panorama, la pregunta no es si usar más ni usar menos la IAGen, la pregunta es cómo tomaremos el tiempo que requiere comprenderla mejor para decidir con mayor conciencia. Entender que los modelos lanzan dados cargados, que aprenden de un conocimiento humano que nunca ha sido neutral, que su capacidad de producir supera nuestra capacidad de revisar y que con frecuencia actúa sin anunciarse, nos da elementos para decidir cuándo confiar, cuándo dudar y cuándo preferir el camino más tradicional. ¿Qué decisiones de nuestra vida cotidiana estamos tomando hoy con intervención de la IA sin saber cómo funciona?

Las próximas ediciones presentarán las demás dimensiones del Marco de Apropiación de la IAGen. Mientras tanto, invitamos a realizar el autodiagnóstico de la dimensión de comprensión, como punto de partida para reconocer qué sabemos hoy sobre esta tecnología y qué preguntas siguen abiertas.

Enlace al autodiagnóstico