Mariano Arancibia

En una entrevista con Punto Uno, el especialista en inteligencia artificial señaló que el avance de estas herramientas hará cada vez más necesaria la verificación de la información.

Cuando una IA inventa una ley, una cita o una fuente y la presenta con seguridad, ¿qué está fallando?
- Para mí fallan tres cosas al mismo tiempo: la tecnología, el entrenamiento y nuestra expectativa. Un modelo de lenguaje no funciona como una base de datos que busca una verdad y después nos la entrega. En términos simples, predice qué palabra tiene más sentido después de otra. Es un autocompletado llevado a una escala enorme. El problema es que una frase puede sonar perfecta y ser completamente falsa. El modelo busca construir una respuesta plausible, no comprobar que exista en la realidad.
También influye cómo fue entrenado. Durante mucho tiempo, muchas evaluaciones premiaron más acertar que reconocer la incertidumbre. Es parecido a rendir un examen en el que dejar una pregunta en blanco vale cero, pero arriesgar puede darte un punto. Si entrenás durante años a un alumno con esa lógica, después no debería sorprenderte que adivine cuando no sabe.
Y después estamos nosotros. Confundimos fluidez con conocimiento. Si una persona duda o se contradice, desconfiamos. Si una máquina escribe perfectamente, pone fechas, autores y hasta una cita académica, nuestro cerebro interpreta que debe saber de qué está hablando. Si le pregunto a una IA qué película puedo mirar, probablemente no necesito revisar cinco fuentes. Si le pregunto por una ley, una condición médica, una inversión o algo que pueda cambiar una decisión importante, tengo que verificar.

¿Cómo aprendemos a reconocer que una respuesta convincente puede ser falsa?
- Ese es justamente el problema. Una alucinación puede sonar verdadera sin serlo. Y cuanto más usamos estas herramientas, más fácil es bajar la guardia. Después de cien respuestas útiles empezamos a pensar que la número 101 también va a estar bien.
Creo que tenemos que incorporar una especie de higiene informacional: saber cuándo verificar. La propia IA puede ayudarnos como una segunda herramienta. En X, por ejemplo, se puede utilizar Grok para analizar una publicación, buscar contexto o revisar antecedentes. Puede servir para preguntar si una imagen está fuera de contexto o si determinada información corresponde a una fecha concreta.
Por eso también soy cuidadoso cuando se dice que una IA “piensa”. Tiene capacidades de razonamiento impresionantes, pero producir una respuesta que parece razonada no significa necesariamente comprender como comprende una persona.

¿Qué pasa cuando una respuesta inventada influye sobre una decisión importante?
- Ahí las consecuencias pueden ser muy concretas. Una respuesta falsa sobre una película puede quedar en una anécdota. Una respuesta falsa que interviene en una decisión judicial, médica, financiera o psicológica puede afectar la vida de una persona.
En junio de 2026, una corte federal de apelaciones de Estados Unidos sancionó a dos abogados que presentaron escritos con casos inexistentes y citas incorrectas vinculadas al uso de IA. En agosto de 2025, una Cámara de Rosario detectó fallos que no existían en un escrito judicial. El abogado reconoció que las referencias habían sido generadas por una herramienta de inteligencia artificial y que no las había comprobado. Para mí, ahí queda bastante claro dónde está la responsabilidad.
También hay situaciones mucho más delicadas. En 2025, The New York Times contó el caso de Allan Brooks, un canadiense que pasó 21 días y unas 300 horas conversando con ChatGPT hasta convencerse de que había desarrollado una nueva teoría matemática con consecuencias extraordinarias. Él mismo le pidió al sistema más de 50 veces que hiciera un “reality check”, pero el chatbot siguió reforzando parte de esa idea; un sistema muy persuasivo puede confirmar durante horas una idea equivocada.

¿Estamos entrando en una época en la que verificar una información será lo más importante?
- Sí. Durante años, el problema de Internet fue encontrar información. Ahora tenemos información de sobra y cada vez cuesta más saber quién la produjo, de dónde salió y cuánto podemos confiar en ella. El Bad Bot Report 2026, de Imperva/Thales, estimó que más del 53% del tráfico web durante 2025 fue automatizado.
Con los contenidos ocurre algo parecido. Graphite analizó 55.400 artículos en inglés y estimó que el 49,9% de los artículos de su muestra durante el primer trimestre de 2026 eran principalmente generados por IA. Es una muestra concreta, no significa que la mitad de Internet esté escrita por máquinas, pero muestra el tamaño del fenómeno.
Hay algo todavía más preocupante. Una IA puede inventar que un estudio demostró determinada cosa. Alguien copia esa respuesta y publica un artículo. Google lo indexa. Después otra persona encuentra ese artículo y otra IA lo toma como fuente. La invención inicial empieza a tener título, fecha, enlace y apariencia de información comprobada.
Si ese material termina además formando parte de los datos con los que se entrenan nuevos modelos, aparece el problema de la contaminación con datos sintéticos. En determinados escenarios puede producirse lo que se conoce como model collapse. Un trabajo publicado en Nature mostró que entrenar sucesivamente modelos con datos generados por otros modelos puede degradar la representación de la información original.
Los medios, las universidades y los organismos que puedan mostrar quién produjo un contenido, cuándo, con qué fuentes y cómo se verificó van a tener una responsabilidad enorme. Para el periodismo, producir más textos no alcanza. La diferencia está en poder demostrar que la información es verdadera.

¿Una IA confiable debería ser capaz de decir “no sé”?
- Sí, totalmente. Para mí, uno de los grandes avances que necesitamos es que una IA sepa cuándo no tiene suficiente información para responder. Eso se puede trabajar de distintas maneras: mejorar el entrenamiento, medir mejor la incertidumbre, conectarla con fuentes confiables, utilizar buscadores y herramientas externas y permitir que directamente se abstenga.

Si dentro de diez años delegamos cada vez más en máquinas la búsqueda de información, el análisis y hasta la interpretación de la realidad, ¿qué habilidades humanas vamos a tener que conservar?
- Los asistentes de IA van a hacer cada vez más cosas por nosotros. Cuanto más cómodo sea delegar, más importante va a ser conservar ciertas capacidades. Para mí, una de las principales es la duda. Pedro Abelardo decía hace casi novecientos años que “dudando llegamos a investigar, e investigando alcanzamos la verdad”. La duda no significa ignorancia. Muchas veces es el comienzo de una buena pregunta. La IA nos va a dar respuestas cada vez más rápido. Nosotros vamos a tener que aprender a preguntar mejor y a revisar esas respuestas.
Después están la verificación de fuentes, el pensamiento, el conocimiento sobre cada tema, la capacidad de distinguir evidencia de opinión y la posibilidad de entender las consecuencias de una decisión. A mí no me preocupa que una IA me ahorre dos horas buscando documentos. Al contrario, me parece fantástico. Puedo usar esas dos horas para leerlos y analizarlos mejor. Si me propone cinco hipótesis, también puede ser muy útil, siempre que yo siga pensando cuál tiene sentido. El problema aparece cuando empezamos a usarla para no pensar.