La inteligencia artificial (IA) se ha vuelto una herramienta cotidiana, pero también ha traído consigo nuevos retos: uno de ellos es determinar si un contenido fue hecho por una persona o por una máquina. Esto ya no es tan sencillo, pues los avances tecnológicos han desdibujado las fronteras entre lo humano y lo artificial. Así lo advirtieron expertas y expertos durante el AI Summit 2025, organizado por el Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la UNAM, en colaboración con OpenAI y Fintual.

Helena Gómez Adorno, investigadora del IIMAS, explicó que antes existían métodos efectivos para saber quién había escrito un texto. “Cuando escribimos dejamos huellas de estilo: el uso de comas, signos de puntuación o ciertas palabras que preferimos. Eso permitía identificar la autoría”, señaló. Estos análisis estilométricos funcionaban incluso cuando los textos eran anónimos, pero hoy las cosas han cambiado. “Los métodos basados en machine learning o deep learning que antes eran útiles, ya no sirven con los nuevos modelos de IA”, agregó.

La investigadora advirtió que cada vez que aparece una nueva versión de un modelo como los de OpenAI, cambian sus estilos de escritura. “Los patrones anteriores dejan de ser útiles, por lo que hay que volver a entrenar desde cero. Eso hace muy difícil tener un modelo que pueda identificar cualquier tipo de IA”, afirmó.

El problema no solo es técnico. También tiene implicaciones educativas. En el ámbito académico, dijo, hay preocupación por saber si estas herramientas ayudan o entorpecen el pensamiento crítico, y cómo afectan la forma en que se evalúa el aprendizaje. “No hay una sola solución. Lo que se necesita es que desde edades tempranas se enseñe a usar estos modelos con ética y con fines pedagógicos, para que no perjudiquen el desarrollo cognitivo ni la enseñanza”, concluyó.

En esa misma línea, Jorge Pérez González, también del IIMAS, reflexionó sobre la complejidad de determinar la autoría en imágenes, diseños o contenidos generados con IA. “Tenemos IA generativa que crea imágenes, patrones arquitectónicos o diseños de moda. Esto ha sido útil, pero surge la pregunta: ¿quién es el autor? ¿El programador del algoritmo, el generador del set de datos o la persona que da la instrucción?”

Recordó que en lugares como Estados Unidos y Europa, la IA no puede ser considerada autora por sí sola. “Tiene que haber una aportación humana en el proceso creativo”, explicó. Para combatir el plagio y distinguir entre imágenes reales y generadas, se desarrollan algoritmos que detectan patrones únicos, firman digitalmente las imágenes o analizan metadatos. Sin embargo, hay un nuevo dilema: “Hoy tenemos contenido creado por redes neuronales que luego es evaluado por otras redes neuronales. Es un círculo vicioso. Por eso debe mantenerse una supervisión humana”, advirtió.

El uso de IA también ha impactado el análisis forense de audio. Fernanda López Escobedo, académica de la Escuela Nacional de Ciencias Forenses, alertó sobre los avances en sintetizadores de voz que ahora pueden imitar no solo tonos, sino emociones y dialectos. “Antes era fácil identificar una voz de computadora por su tono plano. Hoy no. Es difícil distinguir las voces sintéticas de las humanas”, afirmó.

La experta explicó que este tipo de tecnología ya se está usando para cometer delitos como fraudes telefónicos o para diseminar información falsa. El reto para los forenses, explicó, es doble: “Primero tenemos que determinar si una voz ‘dubitada’, es decir, desconocida, fue generada por IA o es de una persona real. Solo entonces podemos compararla con una voz ‘indubitada’, o identificada”.

Agregó que incluso los rasgos más humanos, como el ritmo de las vocales o cómo relajamos las palabras al final de una frase, están siendo imitados con éxito por la inteligencia artificial. “El reto está ahora en ubicar lo que todavía no es tan imitable”, concluyó.

Entre los avances y los riesgos, la línea que separa la creación humana de la artificial se hace cada vez más delgada. El debate sobre cómo convivir con esta nueva realidad apenas comienza.