Según se informa, un profesor de la Universidad de California en Berkeley ha dejado de calificar las tareas tras percatarse de que sus alumnos estaban abusando de la inteligencia artificial para obtener las mejores calificaciones.
«El uso de la IA por parte de los estudiantes para hacer las tareas está muy extendido», declaró Richard Borcherds al California Post. «Calificar según la corrección solo supone un gran incentivo para que utilicen la IA en lugar de hacer las tareas ellos mismos, y penaliza a los estudiantes por su honestidad».
Borcherds, un renombrado matemático que recibió la prestigiosa Medalla Fields en 1998, añadió que «no tiene sentido» pagar para que se evalúe el trabajo de los estudiantes en cuanto a inteligencia artificial, calificándolo de pérdida de tiempo y dinero.
En cambio, el profesor ha optado por dar crédito a sus alumnos simplemente por completar su trabajo, sin importar si las respuestas son correctas, y admite que no conoce un método mejor.
«No hay una manera sencilla de distinguir entre el trabajo humano y el generado por IA», declaró Borcherds al periódico. «En ocasiones, se podía reconocer que era IA porque cometía algunos errores característicos, pero la IA ha mejorado tanto que rara vez comete errores evidentes».
El profesor también expresó su preocupación por el futuro de las matemáticas en una entrevista con el periódico estudiantil de la UC Berkeley, el Daily Californian.
“Si la IA continúa mejorando al ritmo actual, entonces, en pocos años, no habrá nada que los matemáticos humanos puedan hacer que la IA no pueda hacer mejor”, advirtió Borcherds.
“No tengo ni idea de qué aconsejar”, añadió. “Incluso le hice esta misma pregunta a ChatGPT, y hasta ChatGPT dijo que no tenía ni idea de lo que iba a pasar”.
El profesor añadió que ya no estaba seguro de si aconsejar a los estudiantes que se especializaran en matemáticas, señalando que hace cinco años, la carrera de matemático parecía ser una de las más seguras frente al auge de la inteligencia artificial.
Borcherds comparó la situación con la de las revistas impresas en papel, que todavía se publican a pesar de ser «completamente inútiles» desde hace dos décadas.
“En el pasado ha habido muchos avances técnicos: los telares hicieron desaparecer el tejido a mano, los automóviles reemplazaron a los caballos, y así sucesivamente”, declaró al Daily Californian. “Pero esta es la primera vez que sucede algo así en matemáticas”.
La universidad también ha probado herramientas de detección de IA, como Turnitin y Rumi, pero ha llegado a la conclusión de que no son lo suficientemente adecuadas como para implementarlas como una solución estandarizada en todo el campus, dejando a los profesores la decisión de cómo quieren abordar el tema de la IA en sus aulas.
“Si el peor efecto de la IA en la sociedad es que resulta más difícil evaluar los deberes, entonces me sentiré muy aliviado”, declaró Borcherds al Post, sugiriendo que prevé problemas mayores en el futuro.
El «Efecto Cobra» de las herramientas de detección de IA están provocando que los estudiantes escriban ensayos más simples y menos descriptivos:
Profesores y estudiantes de escritura en diversas instituciones educativas están descubriendo una consecuencia no deseada de las herramientas de detección de IA: en lugar de simplemente identificar textos generados por máquinas, estos sistemas están transformando radicalmente las prácticas de escritura de los estudiantes de maneras preocupantes. Estas herramientas, que se basan en análisis estadísticos en lugar de una comprensión genuina de la autoría, penalizan la escritura sofisticada y premian la prosa genérica y optimizada para algoritmos.
Un ejemplo llamativo surgió cuando el ensayo de un estudiante sobre Harrison Bergeron, de Kurt Vonnegut, recibió una puntuación del 18% generada por IA mediante un detector preinstalado en un Chromebook escolar. El detonante fue una sola palabra: «vacío». Cuando el estudiante reemplazó este término por la palabra más simple «sin», la puntuación de detección de IA cayó a 0%, a pesar de que la estructura o las ideas subyacentes del ensayo no cambiaron. Este incidente ilustra cómo los sistemas de detección actuales funcionan con señales estadísticas superficiales, como la elección y distribución de palabras, en lugar de una evaluación significativa de la autoría.
La base técnica de estos detectores contribuye al problema. Las herramientas de detección de IA estiman la probabilidad de que un texto haya sido generado por máquina analizando características como la frecuencia de los tokens, los patrones sintácticos y la variabilidad en la longitud y la estructura de las oraciones. Los estudiantes han aprendido que ciertos marcadores estilísticos pueden generar puntuaciones de detección más altas, mientras que los textos más planos y genéricos tienden a pasar desapercibidos. Esto genera una respuesta lógica pero problemática: los estudiantes o bien simplifican deliberadamente su escritura o utilizan modelos de IA para generar frases estadísticamente seguras que se mimetizan con el contexto.
