Nueva herramienta puede decir si algo es IA

Un nuevo estudio encontró que un detector de IA desarrollado por la Universidad de Kansas puede detectar contenido generado por IA en documentos académicos con una tasa de precisión del 99%, uno de los únicos detectores en el mercado específicamente orientados a la escritura académica.

¿Error humano genuino? Quizás, pero al menos no la inteligencia artificial.

Según un informe publicado el miércoles en la revista Cell Reports Physical Science, los investigadores crearon una herramienta que puede probar la detección de IA en artículos académicos con un 99 % de precisión.

El equipo de investigadores seleccionó 64 perspectivas (un tipo de artículo) y las usó para hacer 128 artículos usando ChatGPT, que luego se usó para entrenar el detector de IA.

El modelo tenía una tasa de precisión del 100 % para identificar artículos creados por humanos de los generados por IA, y una tasa de precisión del 92 % para identificar párrafos específicos dentro del texto.

Según una encuesta realizada por Study.com, el 89 % de los estudiantes universitarios han admitido usar ChatGPT para ayudar con las tareas, mientras que el 34 % de los educadores cree que el software debería prohibirse, aunque el 66 % apoya que los estudiantes tengan acceso.

"En este momento, hay algunos problemas bastante evidentes con la escritura de IA", dijo la autora principal, Heather Desaire, en un comunicado. "Uno de los mayores problemas es que reúne texto de muchas fuentes y no hay ningún tipo de verificación de precisión; es como el juego Two Truths and a Lie".

Los detectores de IA no han demostrado ser 100% precisos. Una estudiante de la Universidad de California en Davis alega que su universidad la acusó falsamente de hacer trampa con la IA. Después de cargar un documento para una de sus clases, recibió un correo electrónico de su profesor que afirmaba que una parte estaba marcada en el programa Turnitin como generada por IA. Su caso fue remitido de inmediato a la Oficina de Apoyo Estudiantil y Asuntos Judiciales, que se encarga de la disciplina por mala conducta académica. La estudiante abogó por su caso y finalmente ganó, utilizando marcas de tiempo para demostrar que escribió el artículo. Esta no fue la única vez que los educadores etiquetaron falsamente las tareas como generadas por IA. Un profesor de comercio de Texas A&M intentó reprobar a más de la mitad de su clase de último año después de usar ChatGPT para probar si los estudiantes usaban el chatbot para escribir sus trabajos. Copió y pegó los papeles en ChatGPT y le preguntó si los había escrito, a lo que respondió que sí. Esto provocó que la universidad retuviera sus diplomas, aunque el profesor ofreció la oportunidad de volver a hacer la tarea. Sin embargo, la universidad confirmó a Insider que no se reprobó ni se prohibió la graduación de ningún estudiante.

El chatbot de OpenAI, ChatGPT, se abrió al público en noviembre de 2022 y en menos de una semana superó la marca del millón de usuarios, y la gente lo usó para cosas como crear código y escribir ensayos. La inteligencia de la IA llevó a varias escuelas a prohibir el software de manera indefinida o temporal, incluidas las Escuelas Públicas de Nueva York, las Escuelas Públicas de Seattle y el Distrito Escolar Unificado de Los Ángeles.

Ya existen muchos programas y servicios que prometen identificar contenido escrito por IA.

ChatGPT en las escuelas: aquí es donde está prohibido y cómo podría ayudar a los estudiantes (Forbes)

Esto es lo que debe saber sobre ChatGPT de OpenAI: qué está interrumpiendo y cómo usarlo (Forbes)