Modelos de idiomas de IA como el tipo que Power Chatgpt, Géminis y Claude Excel producen exactamente este tipo de ficción creíble porque ante todo producir salidas plausiblesno los precisos. Siempre generan una aproximación estadística basada en patrones absorbidos durante el entrenamiento. Cuando esos patrones no se alinean bien con la realidad, el resultado es una información errónea que suena. Incluso los modelos de IA que pueden buscar fuentes reales en la Web pueden fabricar citas, elegir las incorrectas o caracterizarlas erróneas.
«Los errores suceden. Las citas inventadas son algo totalmente diferente en el que esencialmente demoler la confiabilidad del material», dijo Josh LePawsky, ex presidente de la Asociación de Facultad de la Universidad de Memorial que renunció a la Junta Asesora del Informe en enero, dijo a CBC, citando un «proceso profundamente defectuoso».
La ironía corre profundamente
La presencia de citas falsas generadas por IA potencialmente se vuelve especialmente incómoda dado que una de las 110 recomendaciones del informe establece específicamente que el gobierno provincial debería «proporcionar a los alumnos y a los educadores conocimiento de IA esencial, incluida la ética, la privacidad de los datos y el uso de tecnología responsable».
Sarah Martin, profesora de ciencias políticas conmemorativas que pasó días revisando el documento, descubrió múltiples citas fabricadas. «Alrededor de las referencias que no puedo encontrar, no puedo imaginar otra explicación», dijo a CBC. «Estás como, 'Esto tiene que ser correcto, esto no puede ser'. Esta es una cita en un documento muy importante para la política educativa «.
Cuando CBC lo contactó, la copresidenta Karen Goodnough rechazó una solicitud de entrevista, escribiendo en un correo electrónico: «Estamos investigando y verificando referencias, por lo que no puedo responder a esto en este momento».
El Departamento de Educación y el Desarrollo de la Primera Infancia reconocieron la conciencia de «un pequeño número de posibles errores en las citas» en una declaración a CBC del portavoz Lynn Robinson. «Entendemos que estos problemas se están abordando y que el informe en línea se actualizará en los próximos días para rectificar cualquier error».
