Los nuevos datos de la encuesta encuentran que casi 1 de cada 5 estudiantes de secundaria dicen que ellos o alguien que conocen han tenido una relación romántica con la inteligencia artificial. Y el 42% de los estudiantes encuestados dicen que ellos o alguien que conocen han usado IA para compañía.
Eso es según nueva investigación Del Centro de Democracia y Tecnología (CDT), una organización sin fines de lucro que aboga por los derechos civiles, las libertades civiles y el uso responsable de los datos y la tecnología.
CDT realizó encuestas nacionales de aproximadamente 800 maestros de escuelas públicas de sexto a 12 ° grado, estudiantes de noveno a 12 ° a 12 ° grado y 1,000 padres. La gran mayoría, el 86% de los estudiantes, el 85% de los educadores y el 75% de los padres, dicen que usaron IA durante el último año escolar.
Elizabeth Laird de CDT, una de las autores del informe, dice que las encuestas mostraron algunas correlaciones fuertes.
Entre ellos: «Cuantas más formas en que un estudiante informa que su escuela usa IA, más probabilidades tendrá de informar cosas como 'Conozco a alguien que considera que la IA es una amiga' ', conozco a alguien que considera que la IA es una pareja romántica'».
Incumplimientos de datos, defectos y confianza dañados
Laird dice que las encuestas encontraron niveles más altos de uso de la IA en las escuelas, definidas como siete a 10 usos relacionados con la escuela para los maestros, y cuatro a seis para los estudiantes, se correlacionan con una mayor exposición a infracciones de datos, interacciones preocupantes entre los estudiantes y los infartos profundos generados por la IA y la IA, o videos manipulados o fotos que pueden usarse para costar sexualmente y los estudiantes bultos de IA.
«Esta tecnología es un nuevo vector para el acoso y el acoso sexual, que fueron problemas de larga data (antes del uso generalizado de la IA)», dice Laird, «y esto se ha convertido en una nueva forma de exacerbar eso».
Según el informe, el 28% de los maestros que usan IA para muchas tareas relacionadas con la escuela dicen que su escuela experimentó una violación de datos a gran escala, en comparación con el 18% de los maestros que no usan IA o la usan solo para unas pocas tareas.
Laird, quien anteriormente trabajó como oficial de privacidad de datos para la agencia de educación estatal de DC, dice que cree que cuanto más que las escuelas de datos comparten con los sistemas de IA, más arriesgan una violación de datos.
«Los sistemas de IA toman muchos datos, también escupen mucha información», dice ella. «Eso está contribuyendo a esa conexión».
Los maestros con niveles más altos de uso de IA relacionados con la escuela también tenían más probabilidades de informar que un sistema de IA que estaban usando en clase no funcionó según lo previsto.
Estos maestros también tenían más probabilidades de informar que el uso de AI dañó la confianza comunitaria en las escuelas. Por ejemplo, Laird dice que las escuelas usan con frecuencia un software con IA para monitorear la actividad en dispositivos emitidos por la escuela, en algunos casos que conducen a falsas alarmas e incluso arrestos estudiantiles. Ella dice que esto es especialmente preocupante para los estudiantes que no pueden pagar sus propias computadoras personales.
«Entonces, si usted es alguien que tiene un dispositivo personal y no tiene que usar un dispositivo emitido por la escuela, esencialmente puede permitirse mantener sus documentos y mensajes privados», dice Laird.
Riesgos para el bienestar de los estudiantes
Los estudiantes que asisten a escuelas que usan mucho IA también tenían más probabilidades de informar que ellos o un amigo habían usado IA para el apoyo de salud mental, como compañero, como una forma de escapar de la realidad y tener una relación romántica.
Cuando los estudiantes informaron tener conversaciones con sistemas de inteligencia artificial por razones personales, y no por el trabajo escolar, el 31% dijo que usaban un dispositivo o software proporcionado por su escuela.
«Creo que los estudiantes deberían saber que en realidad no están hablando con una persona. Están hablando con una herramienta y esas herramientas tienen limitaciones conocidas», dice Laird. «Nuestra investigación sugiere que la alfabetización de IA y la capacitación que reciben los estudiantes son muy básicas».
Laird dice que los estudiantes y los educadores a menudo no reciben capacitación o orientación para ayudarlos a navegar los desafíos más complejos asociados con la tecnología.
Por ejemplo, solo el 11% de los maestros encuestados dijeron que recibieron capacitación sobre cómo responder si sospechan que el uso de IA por parte de un estudiante es perjudicial para su bienestar.
Los educadores que con frecuencia usan IA tenían más probabilidades de decir que la tecnología mejora su enseñanza, les ahorra tiempo y proporciona un aprendizaje individualizado para los estudiantes, pero los estudiantes en las escuelas donde el uso de la IA prevalece reporta niveles más altos de preocupación por la tecnología, incluido que les hace sentir menos conectados con sus maestros.
«Lo que escuchamos de los estudiantes es que, si bien puede haber valor en esto, también hay algunas consecuencias negativas que también vienen con él», dice Laird. «Y si nos daremos cuenta de los beneficios de la IA, ya sabes, realmente debemos prestar atención a lo que los estudiantes nos dicen».
