1 de cada 5 estudiantes de secundaria ha tenido una relación romántica con IA o conoce a alguien que la haya tenido

Esto es según una nueva investigación del Centro para la Democracia y la Tecnología (CDT), una organización sin fines de lucro que aboga por los derechos civiles, las libertades civiles y el uso responsable de los datos y la tecnología.

CDT llevó a cabo encuestas nacionales de aproximadamente 800 maestros de escuelas públicas de sexto a 12.º grado, 1.000 estudiantes de noveno a 12.º grado y 1.000 padres. La gran mayoría (86% de los estudiantes, 85% de los educadores y 75% de los padres) dicen que utilizaron IA durante el último año escolar.

Elizabeth Laird del CDT, una de las autoras del informe, dice que las encuestas mostraron algunas correlaciones fuertes.

Entre ellos: «Cuantas más formas un estudiante informe que su escuela utiliza la IA, es más probable que informe cosas como ‘Conozco a alguien que considera a la IA como un amigo’, ‘Conozco a alguien que considera a la IA como una pareja romántica'».

Filtraciones de datos, deepfakes y confianza dañada

Laird dice que las encuestas encontraron que niveles más altos de uso de IA en las escuelas (definidos como siete a 10 usos relacionados con la escuela para los maestros y de cuatro a seis para los estudiantes) se correlacionan con una mayor exposición a violaciones de datos, interacciones preocupantes entre los estudiantes y la IA y deepfakes generados por IA, o videos o fotografías manipulados que pueden usarse para acosar e intimidar sexualmente a los estudiantes.

«Esta tecnología es un nuevo vector de acoso sexual e intimidación, que eran problemas de larga data [before widespread use of AI]», dice Laird, «y esto se ha convertido en una nueva forma de exacerbar eso».

Según el informe, el 28% de los profesores que utilizan la IA para muchas tareas relacionadas con la escuela dicen que su escuela experimentó una violación de datos a gran escala, en comparación con el 18% de los profesores que no utilizan la IA o la utilizan sólo para unas pocas tareas.

Laird, que anteriormente trabajó como responsable de privacidad de datos para la agencia de educación estatal de DC, dice que cree que cuantos más datos comparten las escuelas con los sistemas de inteligencia artificial, mayor riesgo corren de sufrir una violación de datos.

«Los sistemas de inteligencia artificial toman muchos datos y también arrojan mucha información», afirma. «Eso está contribuyendo a esa conexión».

Los profesores con niveles más altos de uso de IA en la escuela también tenían más probabilidades de informar que un sistema de IA que utilizaban en clase no funcionaba según lo previsto.

Estos profesores también eran más propensos a informar que el uso de la IA dañaba la confianza de la comunidad en las escuelas. Por ejemplo, Laird dice que las escuelas utilizan con frecuencia software impulsado por inteligencia artificial para monitorear la actividad en los dispositivos proporcionados por la escuela, lo que en algunos casos genera falsas alarmas e incluso arrestos de estudiantes. Ella dice que esto es especialmente preocupante para los estudiantes que no pueden permitirse el lujo de tener sus propias computadoras personales.

«Entonces, si usted es alguien que tiene un dispositivo personal y no tiene que usar un dispositivo proporcionado por la escuela, básicamente puede permitirse el lujo de mantener sus documentos y mensajes en privado», dice Laird.

Riesgos para el bienestar de los estudiantes

Los estudiantes que asisten a escuelas que usan mucho la IA también tenían más probabilidades de informar que ellos o un amigo habían usado la IA como apoyo para la salud mental, como compañía, como una forma de escapar de la realidad y para tener una relación romántica.

Cuando los estudiantes informaron haber tenido conversaciones con sistemas de inteligencia artificial por motivos personales y no por trabajo escolar, el 31 % dijo que utilizaron un dispositivo o software proporcionado por su escuela.

«Creo que los estudiantes deben saber que en realidad no están hablando con una persona. Están hablando con una herramienta, y esas herramientas tienen limitaciones conocidas», dice Laird. «Nuestra investigación sugiere que la alfabetización en IA y la formación que reciben los estudiantes son muy básicas».

Laird dice que los estudiantes y educadores a menudo no reciben capacitación ni orientación que les ayude a afrontar los desafíos más complejos asociados con la tecnología.

Por ejemplo, solo el 11% de los docentes encuestados dijeron haber recibido capacitación sobre cómo responder si sospechan que el uso de la IA por parte de un estudiante es perjudicial para su bienestar.

Los educadores que utilizan con frecuencia la IA eran más propensos a decir que la tecnología mejora su enseñanza, les ahorra tiempo y proporciona un aprendizaje individualizado a los estudiantes, pero los estudiantes de escuelas donde el uso de la IA es prevalente informaron niveles más altos de preocupación sobre la tecnología, incluso que los hace sentir menos conectados con sus maestros.

«Lo que escuchamos de los estudiantes es que si bien esto puede tener valor, también conlleva algunas consecuencias negativas», dice Laird. «Y si queremos aprovechar los beneficios de la IA, realmente debemos prestar atención a lo que nos dicen los estudiantes».