Hace algunos años impartí una conferencia cuyo tema no recuerdo, pero muy probablemente tuvo que ver con las relaciones entre la tecnología digital y las prácticas educativas. Al final de ella, entre las varias preguntas que me hizo la audiencia hubo una de un padre de familia sobre si conocía alguna aplicación que pudiera ser utilizada para vigilar lo que su hijo hacía con su computadora, especialmente el contenido al que accedía en la World Wide Web. Mi respuesta entonces fue que no conocía de ninguna aplicación con esas capacidades y mi recomendación era no depender de software para vigilar la actividad digital de su hijo, sino establecer mecanismos de comunicación y seguimiento más tradicionales, como sería tener la computadora en un espacio menos privado en la casa, donde pudiera observar lo que su hijo hace con ella, y conversar con él con frecuencia a fin de observar cambios en su comportamiento o actitud que pudieran sugerir que está accediendo a contenido inapropiado.

El problema sigue vigente hoy en día, con la aparición de un nuevo actor: la inteligencia artificial generativa (IAG). Se han documentado varios casos en los que la interacción de menores de edad con ella ha tenido consecuencias desastrosas, llegando incluso al suicidio, y existe evidencia de que muchos jóvenes la usan hoy en día para conversar sobre temas personales y mantener relaciones románticas con ella. Asimismo, la IAG está facilitando la producción de todo tipo de contenido disponible hoy en la web, incluyendo contenido pornográfico e imágenes realistas pero falsas, incluso creadas por los mismos niños y jóvenes que, a pesar de su habilidad técnica suelen carecer de la madurez necesaria para siquiera intuir las consecuencias de lo que están haciendo, para ellos mismos y para otras personas.

La solución —cuando no es la prohibición del uso de la IAG por menores de edad— se sigue buscando en el software: aplicaciones para la detección de plagio en las escuelas, mecanimos de control parental en las aplicaciones de IAG e incluso mecanismos para la verificacíon de la edad de los usuarios de la web y la IAG —con la consecuente pérdida de privacidad. Sin embargo, el software sigue siendo solamente un paliativo para alivar los síntomas de una enfermedad generada por la falta de atención de los padres (muchas veces separados) hacia sus hijos, la falta de comunicación entre ellos y la falta de interacción social en presencia física entre los menores; causas que, a su vez, son en buena medida consecuencia de la presión socioeconómica sobre los padres para priorizar su desarrollo profesional por encima de dedicar suficiente tiempo de calidad a la pareja y los hijos.

Como en otros ámbitos, en los que el uso de la IAG ha irrumpido en los últimos años, lejos de provocar el problema, actúa como un medio de contraste que resalta los grandes problemas de la sociedad del siglo XXI.