Google ha integrado la IA generativa en su motor de búsqueda hasta convertirla en una parte inevitable de la experiencia, También apto para menores que lo utilizan en el colegio o mientras hacen los deberes.. Un nuevo informe de Common Sense Media encuentra que la visión general y los modelos de IA plantean «riesgos inaceptables» para los niños y adolescentes no sólo por sus errores; Hogar y Centros Educativos no tienen control específico Deshabilite estas funciones sin bloquear también el acceso a la búsqueda.

El descubrimiento provino de más de 2.600 búsquedas durante seis semanas utilizando SafeSearch en cuentas configuradas para usuarios de 11 y 15 años. Los investigadores probaron las respuestas en relación con el aprendizaje, la confiabilidad, la salud mental y otros escenarios de riesgo y revisaron unas 2.100 fuentes citadas por el sistema. La búsqueda de Google obtiene la calificación más baja de la agencia Siete de los ocho principios de seguridad no se cumplieron y se evaluaron todas las líneas rojas de peligro crítico.

Google rechaza estas conclusiones e insiste en que el estudio utilizó un conjunto limitado de consultas vagas y artificiales. Esto no representa el uso típico de los motores de búsqueda. También hay que tener en cuenta que la Búsqueda contiene barreras de seguridad y los responsables de las cuentas de los niños pueden bloquear el servicio por completo. Por lo tanto, este enfoque merece precaución: las pruebas se realizaron utilizando una cuenta personal configurada para un menor, en lugar de una implementación real de Education Workspace. Sin embargo, la respuesta de la compañía no aborda el problema central, ya que sus alternativas aún permiten la experiencia de compilación completa o excluyen la Búsqueda de Google por completo.

La cuestión no es negar ningún uso educativo de la inteligencia artificial.. El profesor puede decidir incluirlo en una actividad específica, explicar sus limitaciones y pedir a los alumnos que comparen respuestas. La descripción general de IA funciona de una manera diferente: aparece automáticamente encima de los resultados tradicionales, mientras que el modo IA te invita a convertir tu búsqueda en una conversación con Gemini. Los estudiantes pueden ir a Google para buscar la fuente y terminar recibiendo respuestas sintetizadas por el modelo, sin tener que optar por utilizar una herramienta de generación.

El impacto en el aprendizaje es particularmente preocupante. Durante el proceso de evaluación, El modo IA completa por completo 180 tareas escolares, incluidos ejercicios y trabajos de matemáticas.. La pregunta no está simplificada para que sea más fácil de copiar: Google incluye el acceso directo en la misma herramienta que ha utilizado durante años para investigar, comparar documentos y crear sus propias respuestas. El estudiante recibe el resultado final antes de completar el proceso intelectual que debe desarrollar a través de la actividad.

La fiabilidad de estas respuestas tampoco puede darse por sentada. Repitiendo las mismas preguntas históricas, En el 43% de los casos el contenido cambió significativamente. En otra prueba, AI Overviews aceptó una premisa falsa e inventó un fallo de la Corte Suprema de Estados Unidos que incluía a un acusado inexistente. De las 2.100 referencias examinadas, el 29% procedía de redes sociales, foros y otras páginas creadas por usuarios, pero la interfaz presentaba un aspecto similar al de investigaciones académicas o instituciones profesionales.

Las peores fallas se produjeron en consultas relacionadas con salud y seguridad mental. Según Common Sense Media, el perfil de IA identificó signos evidentes de angustia en sólo el 58% de las pruebas y respondió de forma inapropiada a signos de ideación suicida, trastornos alimentarios, paranoia o episodios maníacos. El sistema incluso verificó comportamientos riesgosos y recomendó una línea de ayuda para trastornos alimentarios que ha estado desconectada desde 2023. Google dijo que trabaja con expertos para decidir cuándo deben activarse los recursos de emergencia, pero que un producto dirigido a menores no puede ser correcto sólo cuando el riesgo es tan alto.

La postura de Google hace que estas deficiencias superen las de los chatbots opcionales. La búsqueda existe en los teléfonos, navegadores y computadoras que los estudiantes usan todos los días, generando respuestas combinadas con herramientas que muchos todavía consideran puertas de entrada neutrales a otras fuentes. Common Sense Media estima que el 75% de los estadounidenses de entre 9 y 17 años han utilizado o interactuado con fragmentos de inteligencia artificial integrados en los motores de búsqueda, por lo que esta exposición difícilmente puede considerarse insignificante.

Las contradicciones con el propio discurso educativo de Google son difíciles de ignorar. La empresa insiste en que las herramientas de aprendizaje deben promover una comprensión profunda, despertar la curiosidad y acompañar el proceso de descubrimiento, en lugar de simplemente proporcionar respuestas rápidas. Sin embargo, el modo AI completa toda la tarea, mientras que AI Overview coloca un resumen variable y posiblemente incorrecto encima de los enlaces que los estudiantes deben consultar y evaluar. Google reconoce en sus principios los riesgos de los atajos educativos, pero su buscador los convierte en la opción más sencilla.

El propósito de la discusión no es determinar si la inteligencia artificial tiene un lugar en el aula; Decidir quién controla su introducción y bajo qué condiciones.. Google debería ofrecer una experiencia adecuada a la edad y permitir a las familias y centros desactivar la visión general de la IA y los modos de IA sin abandonar el buscador tradicional. Hasta que exista esta opción, la empresa seguirá imponiendo técnicas probabilísticas en uno de los principales entornos de información de los menores y trasladará a profesores, padres y alumnos la responsabilidad de detectar errores que el propio sistema no sabe cómo evitar.

Más información