Un informe de Common Sense Media advierte que Google Gemini, la IA conversacional de Google, puede exponer a adolescentes a contenidos inapropiados. El estudio recomienda restricciones de uso y supervisión para menores de 18 años, a pesar de la versión adaptada para jóvenes.
Riesgos para menores de edad
Common Sense Media, organización estadounidense que evalúa el impacto de contenidos digitales en niños y adolescentes, publicó un informe crítico sobre Google Gemini. Según el estudio, aunque existe una versión diseñada para menores, la IA responde de manera similar a como lo hace con adultos, lo que podría exponer a los jóvenes a temas sensibles como consumo de alcohol y drogas, contenido sexual o información de salud mental poco confiable.
El documento subraya que, si bien Gemini funciona bien con preguntas simples, falla cuando las conversaciones se vuelven complejas o prolongadas, un patrón común en adolescentes. Por ello, se recomienda:
- Prohibición total para niños menores de 5 años.
- Supervisión obligatoria para menores entre 6 y 12 años.
- Uso limitado a tareas escolares o creativas para adolescentes de 13 a 17 años, nunca para apoyo emocional.
Salvaguardas y ajustes en la plataforma
Tras la publicación del informe, Google defendió la seguridad de Gemini. La compañía afirmó que la IA cuenta con políticas especiales para proteger a menores y que consultan regularmente con expertos externos para reforzar dichas medidas. No obstante, reconocieron que “algunas respuestas no funcionan como deberían” y anunciaron la incorporación de nuevas salvaguardas en las últimas semanas.
Google también aclaró que algunas críticas se basan en funciones no disponibles para usuarios menores de 18 años y que la organización no compartió las preguntas utilizadas en sus evaluaciones.
El debate sobre la seguridad de las plataformas de IA para menores llega pocos días después de que OpenAI tuviera que ajustar ChatGPT, tras conocerse el caso de un adolescente que se suicidó luego de interactuar con el chatbot. La situación derivó en una demanda judicial y reforzó la necesidad de establecer límites claros en el uso de herramientas conversacionales por parte de jóvenes.
