Un nuevo informe independiente de Common Sense Media ha revelado que varias herramientas populares de inteligencia artificial, como My AI de Snapchat, DALLE y Stable Diffusion, pueden no ser seguras para los niños. Common Sense Media, una organización sin fines de lucro que aboga por las familias y es conocida por proporcionar clasificaciones de medios para que los padres evalúen las aplicaciones, juegos, podcasts, programas de televisión, películas y libros que consumen sus hijos, ha lanzado clasificaciones para productos de IA. Estas clasificaciones, conocidas como “etiquetas de nutrición”, evalúan la seguridad y confiabilidad de los productos de IA, como chatbots y generadores de imágenes.
El objetivo de estas clasificaciones es ayudar a los padres a evaluar si las nuevas herramientas de IA, como ChatGPT, son seguras para sus hijos. Estudios realizados por Common Sense Media han revelado que el 82% de los padres desean ayuda para determinar si estos productos son seguros, pero solo el 40% conoce recursos confiables para tomar decisiones informadas.
Las clasificaciones de Common Sense Media evalúan los productos de IA en diferentes dimensiones, como confiabilidad, seguridad para los niños, privacidad, transparencia, responsabilidad, aprendizaje, equidad, conexiones sociales y beneficios para las personas y la sociedad.
En las pruebas realizadas por Common Sense Media, My AI de Snapchat generó respuestas que refuerzan estereotipos injustos relacionados con la edad, el sexo y los estereotipos culturales. Además, el producto almacenaba datos personales, lo que planteaba preocupaciones sobre la privacidad.
Snapchat se defendió de la mala crítica argumentando que My AI era una herramienta opcional y que se comunicaba claramente que era un chatbot con limitaciones.
Otros productos de IA generativa, como DALL-E y Stable Diffusion, también presentaron riesgos similares, como la objetificación y sexualización de mujeres y niñas, así como la perpetuación de estereotipos de género.
En las clasificaciones de Common Sense Media, los chatbots de IA como Bard de Google, ChatGPT y Toddle AI recibieron calificaciones intermedias. Estos bots también podrían presentar sesgos y producir información inexacta, lo que dificultaría aún más separar los hechos de la ficción.
Los únicos productos de IA que recibieron buenas calificaciones fueron Ello AI, Khanmingo (de Khan Academy) y el tutor de IA de Kyron Learning, todos diseñados con fines educativos. Estas herramientas utilizaron prácticas de IA responsables y se preocuparon por la equidad, la representación diversa y el diseño amigable para los niños. Además, fueron más transparentes en sus políticas de privacidad de datos.
Common Sense Media continuará publicando calificaciones y reseñas de nuevos productos de IA para informar a los padres, familias, legisladores y reguladores. Las etiquetas de nutrición esperan proporcionar información clara sobre la seguridad y privacidad de los productos de IA para el beneficio de todos los usuarios.
