1. Contestar en su libreta:
- ¿Creen que nuestras ideas sobre las personas (estereotipos, prejuicios) pueden afectar la forma en que se crea la tecnología o para quién se crea?
2. En binas, analiza los siguientes casos de uso y en tu libreta anota los prejuicios o estereotipos presentes y cómo estos limitaron la igualdad de oportunidades.
Caso 1. El reconocimiento facial y el sesgo de datos
Para que una computadora "aprenda" a reconocer un rostro, los programadores deben alimentarla con miles de fotografías (esto se llama Machine Learning o aprendizaje automático). En los inicios de esta tecnología, las bases de datos utilizadas estaban compuestas en más de un 70% por personas blancas y hombres. Los desarrolladores (que en su mayoría también eran hombres blancos) no notaron que la inteligencia artificial estaba aprendiendo a identificar "características universales" basándose solo en un grupo específico.
Caso 2. Los asistentes virtuales y la "servidumbre" programada
Cuando empresas como Apple, Amazon y Microsoft crearon a sus asistentes de voz, realizaron estudios de mercado. Estos estudios sugerían que las personas encontraban las voces femeninas más "agradables", "serviciales" y "menos amenazantes" que las masculinas. Esto no es una coincidencia, sino un reflejo de un prejuicio histórico que asigna a la mujer el rol de secretaria o asistente personal.
Caso 3: "El Filtro de Belleza que 'mejoraba' a Luz"
Luz descargó una aplicación muy popular para editar fotos y compartirlas. La aplicación, por defecto, sugería automáticamente "mejoras" con un filtro llamado "Belleza Natural". Cuando Luz se tomaba una selfie, el filtro aclaraba un poco su piel morena, afinaba su nariz y agrandaba sus ojos. A sus amigas con piel más clara, el filtro casi no les cambiaba las facciones. Luz empezó a pensar que, para verse "bien" en las redes, tenía que parecerse menos a ella misma. Dedicaba mucho tiempo editando sus fotos, mientras que otras compañeras subían fotos sin filtro con confianza.
3. Por último, en el mismo equipo discutan y contesten las siguientes preguntas en su libreta:
¿Cómo podríamos haber diseñado estas tecnologías para evitar los prejuicios? ¿Qué papel jugamos nosotros como futuros innovadores o usuarios conscientes?