Los nuevos algoritmos de Pinterest quieren que veas todos los tipos de cuerpo
Este artículo se publicó por primera vez en Wired el 7 de septiembre.
Cuando la influencer de moda Natalie Craig buscó recientemente en Pinterest faldas y pantalones cargo, notó algo diferente a sus anteriores exploraciones en el servicio: En los resultados aparecían mujeres que se parecían a ella, y sin añadir calificativos como "tallas grandes" a su búsqueda.
"Mido 1,70 y mido una talla 20, así que tengo que decir: 'inspiración de conjuntos para la vuelta al cole de tallas cortas'", dice Craig sobre su reto habitual para encontrar contenidos de moda relevantes en Internet. "Ahora, no tengo que hacer esa gimnasia mental".
Ya está aquí la herramienta de búsqueda de Pinterest que incluye el cuerpo
La cuarta temporada de 'You' ya tiene oficialmente fecha de emisión. Aquí están todos los detalles que tenemos hasta ahora sobre los nuevos episodios.
La nueva y liberadora experiencia de Craig en Pinterest se debe al acceso anticipado a los algoritmos actualizados diseñados para mostrar distintos tipos de cuerpo que la empresa presenta hoy, después de haberlos introducido silenciosamente en los últimos meses. Estos algoritmos se basan en parte en un nuevo sistema de inteligencia artificial capaz de reconocer diferentes formas y tamaños corporales.
En un movimiento novedoso entre las principales plataformas tecnológicas, Pinterest está tratando de atacar de frente la forma en que los servicios de redes sociales ajustados por algoritmos amplifican el sesgo de larga data hacia las mujeres delgadas y de piel clara como el estándar definitivo de belleza. La investigación académica e incluso los estudios internos de las empresas han demostrado que este refuerzo ha dejado a algunos usuarios luchando por conciliar sus propios cuerpos con lo que generalmente ven en línea, causando traumas mentales o trastornos de la alimentación.
Pinterest ha desarrollado su tecnología aplicando el aprendizaje automático a más de 5.000 millones de imágenes de personas de todas las formas y tamaños. Annie Ta, jefa del equipo de productos inclusivos de Pinterest, afirma que su objetivo es que los usuarios sientan que el servicio celebra la diversidad de tipos de cuerpo y ofrece contenidos que parecen más relevantes. "Nuestra misión es ayudar a la gente a sentirse inspirada, y no puedes sentirte inspirado a menos que sientas que has sido incluido en la experiencia del producto", afirma Ta.
Los algoritmos de búsqueda de Pinterest ahora muestran intencionadamente una amplia gama de tipos de cuerpo en los resultados relacionados con la moda, el maquillaje y las bodas.
Cortesía de PinterestLas personas que buscan en Internet una visión más representativa del cuerpo humano, como Craig, suelen desarrollar consultas de búsqueda específicas y otros trucos para encontrar imágenes relevantes, pero dicen que sigue siendo frustrante. Las plataformas tecnológicas han ignorado en gran medida el problema. Los generadores de imágenes de inteligencia artificial, como Dall-E, se basan en estereotipos poco realistas encontrados en sus datos de entrenamiento.
Otras empresas que se benefician de la forma humana tampoco atienden a todos los cuerpos: la mujer media en EE.UU. lleva una talla 18, pero la mayoría de las marcas de ropa no ofrecen tallas más grandes. Y la investigación y la experiencia vivida demuestran que los prejuicios contra las personas de talla grande están ampliamente aceptados en muchas facetas de la sociedad, como la contratación, la atención médica, la educación y los algoritmos. Se les avergüenza, se les intimida y se les tacha injustamente de poco saludables, independientemente del contexto. "Hay un ensañamiento contra los gordos, y en particular contra los gordos que se niegan a disculparse por ser gordos", afirma Tigress Osborn, una activista política que se define a sí misma como defensora de los derechos de los gordos y que ha asesorado a Pinterest en su nueva función.
Un estudio realizado el año pasado por el Berkeley Media Studies Group descubrió que los medios de comunicación más populares publicaron más de 18.000 artículos sobre la pérdida de peso en 12 meses, pero sólo 48 artículos sobre la "antigordura". Las personas ultradelgadas o en cuclillas tampoco lo tienen fácil. La Asociación Nacional para el Avance de la Aceptación de la Grasa (National Association to Advance Fat Acceptance), una organización estadounidense sin ánimo de lucro dirigida por Osborn, aboga por prohibir la discriminación por razón de talla, y está ganando adeptos en los parlamentos estatales y los ayuntamientos, incluida una prohibición en Nueva York que empezará a aplicarse en noviembre.
Osborn y Ta, de Pinterest, esperan que promoviendo tipos de cuerpo más diversos entre sus 465 millones de usuarios mensuales, la plataforma pueda ayudar a remodelar las percepciones públicas sobre el tamaño y la forma del cuerpo. "Si estás expuesto a más personas de más orígenes, esperamos construir un mundo más tolerante y tolerante", dice Ta.
Puede sonar idealista, pero afirma que también es un buen negocio. "Los anunciantes quieren ver sus contenidos junto a contenidos realmente positivos, ¿verdad?". afirma Ta. Craig, influencer y bloguera, espera hacer más compras directamente desde Pinterest a través de publicaciones que enlacen a las páginas de pago de los comercios.
De momento, el nuevo sistema de Pinterest sólo está activo en las publicaciones, conocidas como "pines", relacionadas con la moda, el maquillaje y las bodas. Aparece en los resultados de las búsquedas y en los pines recomendados y relacionados que se ofrecen a los usuarios. Sólo los estadounidenses, británicos, irlandeses, canadienses, australianos y neozelandeses se encontrarán con esta tecnología. Aunque la tecnología puede reconocer cuerpos de todo el mundo, su ampliación a otros países estará sujeta a la consideración de las normas y leyes culturales locales.
El proyecto de diversidad corporal se basa en los lanzamientos anteriores y pioneros de Pinterest de algoritmos que pueden reconocer una gama de tonos de piel y patrones de cabello. Se apoyan en un acuerdo que Pinterest alcanzó con el fondo de pensiones de Rhode Island y otros accionistas hace un año para resolver una demanda en la que se acusaba a la empresa de discriminar al personal femenino y negro, lo que desencadenó una huelga virtual en 2020 y denuncias públicas de antiguos empleados.
Trece de las aproximadamente 90 condiciones del acuerdo se refieren a la inclusión de productos, consagrando el cargo de Ta, así como la financiación y supervisión de su equipo de productos inclusivos. En virtud del acuerdo, Pinterest se ha comprometido a gastar 50 millones de dólares a lo largo de 10 años en proyectos de diversidad, equidad e inclusión, con un gasto de 5,4 millones de dólares el primer año en consultores, asesores y formación, según una presentación judicial. Megan D'Alessio, una gestora de inclusión y diversidad implicada en los esfuerzos, dice que el acuerdo ha "estimulado y amplificado un montón de gran trabajo en Pinterest."
Cultura más popular Joey King y Steven Piet se casan en una boda al estilo *Great Gatsby* en MallorcaPor Alexandra Macon
Cultura Miley Cyrus revela el momento en que decidió divorciarse de Liam HemsworthPor Kara Nesvig
Por Kara Nesvig
El acuerdo muestra cómo la acción de los accionistas puede conseguir que las plataformas tecnológicas hagan un esfuerzo duradero para abordar algunas de sus deficiencias. Los demandantes obligaron a Pinterest a invertir a lo largo de 10 años porque las empresas suelen gastar rápidamente en programas de diversidad e inclusión sin generar cambios significativos, escribió la abogada Julie Goldsmith Reiser en la presentación judicial. En otras empresas tecnológicas, como Microsoft, Meta, Google y Twitter, los despidos y los recortes presupuestarios a los equipos que trabajan en el desarrollo de productos éticos o inclusivos han ralentizado su trabajo, según antiguos empleados e informes de prensa. Pinterest va para largo.
Llamada a la acciónPinterest lanzó los filtros de tono de piel en 2018 después de que unos becarios propusieran la idea, pero el trabajo sobre la inclusión de productos permaneció vagamente organizado hasta 2020. Ese año, cuando las protestas por la justicia racial de George Floyd se extendieron por Estados Unidos y otros países, Ta convocó a los trabajadores de Pinterest para reimaginar las características de sus productos. Reunió a ingenieros y otros empleados en un nuevo equipo de inclusión de productos que ahora cuenta con más de dos docenas de personas. "Me pasé el verano de 2020 haciendo una gira por toda la empresa", explica Ta.
El nuevo grupo lanzó el filtro de patrón de pelo en 2021 en seis países, con opciones como rizado y coily. Hasta ahora no hay ninguna opción de pelo fino para las personas que intentan hacer más con menos, pero el año pasado Pinterest amplió los filtros de pelo a otros nueve países. El grupo de Ta también amplió la tecnología para cubrir más búsquedas y funciones en toda la empresa. Las primeras pruebas de los algoritmos actualizados en algunos países este año aumentaron en un 302% el número de búsquedas de belleza y moda en las que los usuarios recibían una gama diversa de tonos de piel en los resultados, en comparación con el mismo periodo hace un año. El número de búsquedas diarias en las que se utilizó el filtrado por patrón capilar aumentó un 41% en el primer trimestre de 2023 en comparación con hace un año.
En las redes sociales y en la investigación de usuarios, los usuarios de Pinterest han hecho de una representación más amplia de los tipos de cuerpo una de las características más solicitadas. "Hemos oído una y otra vez que estamos promoviendo este tipo de estereotipo de 'lo delgado es bello'", dice Ta. Ben Silbermann, cofundador de Pinterest y hasta principios de este año su consejero delegado, también quería actuar. "Ben es un ser humano realmente contundente a veces y yo estaría en una revisión con él sobre otra cosa, y él sería como, '¿Por qué no hemos construido tipo de cuerpo todavía?' Él estaba tan entusiasmado con él", dice Ta.
El equipo de Ta empezó a trabajar en esta función a finales del año pasado. Los primeros pasos consistieron en formar a los ingenieros y diseñadores de Pinterest sobre el tamaño corporal y averiguar qué querían exactamente los usuarios. La directora de DEI, D'Alessio, que se describe a sí misma como plus size, compartió una lista de podcasts que incluían Maintenance Phase, programas de televisión y libros como Belly of the Beast para aprender más sobre cuestiones corporales. También ofreció a los empleados de Pinterest un curso intensivo de una clase que impartió en Stanford en 2021 sobre diseño para la liberación de la gordura, que anima a replantearse los estigmas sobre el peso. La empresa también revisó sus políticas internas en el lugar de trabajo para asegurarse de que encajaban con el nuevo enfoque del producto sobre la inclusión del tipo de cuerpo, dice D'Alessio.
Cultura más popular Joey King y Steven Piet se casan en una boda al estilo *Great Gatsby* en MallorcaPor Alexandra Macon
Cultura Miley Cyrus revela el momento en que decidió divorciarse de Liam HemsworthPor Kara Nesvig
Cultura Addison Rae lanza su álbum de pop perdido filtrado con Charli XCXPor Kara Nesvig
Cuando Katie Elfering, investigadora asistente de producto de Pinterest, analizó la frecuencia con la que los usuarios buscaban contenidos que mostraran tallas grandes, los datos la entristecieron. Los registros de los usuarios revelaron que más de la mitad de las búsquedas de moda relacionadas con atributos corporales específicos hacían referencia a "tallas grandes" en varios grandes países de habla inglesa durante el año pasado. Los usuarios, frustrados, hacían todo lo posible por buscar diversidad corporal. "Quieren ver barrigas, piernas muy grandes, arrugas, pelo desigual y personas con capacidades diferentes", afirma Elfering.
Pinterest ha trabajado durante los últimos meses con algunos usuarios estadounidenses como Craig en "design jams" para desarrollar ideas que aumenten la inclusión corporal. Una cuestión clave era si centrarse en dejar que los usuarios vieran resultados que representaran a personas con un tipo de cuerpo similar al suyo o mostrar a todo el mundo una mayor diversidad. Tras un largo debate, el equipo de Pinterest decidió que lo más importante eran los beneficios sociales de mostrar a todo el mundo distintos tamaños corporales. La función sería diversa por defecto. "Queremos asegurarnos de que en nuestros resultados la gente vea todo tipo de cuerpos, formas y tamaños", dice Elfering.
Pinterest aún no ha lanzado un filtro de tipo de cuerpo para que los usuarios se centren en una talla o forma concreta. El director de tecnología Jeremy King dice que no está claro que los usuarios quieran esa opción. "Cuando vemos a la gente pinear, pinean todo tipo de estilos, todo tipo de tipos de cuerpo", dice, mientras que con el contenido sobre cabello y piel, la gente busca productos que coincidan con sus propios rasgos. Esta decisión evita el complicado problema de cómo denominar las opciones que ofrece un filtro de tipo de cuerpo. En una investigación en la que se preguntaba a los usuarios por los términos que preferían para referirse a su propio cuerpo, la gente mostraba poca coherencia: algunos utilizaban la talla de la ropa o la altura, y otros formas geométricas o frutales.
Las decisiones de diseño de Pinterest tuvieron que combinarse con avances de ingeniería. Pedro Silva, ingeniero sénior de aprendizaje automático de Pinterest, explica que la empresa desarrolló una red neuronal entrenada con miles de imágenes de distintos tipos de cuerpos, etiquetadas por el personal.
El sistema final predice esencialmente para cada nueva imagen que analiza dónde cae un cuerpo dentro del rango de todos los cuerpos que el sistema de IA ha visto en el pasado. Antes de hacer esa predicción, el sistema tiene que aislar la forma del cuerpo de una persona en una foto de otros elementos visuales, teniendo en cuenta abrigos grandes, brazos extendidos y vestidos abiertos. Pinterest afirma que ha conseguido que la tecnología funcione con vídeos y cuerpos de personas con distintas expresiones de género, etnias y capacidades físicas.
En los resultados de búsqueda y en otros lugares, los algoritmos de diversidad de Pinterest determinan los pines más relevantes para mostrar a un usuario específico, pero también intercambian una selección de pines con la misma puntuación de relevancia que representan diferentes tipos de cuerpo o tonos de piel. Pinterest afirma que el número de búsquedas relacionadas con la moda que muestran todos los tipos de cuerpo aumentó un 454% en el segundo trimestre en comparación con hace un año, cuando empezó a implantar esta tecnología en Estados Unidos.
Promesas que cumplirPinterest no es la única empresa tecnológica que intenta que sus algoritmos acepten mejor la diversidad corporal. El proveedor de herramientas de diseño en línea Canva ha ajustado sus algoritmos de búsqueda para presentar resultados diversos de imágenes y otros elementos de contenido basados en ocho factores, entre ellos la religión, el idioma, la sexualidad y marcadores de apariencia como el color de ojos y el tipo de cuerpo. "Somos 8.000 millones de personas en el mundo, y queremos llegar a un punto en el que podamos representar a todo el mundo", afirma Silvia Oviedo López, responsable de contenido y descubrimiento de Canva.
Cultura más popular Joey King y Steven Piet se casan en una boda al estilo *Great Gatsby* en MallorcaPor Alexandra Macon
Cultura Miley Cyrus revela el momento en que decidió divorciarse de Liam HemsworthPor Kara Nesvig
Cultura Addison Rae lanza su álbum de pop perdido filtrado con Charli XCXPor Kara Nesvig
Google también se ha planteado la inclusividad de sus propios servicios. Una investigación interna descubrió que las decisiones de moderación y monetización en servicios como los anuncios y el vídeo podían estar sesgadas en contra de las personas con cuerpos más grandes, según un antiguo empleado que habló de forma anónima para tratar asuntos confidenciales. Google invirtió en educación de la sensibilidad y en mejorar las directrices para los revisores con el fin de garantizar que no se penalizaba injustamente a las personas, por ejemplo, al considerar que una persona más corpulenta en traje de baño mostraba demasiada piel aunque una persona más delgada con un atuendo similar expusiera el mismo porcentaje de piel desnuda. El portavoz de Google, Nate Funkhouser, afirma que la empresa evalúa constantemente sus sistemas y directrices publicitarios para asegurarse de que aplica las políticas de forma imparcial.
Pinterest no tiene planes de ajustar las políticas de contenidos o anuncios para fomentar o exigir la diversidad corporal, dice Ta, pero sí prohibió los anuncios relacionados con dietas en 2021, alegando que distraían del ambiente positivo que quería fomentar.
Aunque el acuerdo legal obliga a Pinterest a emprender proyectos de productos inclusivos, los proyectos de diversidad dentro de las empresas tecnológicas pueden parecer menos urgentes para los ejecutivos centrados en los beneficios. En mayo de 2022, Google prometió actualizaciones relacionadas con la inclusión en las búsquedas, pero su puesta en marcha ha sido lenta. Todavía no se han puesto en marcha filtros para el color del pelo en las búsquedas de imágenes ni una actualización de la clasificación de las búsquedas para utilizar una medida más inclusiva de los tonos de piel, ni tampoco un sistema para ayudar a los editores a etiquetar contenidos con atributos como el tono de piel, el color y la textura del pelo de forma visible para los algoritmos de búsqueda de Google.
Actualmente, los resultados de Google Imágenes pueden filtrarse por tono de piel para las consultas relacionadas con el maquillaje y por textura del cabello para las consultas sobre peinados, pero ambas opciones sólo están disponibles en EE.UU. Una persona familiarizada con los proyectos no autorizada a hablar de asuntos internos achacó los recortes de gastos a la reducción de la cantidad y la calidad del personal. "No es una prioridad para Google", afirma la fuente. "Me sorprendería que fueran capaces de cumplir lo prometido".
Colette García, portavoz de Google, niega que la creación de productos inclusivos no sea una prioridad para la empresa. "Se trata de un área de inversión activa y continua para nuestros equipos", afirma. "Seguimos introduciendo mejoras de forma responsable para que nuestros productos reflejen las múltiples dimensiones de la diversidad". La nueva función de prueba virtual de la empresa para algunos listados de productos en las búsquedas se diseñó para adaptarse a una variedad de formas de la parte superior del cuerpo. Pero en las búsquedas de términos como "moda" siguen apareciendo cero personas de talla grande, dice Osborn, del grupo de defensa de los gordos.
Pinterest afirma que se compromete a llevar a cabo sus ambiciones para asegurarse de que todos los cuerpos son atendidos y visibles en su servicio. Para aumentar la diversidad de contenidos disponibles para mostrar a los usuarios, la empresa ha gastado 2,7 millones de dólares en los últimos tres años para financiar y educar a influencers y editores independientes en 12 países sobre cómo promocionar mejor sus contenidos. Hoy se abren las inscripciones para el último grupo, que se centrará en los usuarios de tallas grandes de Norteamérica.
Cultura más popular Joey King y Steven Piet se casan en una boda al estilo *Great Gatsby* en MallorcaPor Alexandra Macon
Cultura Miley Cyrus revela el momento en que decidió divorciarse de Liam HemsworthPor Kara Nesvig
Cultura Addison Rae lanza su álbum de pop perdido filtrado con Charli XCXPor Kara Nesvig
Zeny Shifferaw, responsable del programa, dice que le gusta que ya no tenga que añadir "chicas negras" como calificativo para las búsquedas de peinados y quiere que los demás tengan la misma sensación de inclusión. "Eso es, en última instancia, lo que intentamos conseguir para tantos grupos marginados diferentes".
