Ex ingeniero de Meta testifica ante el Congreso sobre los daños de Instagram a los adolescentes

El mismo día que la denunciante Frances Haugen testificaba ante el Congreso sobre los daños de Facebook e Instagram a los niños en el otoño de 2021, Arturo Béjar, entonces contratista del gigante de las redes sociales, envió un correo electrónico alarmante al director ejecutivo de Meta, Mark Zuckerberg, sobre lo mismo. tema.

En la nota, como informó por primera vez The Wall Street Journal, Béjar, quien trabajó como director de ingeniería en Facebook de 2009 a 2015, describió una «brecha crítica» entre cómo la empresa abordó el daño y cómo las personas que usan sus productos, la mayoría especialmente los jóvenes: experimentenlo.

«Hace dos semanas, mi hija de 16 años, creadora de experimentos en Instagram, hizo una publicación sobre autos y alguien comentó ‘Vuelve a la cocina’. Fue profundamente perturbador para ella», escribió. «Al mismo tiempo, el comentario está lejos de violar las políticas, y nuestras herramientas de bloqueo o eliminación significan que esta persona irá a otros perfiles y continuará difundiendo la misoginia. No creo que las políticas/informes o tener más revisión de contenido sean las soluciones.»

Béjar cree que Meta necesita cambiar la forma en que controla sus plataformas, centrándose en abordar el acoso, las insinuaciones sexuales no deseadas y otras malas experiencias, incluso si estos problemas no violan claramente las políticas existentes. Por ejemplo, enviar mensajes sexuales vulgares a niños no necesariamente rompe las reglas de Instagram, pero Béjar dijo que los adolescentes deberían tener una manera de decirle a la plataforma que no quieren recibir este tipo de mensajes.

Dos años después, Béjar testificará el martes ante un subcomité del Senado sobre las redes sociales y la crisis de salud mental de los adolescentes, con la esperanza de arrojar luz sobre cómo los ejecutivos de Meta, incluido Zuckerberg, sabían de los daños que Instagram estaba causando pero decidieron no hacer cambios significativos en abordarlos.

«Puedo decir con seguridad que los ejecutivos de Meta sabían el daño que estaban experimentando los adolescentes, que había cosas que podían hacer y que eran muy factibles y que optaron por no hacerlas», dijo Béjar a The Associated Press. Esto, dijo, deja claro que «no podemos confiarles a nuestros hijos».

Al abrir la audiencia del martes, el senador Richard Blumenthal, un demócrata de Connecticut que preside el subcomité de privacidad y tecnología del Senado, presentó a Béjar como un ingeniero «ampliamente respetado y admirado en la industria» que fue contratado específicamente para ayudar a prevenir daños contra los niños pero cuyas recomendaciones fueron ignorados.

«Lo que usted ha presentado hoy ante este comité es algo que todos los padres necesitan escuchar», añadió el senador de Missouri Josh Hawley, el republicano de mayor rango en el panel.

Béjar señala las encuestas de percepción de los usuarios que muestran, por ejemplo, que el 13% de los usuarios de Instagram (de entre 13 y 15 años) informaron haber recibido insinuaciones sexuales no deseadas en la plataforma en los siete días anteriores.

Béjar dijo que no cree que las reformas que sugiere afecten significativamente los ingresos o las ganancias de Meta y sus pares. No pretenden castigar a las empresas, afirmó, sino ayudar a los adolescentes.

«Escuchaste a la compañía decir ‘oh, esto es realmente complicado'», dijo Béjar a la AP. «No, no lo es. Simplemente déle al adolescente la oportunidad de decir ‘este contenido no es para mí’ y luego use esa información para entrenar todos los demás sistemas y obtener comentarios que lo mejoren».

El testimonio se produce en medio de un impulso bipartidista en el Congreso para adoptar regulaciones destinadas a proteger a los niños en línea.

Meta, en un comunicado, dijo: «Todos los días, innumerables personas dentro y fuera de Meta están trabajando en cómo ayudar a mantener a los jóvenes seguros en línea. Las cuestiones planteadas aquí con respecto a las encuestas de percepción de los usuarios resaltan una parte de este esfuerzo, y encuestas como estas han llevado «Nosotros creamos funciones como notificaciones anónimas de contenido potencialmente dañino y advertencias de comentarios. Trabajando con padres y expertos, también hemos introducido más de 30 herramientas para ayudar a los adolescentes y sus familias a tener experiencias seguras y positivas en línea. Todo este trabajo continúa».

Con respecto al material no deseado que los usuarios ven y que no viola las reglas de Instagram, Meta señala sus «pautas de distribución de contenido» de 2021 que dicen que el contenido «problemático o de baja calidad» recibe automáticamente una distribución reducida en los feeds de los usuarios. Esto incluye clickbait, información errónea que ha sido verificada y publicaciones «limítrofes», como una «foto de una persona posando de manera sexualmente sugerente, discursos que incluyen malas palabras, discursos de odio límite o imágenes sangrientas».

En 2022, Meta también introdujo «recordatorios de amabilidad» que piden a los usuarios que sean respetuosos en sus mensajes directos, pero solo se aplica a los usuarios que envían solicitudes de mensajes a un creador, no a un usuario normal.

El testimonio de Béjar se produce apenas dos semanas después de que decenas de estados de EE. UU. demandaran a Meta por dañar a los jóvenes y contribuir a la crisis de salud mental juvenil. Las demandas, presentadas en tribunales estatales y federales, afirman que Meta, a sabiendas y deliberadamente, diseña funciones en Instagram y Facebook que hacen que los niños sean adictos a sus plataformas.

Béjar dijo que es «absolutamente esencial» que el Congreso apruebe una legislación bipartidista «para ayudar a garantizar que haya transparencia sobre estos daños y que los adolescentes puedan obtener ayuda» con el apoyo de los expertos adecuados.

«La forma más eficaz de regular las empresas de redes sociales es exigirles que desarrollen métricas que permitan tanto a la empresa como a personas externas evaluar y rastrear los casos de daño, tal como los experimentan los usuarios. Esto aprovecha los puntos fuertes de lo que estas empresas pueden hacer, porque para ellos los datos lo son todo», escribió en su testimonio preparado.