NEGOCIOS

Twitter ofrece recompensa por detectar sesgos en algoritmos

"Encontrar sesgos en modelos de aprendizaje automático es difícil y, a veces, las empresas se enteran de daños éticos no deseados una vez que ya han llegado al público", dijo la red social.

Twitter dijo este viernes (30.07.2021) que ofrecería una "recompensa" en efectivo a las personas usuarias e investigadores que ayuden a erradicar sesgos algorítmicos en esa red social.

La compañía afirmó que esta sería "la primera competencia de recompensas por sesgo algorítmico de la industria", con premios de hasta 3.500 dólares. El reto se basa en programas de "recompensa por errores" que ofrecen algunos sitios web y plataformas para encontrar brechas de seguridad y vulnerabilidades, según las ejecutivas de Twitter Rumman Chowdhury y Jutta Williams.

"Encontrar sesgos en modelos de aprendizaje automático es difícil y, a veces, las empresas se enteran de daños éticos no deseados una vez que ya han llegado al público", escribieron Chowdhury y Williams en un blog. "Queremos cambiar eso", añadieron. Consideraron como algo prometedor el modelo de ofrecer recompensas a hackers para encontrar sesgos algorítmicos.

"Nos inspira cómo la investigación y las comunidades de piratas informáticos ayudaron al campo de la seguridad a establecer las mejores prácticas para identificar y mitigar vulnerabilidades para proteger al público", declararon y agregaron que quieren " cultivar una comunidad similar...para una identificación proactiva y colectiva de daños algorítmicos".

La decisión fue tomada en medio de la creciente preocupación generada por sistemas de algoritmos que, pese a los esfuerzos por ser neutrales, pueden incorporar sesgos raciales o de otro tipo. Twitter, que hace un tiempo propuso una iniciativa en favor de algoritmos limpios, informó en mayo de 2021 que estaba revisando un sistema después de descubrir un sesgo en una de sus funciones.

La red social aceptó haber detectado que el algoritmo daba "un tratamiento desigual basado en diferencias demográficas" que favorecían a hombres blancos en detrimento de negros y mujeres. También expresó haber advertido una "cosificación" de los pechos o piernas femeninas.

ama (afp, reuters)

Volume 90%

 

Ver el video01:40

Mujeres que luchan juntas contra los ataques en línea

DW RECOMIENDA

YouTube, Netflix, Twitter y Amazon, entre las webs más contaminantes

Plataformas de video como YouTube o Netflix, redes sociales como Twitter o comercios como Amazon figuran entre los sitios de internet que más contaminan, ya que su uso implica las mayores emisiones de CO2 a la atmósfera.  

Donald Trump anuncia demanda contra Facebook, Twitter y Google

Antes de ser suspendido, el exmandatario tenía casi 89 millones de seguidores en Twitter, 35 millones en Facebook y 24 millones en Instagram.  

Gobierno de Nigeria suspende servicio de Twitter "indefinidamente"

La red social había eliminado el miércoles un tuit del presidente nigeriano Muhammadu Buhari, por violación de normas.  

• Fecha 31.07.2021
• Feedback : Consultas y observaciones
• Imprimir Imprimir esta página
• Enlace permanente https://p.dw.com/p/3yLid