El maravilloso mundo del algoritmo inteligente de control del sesgo

Los sesgos que pueden desarrollar los algoritmos son conocidos y numerosos:

• Muchos están optimizados para maximizar los beneficios por encima de todo.
• Otros se nutren de datos que no son representativos de la población real o descuidan a poblaciones como los discapacitados, las familias monoparentales, etc.
• Por último, algunos están limitados tecnológicamente, mientras que otros se benefician de los avances más sofisticados.

Aunque todos reconocen la necesidad de regular, el reto de redactar una normativa aplicable y eficaz está sobre la mesa.

Por ejemplo, la Ley de Mercados Digitales (DMA) especifica:

"Un mercado no favorecerá sus servicios y productos frente a los de los vendedores que utilicen su plataforma ni explotará los datos de los vendedores para competir con ellos."

Por su parte, la Ley de Servicios Digitales (DSA) establece que :

"Un servicio digital tendrá que explicar cómo funcionan sus algoritmos de recomendación y publicidad.

Es fácil decirlo, pero hay que poder demostrarlo o simplemente ser capaz de hacerlo. Si el algoritmo aprende y cambia constantemente, hay que encontrar la manera de probarlo de forma representativa y no inducir sesgos por la propia prueba y poder hacerlo de forma continua y periódica.

Esto es lo que pretende el proyecto piloto Regalia. Benoit Rottembourg, responsable del proyecto en Inria, hace balance tras dos años de actividad. Sus recomendaciones se esperan con interés, sobre todo a medida que avanza la redacción de la legislación.

Para leer el artículo completo: Regulación de algoritmos: ¿cuál es la situación del proyecto piloto Regalia?

Ilustración: AndrewLozovyi - DepositPhotos

Visite inria.fr

Añadir a mis listas de reproducción