O maravilhoso mundo do controlo inteligente de enviesamento de algoritmos

Os preconceitos que os algoritmos podem desenvolver são conhecidos e numerosos:

• Muitos são optimizados para maximizar os lucros acima de tudo.
• Outros são alimentados com dados que não são representativos da população real ou negligenciam populações tais como os deficientes, famílias monoparentais, etc.
• Finalmente, alguns são tecnologicamente limitados enquanto outros beneficiam dos avanços mais sofisticados.

Embora todos reconheçam a necessidade de regulamentação, o desafio de elaborar uma regulamentação exequível e eficaz está em cima da mesa.

Por exemplo, a Lei dos Mercados Digitais (DMA) especifica:

"Um mercado não deve favorecer os seus serviços e produtos em relação aos dos vendedores que utilizam a sua plataforma ou exploram os dados do vendedor para competir com eles".

A Lei dos Serviços Digitais (DSA), por seu lado, declara que :

"Um serviço digital terá de explicar como funcionam as suas recomendações e algoritmos de publicidade.

Fácil de dizer, mas é preciso ser capaz de o provar ou simplesmente ser capaz de o fazer. Se o algoritmo está constantemente a aprender e a mudar, é necessário encontrar uma forma de o testar de uma forma representativa e não induzir a enviesamento pelo próprio teste e ser capaz de o fazer de forma contínua e regular.

É isto que o projecto-piloto Regalia está a tentar fazer. Benoit Rottembourg, que é o responsável pelo projecto na Inria, faz o balanço após dois anos de actividade. As suas recomendações são aguardadas com interesse, especialmente à medida que a elaboração da legislação avança.

Para o artigo completo: Regulamento de algoritmos: qual é o estado do projecto-piloto Regalia?

Ilustração: AndrewLozovyi - DepositPhotos

Visita inria.fr