O maravilhoso mundo do controlo inteligente de enviesamento de algoritmos

Todos os comportamentos alteram a avaliação. Regalia tenta dar-lhe algum sentido.

Os preconceitos que os algoritmos podem desenvolver são conhecidos e numerosos:

Muitos são optimizados para maximizar os lucros acima de tudo.
Outros são alimentados com dados que não são representativos da população real ou negligenciam populações tais como os deficientes, famílias monoparentais, etc.
Finalmente, alguns são tecnologicamente limitados enquanto outros beneficiam dos avanços mais sofisticados.

Embora todos reconheçam a necessidade de regulamentação, o desafio de elaborar uma regulamentação exequível e eficaz está em cima da mesa.

Por exemplo, a Lei dos Mercados Digitais (DMA) especifica:

"Um mercado não deve favorecer os seus serviços e produtos em relação aos dos vendedores que utilizam a sua plataforma ou exploram os dados do vendedor para competir com eles".

A Lei dos Serviços Digitais (DSA), por seu lado, declara que :

"Um serviço digital terá de explicar como funcionam as suas recomendações e algoritmos de publicidade.

Fácil de dizer, mas é preciso ser capaz de o provar ou simplesmente ser capaz de o fazer. Se o algoritmo está constantemente a aprender e a mudar, é necessário encontrar uma forma de o testar de uma forma representativa e não induzir a enviesamento pelo próprio teste e ser capaz de o fazer de forma contínua e regular.

É isto que o projecto-piloto Regalia está a tentar fazer. Benoit Rottembourg, que é o responsável pelo projecto na Inria, faz o balanço após dois anos de actividade. As suas recomendações são aguardadas com interesse, especialmente à medida que a elaboração da legislação avança.

Para o artigo completo: Regulamento de algoritmos: qual é o estado do projecto-piloto Regalia?

Ilustração: AndrewLozovyi - DepositPhotos

Leia mais sobre est notícia

Visita inria.fr