A Inteligência Artificial como instrumento ideológico?

A inteligência artificial (IA) está a entrar na nossa vida quotidiana nos sectores da saúde e da educação, entre outros. Por IA entendemos qualquer máquina que reproduza o comportamento humano como o raciocínio, o planeamento e a criatividade, de acordo com o Parlamento Europeu.

Esta entidade é essencialmente constituída por bases de dados, algoritmos, que à primeira vista são estritamente racionais, uma vez que as máquinas inteligentes se baseiam em regras de ciências exactas para tomar uma decisão. Mas se a ideologia for entendida como um sistema de ideias, de opiniões, moldando o comportamento de um indivíduo ou de um grupo em relação aos objectivos do desenvolvimento social, o facto de uma I.A. estar incluída neste processo não pode ser desprovida de uma visão do mundo. Esta última pode ser entendida aqui, em vez de ideologia. Então, em que medida é possível afirmar que a IA é a portadora de uma ideologia? Este é o cerne do presente artigo.

Um espelho social

Se partirmos do princípio de que qualquer criação, artística ou não, está imbuída da identidade do seu criador, este poderia ser também o caso da IA. De facto, ao contrário da ideia de neutralidade que poderíamos ser tentados a atribuir à tecnologia em geral, e à IA em particular, notamos que esta última é "eminentemente política e social" de acordo com Julie Marques.

O ponto de partida para as disparidades sociais no desenvolvimento da IA é principalmente a sub-representação das mulheres, que se situa em 29% no campo dos dados e da IA. Isto significa que a maior parte dos algoritmos produzidos por homens carregam um preconceito de género. Por exemplo, a maioria dos programas de reconhecimento facial desenvolvidos por homens é melhor a distinguir entre as faces dos homens do que entre as faces das mulheres. É óbvio que estes algoritmos são uma expressão de uma visão do mundo masculino, devido à incapacidade de identificar as mulheres.

Para além desta realidade, é de notar que a IA também contribui para a acentuação das desigualdades raciais. Isto pode ser visto no COMPAS, um sistema de definição de penas de prisão utilizado nos Estados Unidos, que tem sido criticado como racista. Isto é visto através da atribuição de pesadas penas de prisão a pessoas racializadas e de penas mais leves a pessoas não-racializadas. A ideia é que as pessoas racializadas são mais propensas a reincidir do que o grupo oposto. Como se pode ver, os algoritmos contêm tanto preconceitos de género como raciais. Estas realidades são um reflexo do espaço a partir do qual o algoritmo é concebido, ou melhor, um reflexo da visão do mundo do criador. Nesta perspectiva, A.I. tende a desacreditar uma categoria de pessoas e consegue alimentar relações de poder que são meramente uma réplica da realidade. A falta de neutralidade de I.A. através da reprodução da realidade através de algoritmos tendenciosos não parece ser o único nível de análise ideológica da IA. Há também a busca de um mundo mecânico.

Um mundo mecânico

A.I. parece estar a provar a si mesma; da promessa de crescimento económico à melhoria dos cuidados de saúde, esta entidade está a tornar-se cada vez mais essencial para a vida quotidiana. Embora tenha sido originalmente concebida para facilitar a vida aos humanos, as máquinas com inteligência humana tendem a invadir as nossas vidas de tal forma que já não podemos passar sem elas. É isto que faz Jean-Claude Ravet dizer que somos confrontados com a crescente influência de uma ideologia tecnicista. Ela quer escravizar o homem e estabelecer um mundo nas mãos das máquinas.

Em termos concretos, isto significa que, cada vez mais, as pessoas não podem fazer certas tarefas diárias sem a ajuda de máquinas. Isto leva ao desaparecimento de certos ofícios e à substituição do homem por máquinas inteligentes. É o caso, por exemplo, em alguns supermercados onde os caixas estão gradualmente a ser substituídos por máquinas de caixa de auto-serviço, que registam as compras sob o olhar atento de um único empregado.

O lado ideológico da máquina inteligente vai para além da substituição de seres humanos por máquinas. É também necessário mencionar a sua quota-parte de responsabilidade na mudança da relação entre o homem e o mundo. De facto, A.I. impõe uma nova lógica, um certo ritmo e dinamismo ao homem, de tal forma que "tudo o que a tecnologia torna possível tende a tornar-se uma obrigação nas nossas vidas, uma vez que estas possibilidades esculpem o mundo de acordo com as suas próprias características".

Isto pode ser visto na utilização de telemóveis, que sujeitam os seus utilizadores a uma série de diktats tecnológicos, tais como a aceleração do tempo, o trabalho contínuo, a ligação constante, etc. É evidente que o desenvolvimento da A.I. projecta uma mecanização do mundo em segundo plano, o que influencia o comportamento humano, escravizando-os a estes novos tipos de máquinas. Para além desta tendência escravizadora de I.A. para a mecanização do mundo, é de notar que esta tecnologia emerge dentro de uma corrente de pensamento que destila os valores neoliberais.

A lógica materialista na origem da I.A.

O objectivo de substituir os seres humanos por máquinas é ultrapassar as várias falhas que podem ser observadas nos seres humanos. Desta forma, a I.A. ajuda a reduzir erros no trabalho, facilita explorações arriscadas, etc. Em suma, o objectivo destes robôs inteligentes é compensar as várias deficiências que os humanos podem experimentar e que podem revelar-se dispendiosas para as empresas. Estas deficiências podem atrasar a produção dentro de uma empresa e fazer com que esta perca enormes receitas.

A ideia de mecanização neste sentido baseia-se em tornar o negócio mais rentável, ou mesmo em aumentar a produção. A ênfase na noção de eficiência tem a marca do neoliberalismo. Isto é tanto mais verdade quanto Robert Dutrisac afirma o 'enredamento' de A.I. com os valores neoliberais de desempenho, eficiência e produtividade.

É bastante lógico pensar assim porque o desenvolvimento da I.A. visa criar uma categoria de seres que poderia ser chamada de sobre-humanos. De facto, é uma versão melhorada do ser humano cuja resistência na execução de tarefas visa essencialmente o aumento da produtividade e dos lucros.

Tendo em conta o acima exposto, é evidente que a automatização da maioria das áreas da vida quotidiana, mesmo que melhore a qualidade de vida, é em certa medida prejudicial para os seres humanos através do desaparecimento de certos empregos, da dependência de máquinas inteligentes, e da reprodução de preconceitos. Este estado de coisas exige um quadro ético para a concepção da I.A., cuja falta de controlo poderia levar a todo o tipo de abusos, causando mais danos do que benefícios para a humanidade.

Ilustração: DepositPhotos - threecvet.gmail.com

Referências

Bastien L, 2021, "Como a IA melhora a produtividade nos negócios".
https://www.lebigdata.fr/ia-ameliore-productivite-entreprise

Dutrisac Robert, "Les menaces technicistes de l'intelligence artificielle", Le Devoir
https://www.ledevoir.com/societe/le-devoir-de-philo-histoire/513927/les-menaces-technicistes-de-l-intelligence-artificielle

Institut Mines et télécom, "La place des femmes dans l'AI : vers une maîtrise de l'AI égalitaire" (O lugar das mulheres na IA: rumo a um domínio igual da IA)
https://www.imt-bs.eu/la-place-des-femmes-dans-lia-vers-une-maitrise-de-lia-egalitaire/

Marques Julie, "l'intelligence artificielle au prisme d'une approche intersectionnelle : entre négociations et définitions", Levoir
https://journals.openedition.org/ctd/7109

Ravet Jean-Claude, 2018, 'Ethics and artificial intelligence', Relations, (795), 5-5.
https://www.erudit.org/en/journals/rel/2018-n795-rel03467/87785ac.pdf