Os desafios de delegar em máquinas

A capacitação contínua dos nossos ambientes pela inteligência artificial (IA) e pelas tecnologias autónomas constitui um importante ponto de viragem antropológico. Põe em causa a nossa relação com o mundo, a nossa ontologia e a evolução do conhecimento. Longe de ser neutra, esta transformação revela dinâmicas profundas, motivos históricos e consequências complexas a longo prazo.

Recorrendo às perspectivas de filósofos contemporâneos como Bernard Stiegler, Gilbert Simondon, Bruno Latour, Donna Haraway e Augustin Berque, podemos decifrar as implicações desta transformação e perspetivar as suas tendências futuras.

O robot é a mensagem

A principal força motriz por detrás deste empowerment é dupla. Por um lado, a procura de eficiência e de racionalidade, que faz parte da própria lógica da modernidade, visa otimizar os processos humanos e organizacionais. De acordo com Bernard Stiegler (2019), a automatização prolonga uma dinâmica histórica em que a tecnologia, ao tornar-se cada vez mais autónoma, está a reestruturar as nossas sociedades e a nossa relação com o tempo.

Por outro lado, como demonstrou Gilbert Simondon (1958), a tecnologia responde à necessidade humana de delegar certas tarefas em objectos técnicos, libertando o indivíduo e transformando a sua relação com o mundo. Esta delegação, inicialmente ligada a necessidades práticas, intensifica-se com a IA, onde funções tradicionalmente humanas - como a tomada de decisões e a reflexão - são assumidas por sistemas algorítmicos.

No entanto, esta delegação de poderes está a reconfigurar profundamente os nossos ambientes, no sentido mesológico definido por Augustin Berque (2000). O meio ambiente, co-construído pela interação entre os seres humanos e o seu ambiente, está agora a ser infiltrado por fluxos de dados e tomadas de decisão autónomas que estão a alterar o seu equilíbrio.

Ao tornarem-se actores autónomos, os ambientes tecnológicos estão a mudar a forma como os seres humanos habitam o mundo. Segundo Berque, este fenómeno representa uma transformação do ambiente eco-técnico-simbólico, onde a hipertrofia das dimensões técnicas e abstractas se sobrepõe às experiências sensíveis e corporais. Por exemplo, os algoritmos de recomendação, omnipresentes na nossa vida digital, reestruturam as nossas interações com o conhecimento e a cultura, limitando a pluralidade das nossas experiências.

A desincorporação do humano

Esta intrusão tecnológica gera também uma temporalidade acelerada, incompatível com os ritmos naturais do habitar humano. Como refere Stiegler (2019), a automação produz uma perda de controlo sobre o tempo, porque os processos tecnológicos operam a uma escala muito mais rápida do que o pensamento humano. Esta dinâmica afecta particularmente a nossa capacidade de atenção e reflexão crítica, reduzindo a nossa capacidade de habitar plenamente o mundo. Bruno Latour (2005) alerta também para a ilusão da neutralidade tecnológica: os ambientes automatizados, longe de serem objectivos, incorporam lógicas sociais, políticas e económicas que amplificam as assimetrias de poder.

Em termos ontológicos, esta autonomização levanta questões sobre o lugar e o papel do ser humano. Com Heidegger (1954), esta transformação pode ser vista como uma manifestação da Gestell, em que o mundo é progressivamente reduzido a um stock de recursos disponíveis. O ser humano torna-se um utilizador passivo num ambiente estruturado para ele, mas sem ele, o que altera a sua intencionalidade. Quando Francisco Varela (1991) introduziu o conceito de cognição incorporada, já sublinhava a importância da fisicalidade e da interação sensível na construção da experiência humana. No entanto, a crescente autonomia dos ambientes tende a desincorporar estas interações, reduzindo os seres humanos a meros operadores de infra-estruturas tecnológicas.

De um modo mais geral, a autonomização dos ambientes põe em causa a ontologia humana, transformando a ação. A ação direta está a dar lugar à ação programada, em que os seres humanos já não decidem, mas configuram sistemas que decidem por eles. Esta redistribuição da ação, embora eficaz, torna os seres humanos mais vulneráveis ao torná-los dependentes de tecnologias complexas que nem sempre dominam totalmente. Donna Haraway (1991), no seu manifesto ciborgue, vê nesta hibridação homem-máquina uma oportunidade, mas também alerta para os excessos do domínio tecnológico sobre os humanos.

Estas mudanças estão a ter um efeito profundo no conhecimento. A autoridade epistémica, tradicionalmente encarnada na perícia humana, está agora a ser transferida para sistemas algorítmicos. O conhecimento produzido por máquinas, visto como neutro e objetivo, corre o risco de suplantar formas de conhecimento mais contextualizadas e incorporadas. Como salienta Haraway (1988), esta ilusão de neutralidade esconde os preconceitos e os interesses incorporados nas próprias tecnologias. Além disso, a lógica algorítmica, centrada na quantificação e otimização, reduz o conhecimento a dados abstractos, desligados das realidades vividas. Esta tendência é particularmente prejudicial para o conhecimento sensível e relacional, que é essencial para uma compreensão holística do mundo.

A condição humana como condição prévia para a tecnologia

A longo prazo, estão a surgir várias tendências. Uma das mais preocupantes é o reforço das assimetrias de poder. Como mostra Zuboff (2019), a economia da vigilância, baseada na exploração de dados pessoais, está a aumentar as desigualdades entre aqueles que dominam as tecnologias autónomas e aqueles que dependem delas. Além disso, a crescente dependência de ambientes autónomos pode levar a uma fragilidade ecológica e social. Uma rutura destas infra-estruturas, por exemplo, comprometeria seriamente a nossa capacidade de agir e de tomar decisões.

No entanto, são possíveis alternativas. Com base no trabalho de Katherine Hayles (1999) sobre a pós-humanidade, é possível conceber uma simbiose entre humanos e tecnologias, em que a autonomia dos ambientes não seria uma ameaça, mas uma oportunidade para aumentar as capacidades humanas, respeitando a sua diversidade e complexidade. Esta simbiose implica repensar a nossa relação com o conhecimento e os ambientes numa perspetiva relacional e ecossistémica.

Em conclusão, a capacitação dos ambientes, embora inevitável, não deve ser encarada como uma fatalidade. Convida-nos a cultivar uma vigilância crítica e a reinvestir as dimensões sensíveis e relacionais da nossa relação com o mundo. Augustin Berque (2000) salienta que os seres humanos são criaturas do ambiente, fazendo parte de uma complexa teia de interações entre o natural, o técnico e o simbólico. Se esta teia se desequilibrar, os seres humanos arriscam-se a perder a sua capacidade de habitar plenamente o mundo.

Uma ontologia relacional aumentada, baseada na co-evolução entre humanos, tecnologias e ambientes, poderia oferecer uma forma de ultrapassar estes desafios, preservando os valores fundamentais da condição humana.

Fontes

Berque, A. (2000). Écoumène: Introduction à l'étude des milieux humains. Belin.
https://amzn.to/4hEMNIp

Haraway, D. J. (1988). Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective. Estudos Feministas, 14(3), 575-599.
https://www.jstor.org/stable/3178066

Haraway, D. J. (1991). Simians, Cyborgs, and Women: The Reinvention of Nature. Routledge.
https://amzn.to/4hZ3bn0

Heidegger, M. (1954). Die Frage nach der Technik. Günther Neske.
https://amzn.to/3QiExlA

Latour, B. (2005). Reassembling the Social: An Introduction to Ator-Network-Theory. Oxford University Press.
https://amzn.to/415nhoC

Simondon, G. (1958). Du mode d'existence des objets techniques. Aubier.
https://amzn.to/41kwQlh

Stiegler, B. (2019). Qu'appelle panser? 1. L'immense régression. Les Liens Qui Libèrent.
https://amzn.to/4jZMSrU

Varela, F. J., Thompson, E., & Rosch, E. (1991). The Embodied Mind: Cognitive Science and Human Experience. MIT Press.

Zuboff, S. (2019). A era do capitalismo de vigilância - Shoshana Zuboff
https://amzn.to/4357uJr