Utilização sensata de I.A. míopes e monomaníacas

Amplificar as ideias

Sob o conceito genérico de Inteligência Artificial encontram-se milhares de agentes inteligentes concorrentes. Só no mundo das finanças, não só as bolsas de valores são assediadas por estas IA financeiras (mais de 50% das transacções), como o número de serviços de investimento assistidos por IA não pára de crescer. A loucura começa quando as IA financeiras começam a negociar com as IA das redes sociais, explorando a sua capacidade de amplificar uma tendência e lucrar com ela. Em resposta, os operadores de redes sociais aprenderam a moderar estas actividades e as bolsas de valores programaram alarmes e interruptores para controlar flutuações suspeitas.

Exemplos comparáveis podem ser encontrados no mundo da política, onde uma simples notícia que repercute pode ter efeitos imprevisíveis. Na esfera social, são inúmeros os movimentos sociais, positivos e negativos, para os quais os algoritmos das redes sociais contribuíram: a primavera Árabe, as dietas estranhas, as modas efémeras, a radicalização, etc.

A originalidade renovada do que é publicado torna supostamente mais difícil a moderação, quando, na realidade, estes fenómenos de amplificação e de frenesim seguem padrões claramente identificáveis. Os mercados bolsistas desenvolveram uma resposta técnica, identificando estes padrões de comportamento memorizados e fixando tempos de resposta adaptados à situação. Não há razão para que os operadores destas redes não façam o mesmo, exceto se não o quiserem fazer.

O princípio básico entre os operadores é que, desde que estes fenómenos não afectem os lucros, é melhor não se preocuparem. Podem saber quais são as suas preferências alimentares, se está à espera de bebé e em quem vai votar, mas identificar e bloquear um célebre fraudador ou um transmissor crónico de notícias falsas não lhes serve, obviamente, de muito.

IAs míopes e monomaníacas

No mundo da inteligência artificial, não gostamos muito de antropomorfismos: preferimos "estreita" a "monomaníaca" e "focada" a "míope". Como os míopes só focam a curta distância, podemos continuar a chamar-lhes míopes até que consigam variar a sua focagem.

Programar um conjunto de objectivos equilibrados e complexos é muito mais difícil do que definir um objetivo simples como "maximizar o parâmetro", (dinheiro, número de cliques, envolvimento, qualquer índice), ou "analisar o parâmetro e recomendar" (sentimento, opinião, correlação, etc.), que pode incluir estratégias como "explorar lacunas" ou "não ter em conta a credibilidade da informação". Podemos lamentar a amoralidade das máquinas, mas é mais eficaz lamentar a amoralidade dos seus operadores e supervisioná-los.

Controlo e finalidade

No mundo infinito da imaginação e das ideias, podemos imaginar o que quisermos, a I.A. pode levar-nos mais longe, se quisermos, mas quando se trata de aplicações num mundo real, finito, complexo e em equilíbrio, a utilização da I.A. tem restrições éticas.

Uma vez que a I.A. não tem um objetivo específico próprio e pode executar qualquer tarefa que lhe seja atribuída, parece não haver outra opção senão regular legalmente a sua utilização no mundo material, como é o caso dos medicamentos ou das armas. O perigo não é a IA em si, mas a arrogância dos humanos que a utilizam na prática, sem qualquer preocupação com o bem comum ou com o ambiente em que evoluem.

A maioria das IA atualmente em uso pode ser descrita como "estreita", porque foi concebida para uma tarefa precisa e altamente orientada. Respondem a uma utilidade ou função bem definida, sem qualquer outra consideração pelos efeitos causados fora dos seus parâmetros; são monomaníacas e míopes ao mesmo tempo.

A noção de "prudência" parece estranha à inteligência artificial. No estado atual de desenvolvimento, integrar um circuito de retorno com um objetivo para modular os seus efeitos num ecossistema real está ainda para além das nossas capacidades e, sobretudo, da visão que os operadores têm do que poderia ser um mundo equilibrado. Daí a necessidade de travões legais e de um quadro regulamentar.

Educação ética

Uma I.A. não tem preocupações morais e, devido à natureza contextual do julgamento moral, não é possível programar a moralidade; no máximo, o fanatismo pode ser programado. Dependendo da forma como é utilizada, a I.A. pode apoiar a qualidade de vida na sociedade (por exemplo, medicina, educação) ou, pelo contrário, corrompê-la (desinformação, polarização). O problema não é a I.A., mas o ser humano que se contenta com ela num ambiente cada vez mais tecnológico, tornando-se frequentemente dependente dela sem poder ir mais longe.

O facto é que a I.A. é uma ferramenta para ampliar as nossas capacidades, não um juiz, daí a necessidade de um quadro ético. Podem ser criados instrumentos de controlo tecnológico e um quadro jurídico, mas a supervisão humana continua a ser necessária, não por um único indivíduo ou um grupo subserviente, mas por todos os afectados, em diálogo constante.

No fundo, uma educação ética parece ser a melhor forma, se não a única, de preservar a nossa humanidade na utilização prática da inteligência artificial. Onde mais, senão na escola, o poderíamos fazer?

Ilustração: StockSnap - Pixabay

Referências

A inteligência artificial nas finanças - Recomendações para uma utilização responsável - Autorité des Marchés Financiers
https://lautorite.qc.ca/fileadmin/lautorite/grand_public/publications/professionnels/rapport-intelligence-artificielle-finance-fr.pdf

O que é a inteligência artificial (IA) nas finanças? Google
https://cloud.google.com/discover/finance-ai?hl=fr

Flash Crash - https://fr.wikipedia.org/wiki/Flash_Crash_de_2010

Artificial Intelligence (AI) and Investment Fraud: Investor Alert - US Securities and exchange commission
https://www.investor.gov/introduction-investing/general-resources/news-alerts/alerts-bulletins/investor-alerts/artificial-intelligence-fraud

Filosofia para pensar a inteligência artificial - tese de François Levin
https://theses.hal.science/tel-04974628

A IA e eu - Revista de Filosofia - https://www.philomag.com/dossiers/lia-et-moi

Filosofia da inteligência artificial
https://fr.wikipedia.org/wiki/Philosophie_de_l%27intelligence_artificielle

A inteligência artificial, um objeto filosófico - Radio France - Podcasts
https://www.radiofrance.fr/franceculture/podcasts/serie-l-ia-l-intelligence-artificielle

Fundamentos filosóficos da inteligência artificial - Université Laval - Cours
https://cursus.edu/fr/34280/fondements-philosophiques-de-lintelligence-artificielle

---

Veja mais artigos deste autor