Publicado em 17 de maio de 2023 Atualizado em 17 de maio de 2023
"Por precaução, fabricamos máquinas extremamente pesadas com pernas muito pequenas".
Larry Page
Cerca de uma centena de personalidades, entre as quais um certo Bill Gates, apelam a uma moratória, provavelmente porque as consequências da inteligência artificial são actualmente mal avaliadas e se prevêem tomadas de decisão incoerentes, com riscos éticos e sociais, bem como riscos de segurança, o que nos faz pensar quando conhecemos a possível devastação das armas nucleares. As IA desafiam frontalmente o que significa ser humano. Os efeitos que se seguem indicam a amplitude da interrogação em curso por parte de filósofos, pensadores, engenheiros e especialistas em inteligência artificial.
Uma das questões filosóficas mais fundamentais colocadas pela inteligência artificial é a de saber se uma máquina pode ser considerada inteligente sem compreender o que faz. Segundo John Searle,
"O que queremos saber é se pode haver inteligência artificial sem compreensão e se essa inteligência pode ser autónoma e, se não, porque não" (1980).
Se as máquinas podem ser consideradas inteligentes, isso também levanta questões sobre a relação entre inteligência e consciência. A consciência ocidental foi virada do avesso após a descoberta da América, como será após a emergência do continente oculto da IA?
Nick Bostrom sugere que
"O próprio conceito de inteligência não biológica exige uma revisão radical das nossas ideias sobre quem somos e qual é o nosso lugar no universo" (2014).
Esta mudança na ligação entre consciência e inteligência desafia a base da nossa humanidade, com todas as implicações desta dissociação ainda não claramente delineadas.
A inteligência artificial pode ter implicações importantes para a antropologia em termos da nossa compreensão dos seres humanos e da nossa relação com as tecnologias. Segundo Yuval Harari,
"O advento das máquinas inteligentes ameaça perturbar as sociedades humanas, tornando muitos empregos obsoletos e criando novas formas de desigualdade social e económica" (2018).
De acordo com um estudo de Oxford, as máquinas ultrapassarão os humanos em muitas tarefas até 2060. Publicado em 2017, o estudo explicava que os programas informáticos seriam capazes de escrever livros completos já em 2050, ou realizar certas tarefas de cirurgião em 2053. De acordo com o princípio da destruição criativa de Schumpeter, uma inovação destrói as antigas profissões e práticas para dar lugar a outras mais eficientes, mas, historicamente, os que ficaram para trás nas antigas práticas sofreram com as desvalorizações, pelo que qual é o risco político de deixar o mercado ajustar-se de acordo com as suas "leis naturais"?
Do mesmo modo, Kate Crawford e Ryan Calo salientaram que
"O desenvolvimento da IA levanta questões fundamentais sobre o que significa ser humano e como nos relacionamos com máquinas que imitam ou ultrapassam a inteligência humana" (2016).
De facto, desde o antigo mito do Golem que nos comparamos com as máquinas que criamos, apesar de não sermos capazes de competir com elas numa série de funções computacionais, mas agora também na análise e na previsão. Pensávamos que os domínios reservados, como a criatividade, iriam resistir, até que surgiram alguns cliques e imagens incríveis com o Midjourney.
As preocupações éticas associadas à inteligência artificial são variadas e vão desde os riscos de discriminação e preconceito até à questão da responsabilidade e do controlo. De acordo com Joy Buolamwini e Timnit Gebru,
"a IA é tão imparcial quanto os dados e os algoritmos que a orientam" (2018).
No entanto, é possível detetar uma multiplicidade de enviesamentos na conceção dos algoritmos, que acabam por reproduzir as discriminações e crenças maioritárias do momento, uma vez que as IA dependem da consulta de uma massa de dados. As minorias étnicas, as mulheres e os desfavorecidos ficam em desvantagem se nada for feito para corrigir os dados já enviesados em que se baseiam os cálculos.
Os desafios éticos da IA incluem também a transparência, a responsabilidade e o controlo, como referem Stuart Russell e Peter Norvig:
"Os desafios éticos da IA incluem não só o risco de discriminação e parcialidade, mas também questões como a responsabilidade, a transparência e o controlo" (2020).
Um inquérito de Stanford refere que "os 'incidentes e controvérsias' relacionados com a IA aumentaram 26 vezes na última década". Casos de dependência, suicídio e divórcio foram mesmo atribuídos a agentes de conversação.
A existência da inteligência artificial levanta questões profundas sobre a natureza da realidade e a forma como nos relacionamos com as máquinas inteligentes. Segundo Luciano Floridi,
"a IA é uma nova forma de vida que desafia as nossas categorias ontológicas tradicionais e nos obriga a repensar a nossa relação com o mundo" (2014).
A questão de saber se as máquinas podem ser dotadas de consciência artificial também é relevante, como salientou David Chalmers:
"A existência de máquinas inteligentes levanta questões filosóficas profundas sobre a natureza da realidade e a possibilidade de consciência artificial" (2010).
Se as IAs ainda não sonham, têm pouco humor, a interconexão das funções de IA aumentará a suspeita de uma sociedade de controlo generalizado. A intersecção das bases de dados, do reconhecimento facial e da tomada de decisões automática é questionável. Na Ásia, já está em curso, mas os sistemas interconectados já estão bem estabelecidos, por exemplo, no acoplamento de câmaras de velocidade, endereçamento e cobrança de multas. Pouco a pouco, estamos a habituar-nos a esta mecanização do mundo numa variedade de acções quotidianas.
As implicações sociais são já significativas, nomeadamente no que respeita ao emprego e à segurança. De acordo com Erik Brynjolfsson e Andrew McAfee,"as máquinas inteligentes podem substituir os trabalhadores humanos em muitos empregos, criando perturbações económicas e sociais" (2017), porque, embora possam ser criados novos empregos para conceber e impulsionar a IA, os antigos vão desaparecer abruptamente. Além disso, as preocupações com a segurança e a privacidade são significativas, como salienta Edward Felten:
"A IA pode criar novos riscos de segurança e privacidade, e precisamos de estar cientes desses riscos para os podermos gerir de forma responsável" (2019).
A fraude em matéria de IA está a aumentar, a produção de informações e provas falsas está a tornar-se um flagelo para as democracias e a destilar o veneno da dúvida. Por último, o desenvolvimento e a aplicação da inteligência artificial levantam também desafios técnicos significativos, nomeadamente no que respeita ao consumo de recursos. De acordo com Yann LeCun, Yoshua Bengio e Geoffrey Hinton,
"Um dos principais desafios da IA consiste em desenvolver algoritmos capazes de aprender com os dados de uma forma eficiente e robusta" (2015).
Ao fazê-lo, as IA não só produzem infobesidade, como também saqueiam qualquer propriedade intelectual ao alimentarem-se de dados de uma forma juridicamente pouco clara. Além disso, a IA consome recursos computacionais e energéticos significativos e levanta questões sobre o impacto da tecnologia digital no carbono, que deverá triplicar até 2050 .
Todas estas questões estão para além do conhecimento pormenorizado dos cidadãos e dos indivíduos. Alguns especialistas e empresas estão a levar-nos por um caminho com grandes consequências, sem consulta e sem qualquer contrapeso, o que viola um importante princípio democrático.
Fontes
John Searle (1980). "Minds, brains, and programs" (Mentes, cérebros e programas). Behavioral and Brain Sciences, 3(3), 417-424. www. course.sdu.edu.cn/G2S/eWebEditor/uploadfile/20140227112825015.pdf
Nick Bostrom (2014). Superintelligence: Paths, Dangers, Strategies [Superinteligência: caminhos, perigos e estratégias]. Oxford: Oxford University Press.
https://www.decitre.fr/livres/superintelligence-9780199678112.html
Yuval Harari (2018). 21 Lessons for the 21st Century [21 lições para o século XXI]. Nova Iorque: Spiegel & Grau.
https://www.decitre.fr/ebooks/21-lessons-for-the-21st-century-9781473554719_9781473554719_10012.html
Kate Crawford e Ryan Calo (2016). "Há um ponto cego na investigação em IA". Nature, 538(7625), 311-313. doi:10.1038/538311a
Joy Buolamwini e Timnit Gebru (2018). "Tons de género: disparidades de precisão interseccionais na classificação comercial de género". Actas da 1ª Conferência sobre Equidade, Responsabilidade e Transparência, 77-91. doi:10.1145/3176349.3176356
Stuart Russell e Peter Norvig (2020). Artificial Intelligence: A Modern Approach (Inteligência Artificial: Uma Abordagem Moderna). Upper Saddle River, NJ: Pearson Education. https://www.decitre.fr/livres/artificial-intelligence-9781292401133.html
Luciano Floridi (2014). The Fourth Revolution: How the Infosphere is Reshaping Human Reality [A Quarta Revolução: Como a Infoesfera está a Remodelar a Realidade Humana]. Oxford: Oxford University Press.
David Chalmers (2010). "A Singularidade: Uma Análise Filosófica". Journal of Consciousness Studies, 17(9-10), 7-65.
Time Elon Musk e 100 peritos apelam a uma moratória sobre a inteligência artificial
https://www.letemps.ch/economie/cyber/elon-musk-experts-reclament-un-moratoire-lintelligence-artificielle
France24 Inteligência artificial: os empregos que vão desaparecer e os que os vão substituir
https://www.france24.com/fr/émissions/tech-24/20230113-intelligence-artificielle-les-métiers-qui-vont-disparaître-ceux-qui-vont-les-remplacer
France24 La démocratie: deepfake en corée du sud un faux candidat pour aider le vrai
https://www.france24.com/fr/info-en-continu/20220214-la-démocratie-deepfake-en-corée-du-sud-un-faux-candidat-pour-aider-le-vrai
Futura sciences. Aquecimento global: a pegada de carbono digital está a explodir devido à IA
https://www.futura-sciences.com/planete/actualites/rechauffement-climatique-empreinte-carbone-numerique-train-exploser-cause-ia-104727/
MSM Technology and Science. Estará a IA a conduzir-nos a uma catástrofe de nível nuclear
https://www.msn.com/fr-fr/actualite/technologie-et-sciences/l-ia-nous-mène-t-elle-vers-une-catastrophe-de-niveau-nucléaire/ar-AA1a2uDK
Notícias de Thot Cursus RSS
Leitor de RSS ? :Feedly, NewsBlur
Você também pode gostar
A arte de fazer perguntas na Ásia
Com um desvio para o Japão, a China e o Tibete, levamos algumas ideias novas para reconsiderar a arte de questionar.
Uma IA pode fazer trabalhos de casa e tarefas para os estudantes?
A questão da emergência das tecnologias e do seu impacto na aprendizagem tornar-se-á cada vez mais importante no debate. Os professores devem também encontrar formas de ter em conta estas ferramentas na sua aprendizagem e, porque não, de as integrar de forma útil.
Agora é altura de resolver o problema das escolas em mau estado.
A questão do parque escolar não é uma questão que deva ser encarada de ânimo leve. A negligência das últimas décadas conduziu a um quadro bastante deprimente. As soluções existem e requerem certamente bom dinheiro, mas acima de tudo requerem uma filosofia da escola como um ambiente vivo que está a mudar e a preparar as gerações futuras para os desafios de amanhã.
A questão da relação entre robots e humanos é um tema quente. Considerar a desautomatização implicaria uma nova relação entre robots e humanos. Haveria uma maior sensibilidade e uma espécie de humanização dos robots, uma vez que estes deixariam de ser apenas máquinas de produtividade e passariam a ser seres não biológicos cada vez mais dependentes dos humanos.
A Unesco desenvolveu o rótulo de "cidade aprendente", mas o que acontece quando se muda de escala? Quais são os efeitos das megacidades na aprendizagem? Como é que redefinimos "o que tem autoridade"?
Superprof : a plataforma para encontrar os melhores professores particulares no Brasil e em Portugal
