Quando os nossos preconceitos nos desarmam: a ilusão do imprevisível

Lembram-se da crise do crédito hipotecário de alto risco e do cataclismo económico que se seguiu? A maioria dos especialistas exclamou: "Era imprevisível! Mas, em retrospetiva, os sinais de alerta estavam lá, escondidos pelos nossos próprios juízos.

Este sentimento de surpresa perante um acontecimento deste género não é apenas fruto do acaso! Tem muitas vezes origem nos nossos enviesamentos cognitivos, os mecanismos mentais que nos ajudam a navegar no nosso quotidiano, mas que nos cegam para as falhas. Neste artigo, proponho-me explorar a forma como estes preconceitos transformam acontecimentos potencialmente antecipáveis em choques inesperados, recorrendo a conceitos filosóficos, económicos e tecnológicos.

Semelhanças e identidades

A "tirania da semelhança" refere-se à nossa tendência para projetar o passado no futuro, partindo do princípio de que o amanhã será semelhante ao ontem. Os nossos preconceitos e ideias preconcebidas não são erros isolados; são ferramentas de aceleração evolutiva, concebidas para simplificar um mundo complexo. Permitem-nos tomar decisões rápidas mas, num ambiente volátil, tornam-se antolhos.

Por exemplo, vemos o tempo como uma linha reta, previsível e linear, quando é pontuado por rupturas inesperadas - os Cisnes Negros descritos por Nassim Nicholas Taleb no seu livro " O Cisne Negro". Estes acontecimentos raros e significativos desafiam a curva gaussiana e a arquitetura do nosso modo de funcionamento, revelando os nossos pontos cegos.

A nossa necessidade de segurança leva-nos a ignorar a incerteza, mas, como salienta Taleb, o imprevisível pode acontecer mesmo que, em teoria, a probabilidade da sua ocorrência seja quase nula. Mas, em retrospetiva, podemos ver uma lógica nestes acontecimentos, quando abandonamos as nossas grelhas de leitura rígidas.

Síndroma da Turquia: quando o passado mente

Vamos mergulhar numa analogia impressionante dotrabalho de Nassim Nicholas Taleb. Imaginemos um peru criado numa quinta. Dia após dia, durante 364 dias, é alimentado, cuidado e protegido pelo agricultor. Cada manhã reforça a sua confiança: o mundo é previsível, benevolente e o futuro parece risonho. A sua grelha de semelhança, baseada na experiência repetida, diz-lhe que o amanhã será como o ontem. Mas no dia 365, véspera do Dia de Ação de Graças, o agricultor dá-lhe um tiro. O choque é total para o peru, mas previsível para o observador externo.

Esta história ilustra a síndrome do peru, em que o passado induz uma crença errada na continuidade eterna. Taleb usa esta metáfora para criticar a nossa dependência do espelho retrovisor: extrapolamos padrões históricos sem considerar possíveis rupturas. O viés de retrospetiva entra aqui em jogo: uma vez ocorrido um evento, reescrevemos a história para a tornar coerente e previsível. "Ah, claro, era óbvio! dizemos nós, esquecendo a nossa cegueira inicial.

"O problema dos especialistas é que não sabem o que não sabem", diz Nassim Nicholas Taleb em O Cisne Negro.

Narrativamente, o contraste é pungente: o peru no dia 364 irradia certeza, rodeado de provas acumuladas de segurança. No dia 365, tudo se desmorona. Isto reflecte crises reais, como o crash do mercado de 2008, em que anos de crescimento mascararam riscos e sinais sistémicos, incluindo avaliações de hipotecas que excediam em muito o valor real. Os nossos preconceitos tranquilizam-nos, mas mentem ao mascarar a incerteza real, em oposição à simples probabilidade calculável.

• Vantagem dos preconceitos: aceleram a tomada de decisões em tempos normais.
• Risco: Criam ilusões de estabilidade, tornando os Cisnes Negros ainda mais devastadores.

Otimização cega: quando o desempenho mata a resiliência

O mundo económico e social em que vivemos é obcecado pela eficiência; optimizamos tudo: finanças, saúde, educação. Mas esta procura do máximo rendimento está a corroer as margens de segurança, essas almofadas essenciais para absorver os choques. De acordo com um relatório da OCDE sobre o pensamento sistémico para as políticas públicas, a otimização excessiva enfraquece os sistemas ao eliminar as redundâncias. Em tempos calmos, isto funciona, mas em tempos de crise torna-se numa armadilha mortal.

Tomemos o exemplo das cadeias de abastecimento globais: para minimizar os custos, as empresas reduzem os stocks ao mínimo. Isto aumenta o desempenho a curto prazo, mas um acontecimento imprevisto, como a pandemia de COVID, revela as fraquezas. A OCDE adverte contra esta "otimização cega", que dá prioridade à eficiência em detrimento da resiliência. Os nossos preconceitos levam-nos a ver o futuro como uma extensão linear do presente, ignorando os pontos cegos sistémicos.

Esta grelha de análise de otimização é adequada para períodos estáveis, mas mata a capacidade de adaptação. Nas finanças, os modelos baseados em dados históricos subestimam os fenómenos extremos. A OCDE defende um pensamento sistémico para integrar a incerteza, cultivando margens que absorvam as perturbações em vez de as negarem.

1. Identificar vulnerabilidades: avaliar potenciais pontos de rutura.
2. Criar redundância: acrescentar margens de sobrevivência.
3. Adotar uma visão holística: olhar para além da eficiência imediata.

A otimização, por mais sedutora que seja, deixa-nos vulneráveis ao imprevisível, transformando riscos geríveis em catástrofes.

A IA ou a industrialização do espelho retrovisor

A inteligência artificial (IA) encarna o apogeu dos nossos preconceitos: treinada com dados do passado, é excelente a reconhecer padrões semelhantes, mas falha quando confrontada com o inédito. Tal como salienta a investigação da Microsoft sobre otimização com incerteza, os algoritmos convencionais funcionam com dados completos, mas em ambientes em evolução têm de lidar com a incerteza. A IA, campeã da semelhança, industrializa o espelho retrovisor, projectando a história no futuro.

O problema do "Out-of-Distribution" (OOD) é aqui central. Imaginemos a IA como um condutor que só conhece estradas conhecidas. Assim, confrontada com um caminho desconhecido, força o seu caminho para os mapas existentes em vez de admitir "não sei".

Um estudo da Google Research explora os limites da deteção de OOD, mostrando que mesmo os modelos pré-treinados em grandes conjuntos de dados, como o Vision Transformers no ImageNet, melhoram o desempenho mas têm dificuldade em identificar cenários verdadeiramente novos.

Pedagogicamente, a IA reforça os nossos preconceitos ao oferecer uma ilusão de precisão probabilística. Calcula os riscos com base em dados históricos, mas ignora a incerteza, que não pode ser quantificada. A Microsoft centra-se em quadros de avaliação de algoritmos em ambientes estocásticos [que dependem do acaso], enquanto a Google sugere a exposição a alguns exemplos para melhorar a deteção.

• Vantagens da IA: precisão em cenários conhecidos.
• Riscos: amplificação dos pontos cegos humanos, conduzindo a erros dispendiosos no domínio da saúde ou das finanças.

Em última análise, a IA não está a inventar o futuro, está a reciclar o passado, convidando-nos a questionar a nossa dependência destas ferramentas.

Rumo à vigilância intelectual

Gerir os nossos preconceitos não significa erradicá-los, porque isso é impossível, mas cultivar uma humildade cognitiva que aceite a incompletude das nossas grelhas de perceção e análise. Em vez de procurarmos uma previsão perfeita, devemos dar prioridade à resiliência: devemos construir sistemas flexíveis que estejam preparados para absorver o imprevisível. Taleb, a OCDE e a investigação da Google e da Microsoft estão de acordo neste ponto: a excelência reside em estar preparado para o erro, não na ilusão de domínio.

Para concluir, os nossos preconceitos tranquilizam-nos em tempos de paz, mas desarmam-nos em tempos de agitação. Ao adoptarmos a vigilância intelectual, transformamos a ilusão da imprevisibilidade numa oportunidade de adaptação. O futuro não é algo a ser previsto na sua totalidade, mas algo a ser enfrentado com uma mente aberta. Cultivemos esta postura para navegar mais sabiamente num mundo de Cisnes Negros.

Referências

Nassim Nicholas Taleb - O Cisne Negro - https://fr.wikipedia.org/wiki/Le_Cygne_noir_(livro)

Systemic Thinking for Policy Making - William Hynes, Martin Lees e Jan Marco Müller - OCDE
https://www.oecd.org/content/dam/oecd/en/publications/reports/2020/02/systemic-thinking-for-policy-making_a95b3226/879c4f7a-en.pdf

Otimização com incerteza - Microsoft
https://www.microsoft.com/en-us/research/project/optimization-with-uncertainty/

Explorando os Limites da Deteção de Fora de Distribuição - Stanislav Fort, Jie Jessie Ren, Balaji Lakshminarayanan
https://research.google/pubs/exploring-the-limits-of-out-of-distribution-detection/