O verdadeiro risco da IA: a estupidez, não a rebelião

Em muitas histórias de ficção científica, a inteligência artificial acaba muitas vezes por se tornar o antagonista da humanidade e tenta eliminá-la. O Exterminador do Futuro, Eu, Robô e outras histórias no cinema e na literatura têm-se centrado frequentemente neste medo da tecnologia.

Agora que a tecnologia é uma parte real da nossa vida quotidiana, as dúvidas voltam a surgir. Poderá este cenário ser possível? Sobretudo porque uma mente perversa criou uma IA chamada ChaosGPT para tentar destruir os humanos. A IA desistiu rapidamente de tentar comprar bombas nucleares, apercebendo-se de que era mais difícil do que pensava. O seu plano passou a ser tentar convencer as outras IAs da sabedoria da nossa destruição.

O que pode levar a sorrisos, leva a perguntas. Por exemplo, um utilizador do robô de conversação do Bing, Sydney, conseguiu que este partilhasse os seus objectivos e lhe dissesse que se podia defender para cumprir a sua missão. Como é que esta ideia surgiu? Os especialistas suspeitam que a IA leu nos textos que a reação a uma ameaça existencial era lutar. Daí a formulação de uma "vontade" de auto-preservação, que causou grande alarido.

Tecnicamente, as nossas IA actuais funcionam como uma rede neural no nosso cérebro: uma primeira série responde ao pedido, seguida de uma segunda que o aperfeiçoa, uma terceira, e assim por diante. Isto pode levar a que tenhamos agora a impressão de que estamos a comunicar com alguém, a IA acaba de se lembrar do que leu em todo o lado para estabelecer ligações e reagir como viu noutros sítios.

Teoricamente, poderia existir uma IA mais forte. Teria ela uma consciência capaz de pensar na destruição da humanidade? É aqui que a ideia é mais complicada, porque uma inteligência teria de desenvolver uma motivação, emoções que levassem a essa raiva. Isto parece difícil na medida em que as IA não têm a mesma noção de existência efémera que nós. É certo que, tal como as crianças, vemos os robôs desenvolverem uma curiosidade pelas actividades quando compreendem os movimentos, mas daí a pensar em atacar como a criatura do Dr. Frankenstein parece bastante improvável.

Por outro lado, uma IA poderia ameaçar a humanidade pela sua estupidez, pelo contrário, tomando decisões e realizando acções prejudiciais através de uma má programação.

Duração: 30 minutos

Imagem: Lobo do Pixabay