A inteligência artificial não pensa — e isso é uma boa notícia 

Imagine alguém que passou a vida a ler. Leu jornais, livros, manuais, milhões de páginas. Não se lembra de nenhuma em particular, mas ficou com um ouvido muito apurado para a ordem em que as palavras costumam aparecer.

Se lhe disser «Bom dia, como está a…», responde «família?» sem hesitar. Fá-lo porque já viu essa frase assim milhares de vezes, e não por se preocupar com a sua família. O ChatGPT e os outros assistentes do género funcionam dessa maneira: Calculam, palavra a palavra, qual é a continuação mais provável.

O teclado do telemóvel, que sugere a palavra seguinte quando escrevemos uma mensagem, usa a mesma ideia. A diferença está na escala. Treinado com quantidades enormes de texto, o mesmo truque passa a produzir respostas, resumos e explicações que soam como se viessem de uma pessoa.

Soam humanas porque a linguagem é a pista que usamos para medir a inteligência dos outros. Quando alguém fala com fluência e convicção partimos do princípio de que sabe do que fala. A IA escreve sempre assim, mesmo quando está errada.
E erra.
Erra muito.

Pode inventar uma lei que não existe ou atribuir a um autor um livro que ele nunca escreveu, com o mesmo tom seguro de quando acerta. Na área chamam a isto «alucinações». Na prática, é um sistema que nunca responde «não sei», e cabe a quem o usa verificar

Há um limite que nos toca de perto. A IA só conhece o que leu, e leu sobretudo textos em inglês. Sobre o crioulo, as nossas leis ou a nossa história leu muito pouco, e isso nota-se nas respostas.

Saber isto muda a pergunta. Deixamos de perguntar se a IA nos vai substituir e passa‐ mos a perguntar para que serve e quando não devemos confiar nela.
Um comerciante pode usá-la para rascunhar uma proposta, e um estudante para ouvir a matéria explicada de outra maneira. Em qualquer dos casos, a decisão e a responsabilidade ficam com a pessoa. Num diagnóstico médico ou num parecer jurídico, a resposta da máquina é, no máximo, um ponto de partida para um profissional rever.

Há também trabalho a fazer do nosso lado. Se os modelos aprendem com o que está es‐ crito e digitalizado, Cabo Verde precisa de pôr online a sua legislação, os seus arquivos e textos em crioulo. Enquanto isso não acontecer, as ferramentas que usamos vão continuar a conhecer-nos mal.

Mas convém fazê-lo com cuidado. Os modelos mais usados pertencem a empresas estrangeiras, e o que lhes entregamos deixa de estar sob o nosso controlo.

Quando um serviço público ou uma clínica cola documentos internos num chatbot gratuito, esses dados podem ficar guardados em servidores lá fora, sujeitos às leis de outro país, e até servir para treinar o modelo. Pôr online o que já é público é desejável. Entregar dados de cidadãos, doentes ou empresas exige regras claras sobre onde ficam e quem lhes pode aceder.

Uma máquina que não pensa não nos substitui naquilo que exige juízo, como decidir e responder pelas consequências. Vai ficar com parte do trabalho repetitivo, e quem a souber usar terá vantagem sobre quem a teme. É por isso que a vejo como uma boa notí‐ cia, desde que a usemos de olhos abertos.

Eng. Rui Andrade — fundador da RA Tecnologias e da Fresku.ai