É precisor salvaguardas se não se quiser que IA seja usada como arma

Questionado sobre se a IA está a ser instrumentalizada como arma, Mehran Sahami salienta que “toda a tecnologia pode ser utilizada para diferentes propósitos”.

Nesse sentido, “parte da compreensão de qual é o propósito para o qual queremos que a tecnologia seja utilizada torna-se um juízo de valor”, prossegue o professor e titular da cátedra Tencent do Departamento de Ciências da Computação da Universidade de Stanford, que foi orador convidado na sessão comemorativa dos 50 anos da licenciatura em engenharia informática da NOVA FCT.

Portanto, “se não queremos que a IA seja usada como arma – e penso que é esse o ponto de vista que a Anthropic estava a adotar – precisamos de dizer que há certas coisas que são as salvaguardas onde não queremos que a IA seja usada para essas tarefas particulares”, defende.

Em 10 de março, a norte-americana de IA Anthropic processou judicialmente o governo norte-americano depois de o Pentágono ter classificado a tecnológica de risco para cadeia de abastecimento, após ter recusado o uso militar irrestrito da sua tecnologia.

No que respeita à IA, “as pessoas têm pensado nisso, que há tecnologias que ainda não foram utilizadas para determinadas coisas”.

A IA “entrou na consciência pública”, é algo que a pessoa comum “pode aceder online e conversar com o ChatGPT ou com o Claude”, aponta, ao passo que há 20 anos a tecnologia era utilizada de muitas formas diferentes, mas a maioria não sabia disso.

Por exemplo, “sempre que fez uma transação com cartão de crédito” o que estava “a determinar se a sua transação com cartão de crédito era fraudulenta ou não” era a utilização da tecnologia de IA, “mas talvez não soubesse disso” ou “nem se importasse”, diz.

Ou quando eram enviados ‘mails’ nos últimos 20 anos e estes eram frequentemente filtrados como ‘spam’.

Na altura, “não tinha controlo dessa escolha”, mas agora, com o ChatGPT, é utilizador quem decide se vai usar a tecnologia, salienta o professor.

“Como milhões de pessoas em todo o mundo têm acesso a esta tecnologia, pensamos muito mais sobre as diferentes formas como pode ser utilizada porque agora compreendemos o que os decisores podem fazer, em vez de apenas termos a tecnologia aplicada a nós”, enfatiza.

Ou seja, a tecnologia democratizou-se.

“Há uma democratização, há uma maior compreensão, mas isso também significa que há uma maior responsabilização, porque agora mais pessoas têm acesso à utilização destas ferramentas”, remata Mehran Sahami.

ALU // EA

By Impala News / Lusa