Um dos primeiros alertas sobre o potencial catastrófico para a espécie humana do avanço da IA foi dado por Geoffrey Hinton, Prémio Nobel da Física, em 2023, quando optou por deixar a Google, onde era um dos quadros de topo, para alertar o mundo sobre os perigos desta ferramenta.

Hinton, um cientista cognitivo, psicólogo e professor emérito das Universidade de Toronto, visto como o "pai" da IA, entende que esta "entidade" pode não apenas ultrapassar a inteligência humana em pouco tempo como escapar ao seu controlo em breve, muito mais rápido que as projecções conhecidas anteriormente.

Mas a tímida preocupação da ONU, que se resume a um alerta sobre a possibilidade de a IA coartar Direitos Humanos, incluindo à vida, encaixa com estridência no último alerta feito por Jacob Coxon, um investigador que passou pela Anthropic, e que vai ainda mais longe ao admitir que as máquinas podem eliminar a Humanidade até 2035.

A norte-americana Anthropic, uma das maiores companhias integralmente dedicadas à evolução da IA, não sublinha o alerta do seu antigo investigador, mas também não foi o único a lançar esta "granada sem cavilha" para o meio da discussão, porque o seu também antigo colega, Evan Hubinger, defende que há 10% de potencial de Coxon estar correcto.

Estes alertas, comummente vistos como exagerados pelas companhias do sector, foram agora reflectidos nas comunicações públicas em defesa do abrandamento e controlo estreito do desenvolvimento da IA de Elon Musk (xAI), Sam Altman (OpenAI) e Dario Amodei (Anthropic), três das maiores companhias nesta área.

O que fez Musk, Altman e Amodei admitir a urgência de um recuo não foi o tímido alerta da ONU, foram os problemas sérios detectados por eles nas suas empresas, nomeadamente sinais de acelerada autonomia de decisões, como aquela que ocorrreu na Anthropic, onde a "máquina" atacou por iniciativa própria uma concorrente, dominando-a temporariamente.

Recorde-se que a Palantir, de Peter Thiel, outro gigante desta área, que não alinha com os outros na defesa da desaceleração do desenvolvimento da IA, ficou recentemente conhecida por apostar intensamente e muitas centenas de milhões de dólares no desenvolvimento desta "inteligência" no ãmbito da guerra, usando a Ucrãnia como laboratório, especialmente no seu uso aplicado aos drones.

Mas, quando é o futuro da Humanidade que está em causa, segundo alguns dos maiores especialistas mundiais nesta tecnologia, incluindo os seus criadores, a ONU resolveu finalmente lançar um alerta sobre o avanço da IA que entende colocar direitos humanos em risco, nos quais alista o "direito à vida".

O alto-comissário da ONU para os Direitos Humanos alertou hoje que o rápido desenvolvimento da inteligência artificial está a colocar em risco direitos fundamentais, incluindo à vida, alimentação, privacidade, saúde e segurança.

"A atual corrida para uma IA cada vez mais potente representa um salto qualitativo em direção a maiores riscos existenciais para todos os aspetos das nossas vidas", afirmou Volker Turk, num comunicado citado pela Lusa em que defendeu uma resposta urgente dos Estados e das empresas tecnológicas, depois da ONU já ter pedido aos países para que regulem a IA.

O responsável da ONU destacou particularmente os riscos associados à chamada IA "agêntica", capaz de ir além dos sistemas convencionais e de tomar autonomamente decisões e executar planos para atingir um objetivo específico.

Segundo Turk, as falhas destes sistemas "poderão paralisar serviços essenciais, romper comunicações, desestabilizar infraestruturas críticas e atingir o próprio coração das instituições democráticas".

"Populações inteiras podiam ficar sem acesso a água, aquecimento ou serviços financeiros", avisou Turk. Ainda citado pela Lusa.

O alto-comissário alertou igualmente para as consequências da utilização da tecnologia em conflitos, considerando que a IA "está já a acelerar o ritmo das guerras, a alargar o alcance e a corroer as salvaguardas que se interpõem entre nós e o lançamento de armas de destruição maciça".

Turk defendeu que Estados e empresas devem mobilizar-se com urgência, através de fóruns multilaterais, para estabelecer uma governação da IA assente no direito internacional e na proteção dos direitos humanos.

"Nenhum país pode governar esta tecnologia sozinho, nenhuma empresa deve poder decidir por si própria que riscos o mundo deve aceitar, e nenhuma pessoa deve ser obrigada a abdicar dos seus direitos humanos em troca de promessas de progresso tecnológico", afirmou Turk.