Musk exige pausa da IA

Mais de 1.100 pesquisadores de IA, estudiosos da tecnologia e outros futuristas assinaram uma carta aberta exigindo uma moratória de seis meses em “experimentos gigantes de IA” desde que o texto foi publicado pelo Instituto sem fins lucrativos Future of Life na semana passada.

Entre os ​​signatários da carta incluem o CEO da Tesla, Elon Musk, o cofundador da Apple, Steve Wozniak, e o historiador transumanista Yuval Noah Harari. 

A correspondência adverte que “sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade”, e também insiste que a tecnologia de rápido avanço deve ser” planejada e gerenciada com cuidado e recursos proporcionais”, em vez de permitir uma“ corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém, nem mesmo seus criadores, pode entender, prever ou controlar de forma confiável”.

Em vez de arriscar perder o controle de uma tecnologia que pode acabar com a civilização, as partes interessadas no campo da IA ​​devem “desenvolver e implementar, em conjunto, protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que sejam rigorosamente auditados e supervisionados por especialistas externos independentes”, o instituto sugere, pausando o desenvolvimento até que esses protocolos estejam em vigor. Segurança“ além de qualquer dúvida razoável” em vez de inovação a todo custo deve ser o objetivo, disse.

“ Poderosos sistemas de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”, continua a carta, enquanto os desenvolvedores devem reorientar suas energias em“ tornar os poderosos sistemas de última geração de hoje mais preciso, seguro, interpretável, transparente, robusto, alinhado, confiável e leal.”

Criação de órgãos reguladores

Se os desenvolvedores não podem se governar, os governos devem intervir, criando órgãos reguladores capazes de controlar sistemas descontrolados, financiar pesquisas de segurança e suavizar o golpe econômico quando sistemas superinteligentes começam a devorar empregos humanos a sério, afirma a carta. 

Musk há tempos alerta sobre os perigos da IA, prevendo o ponto onde a inteligência da máquina pode até ocultar a dos humanos, podendo chegar no ano de 2025 onde os humanos arriscam acabar como animais de estimação dos supercomputadores. 

Ele inicialmente propôs a interface cérebro-computador Neuralink como uma ferramenta para dar à humanidade uma vantagem competitiva contra a IA.

Musk também foi um dos fundadores da OpenAI, a empresa por trás do grande modelo de linguagem ChatGPT. No entanto, ele deixou a empresa em 2018, descartando-a como um empreendimento lucrativo cooptado pela Microsoft. 

O rival de Musk, Bill Gates, fundador da Microsoft, cujo nome não estava presente na carta aberta na quarta-feira, abraçou o OpenAI, declarando recentemente que “a Era da IA ​​começou”. 

O ChatGPT agora capacita o mecanismo de busca Bing da Microsoft.