Mais de 1.100 profissionais concordam que a corrida entre pesquisadores representa ‘riscos profundos para a sociedade e a humanidade’
Mais de 1.100 pesquisadores de IA, referências em tecnologia e outros futuristas assinaram uma carta aberta exigindo uma moratória de seis meses em “experimentos gigantes de IA” desde que o texto foi publicado pelo Instituto sem fins lucrativos Future of Life na semana passada.
Notáveis signatários da carta incluem o CEO da Tesla, Elon Musk, o cofundador da Apple, Steve Wozniak, e o historiador transumanista Yuval Noah Harari.
A correspondência adverte que “sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade”. Ele também insiste que a tecnologia de rápido avanço deve ser “planejada e gerenciada com cuidado e recursos proporcionais”, em vez de permitir uma “corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável ”.
Em vez de arriscar perder o controle de uma tecnologia que pode acabar com a civilização, as partes interessadas no campo da IA devem “desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que sejam rigorosamente auditados e supervisionados por especialistas externos independentes”, o instituto sugere, pausando o desenvolvimento até que esses protocolos estejam em vigor. Segurança “além de qualquer dúvida razoável” em vez de inovação a todo custo deve ser o objetivo, disse.
“Poderosos sistemas de IA devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis”, continua a carta, enquanto os desenvolvedores devem reorientar suas energias em “tornar os poderosos sistemas de última geração de hoje mais preciso, seguro, interpretável, transparente, robusto, alinhado, confiável e leal .”
Se os desenvolvedores não podem se governar, os governos devem intervir, criando órgãos reguladores capazes de controlar sistemas descontrolados, financiar pesquisas de segurança e suavizar o golpe econômico quando sistemas superinteligentes começam a devorar empregos humanos a sério, afirma a carta.
Musk há muito alerta sobre os perigos da IA, prevendo em 2020 que a singularidade – o ponto em que a inteligência da máquina eclipsa a dos humanos – chegaria em 2025 e que os humanos correm o risco de acabar como animais de estimação dos supercomputadores. Ele inicialmente propôs a interface cérebro-computador Neuralink como uma ferramenta para dar à humanidade uma vantagem competitiva contra a IA.
O bilionário também foi um dos fundadores da OpenAI, a empresa por trás do grande modelo de linguagem ChatGPT. No entanto, ele deixou a empresa em 2018, descartando-a como um empreendimento lucrativo cooptado pela Microsoft. O rival de Musk (e fundador da Microsoft) Bill Gates, cujo nome estava ausente da carta aberta na quarta-feira, abraçou o OpenAI, declarando recentemente que “a Era da IA começou.” O ChatGPT agora capacita o mecanismo de busca Bing da Microsoft.
Abaixo, comercial de uma grife espanhola Balenciaga, feita por uma IA a partir da adaptação da obra Harry Potter. A produção por um estúdio profissional custaria milhões de reais, mas a inteligência artificial faz em questão de minutos por cerca de R$ 30.
