Líderes da indústria de IA e celebridades alertam para o risco de aniquilação global devido à inteligência artificial
Declaração conjunta destaca a importância de debater a ameaça de extinção e pede ação global
![Líderes da indústria de IA e celebridades alertam para o risco de aniquilação global devido à inteligência artificial](http://api.faroldabahia.com/fotos/farol_noticias/150897/IMAGEM_NOTICIA_0.jpg?v=74c1f588277c5987089c7649a165ef2b)
Foto: Adobe Stock
Dezenas de líderes da indústria de inteligência artificial (IA), acadêmicos e até mesmo algumas celebridades se uniram em um apelo urgente na terça-feira (30) para reduzir o risco de aniquilação global decorrente da IA. Em uma breve declaração, eles argumentaram que o debate sobre a ameaça de extinção deve ser uma prioridade global, ao lado de outros riscos sociais em grande escala, como pandemias e guerra nuclear.
O comunicado, divulgado pelo Center for AI Safety, contou com a assinatura de importantes líderes da indústria, incluindo Sam Altman, CEO da OpenAI; Geoffrey Hinton, considerado o "padrinho" da IA; executivos de alto escalão e pesquisadores do Google DeepMind e Anthropic; Kevin Scott, diretor de tecnologia da Microsoft; Bruce Schneier, pioneiro em segurança e criptografia na Internet; o defensor do clima Bill McKibben; e a músico Grimes, entre outros.
A declaração ressalta preocupações abrangentes sobre o perigo final de uma inteligência artificial não controlada. Especialistas em IA afirmam que a sociedade ainda está longe de desenvolver o tipo de IA geral que é retratado na ficção científica; os chatbots avançados de hoje, em grande parte, reproduzem padrões com base nos dados de treinamento recebidos e não têm capacidade de pensamento independente.
No entanto, a crescente onda de exageros e investimentos na indústria de IA tem levado a pedidos de regulamentação desde os estágios iniciais dessa era, antes que ocorram grandes contratempos.
A declaração surge após o sucesso viral do ChatGPT da OpenAI, que impulsionou uma corrida armamentista na indústria de tecnologia em relação à inteligência artificial. Em resposta, um número cada vez maior de legisladores, grupos de defesa e especialistas em tecnologia têm alertado para o potencial de uma nova safra de chatbots com IA em disseminar desinformação e eliminar empregos.
Geoffrey Hinton, cujo trabalho pioneiro ajudou a moldar os sistemas de IA atuais, já havia expressado à CNN que decidiu deixar seu cargo no Google e "alertar" sobre a tecnologia quando "repentinamente" percebeu que "essas coisas estão ficando mais inteligentes do que nós".
Dan Hendrycks, diretor do Center for AI Safety, mencionou em um tweet na terça-feira que a declaração, inicialmente proposta por David Kreuger, professor de IA da Universidade de Cambridge, não impede a sociedade de abordar outros tipos de riscos da IA, como viés algorítmico ou desinformação.
Hendrycks comparou a declaração de terça-feira aos alertas emitidos por cientistas atômicos sobre as próprias tecnologias que eles criaram.
"As sociedades são capazes de gerenciar múltiplos riscos ao mesmo tempo; não é uma questão de 'ou/ou', mas de 'sim/e'", tuitou Hendrycks. "Do ponto de vista da gestão de riscos, assim como seria imprudente priorizar exclusivamente os danos presentes, também seria imprudente ignorá-los."