Um grupo de mais de mil pessoas, entre elas o bilionário Elon Musk e especialistas e executivos do setor de inteligência artificial, querem que o desenvolvimento de sistemas mais avançados que o GPT-4 da OpenAI seja suspenso por seis meses. Eles expressaram sua preocupação em uma carta aberta organizada pela Future of Life Institute, uma entidade sem fins lucrativos.
A carta pede uma pausa na criação de inteligência artificial poderosa até que sejam estabelecidos, aplicados e verificados protocolos de segurança comuns para esses projetos por especialistas independentes.
“Só devemos desenvolver sistemas de inteligência artificial quando tivermos certeza de que seus benefícios serão positivos e seus riscos serão controláveis”, diz o grupo na carta.
A OpenAI, que conta com a Microsoft como um de seus principais apoiadores, não comentou o assunto.
A carta explica os possíveis perigos para a sociedade e a civilização em termos de problemas econômicos e políticos e pede aos criadores que colaborem com os responsáveis pelas políticas e os órgãos reguladores sobre a governança.
Entre os que assinaram a carta estão Emad Mostaque, diretor-executivo da Stability AI; cientistas da DeepMind, que pertence à Alphabet; e os renomados Yoshua Bengio, considerado um dos “pais da inteligência artificial”, e Stuart Russell, um dos pioneiros do estudo na área.
Segundo dados da União Europeia, o Future of Life recebe financiamento principalmente da Fundação Musk, além do grupo britânico Founders Pledge e da Silicon Valley Community Foundation.
TRANSPARÊNCIA
Um porta-voz da Future of Life disse que Sam Altman, diretor-executivo da OpenAI, não é um dos que assinaram a carta.
“A carta não é ideal, mas o objetivo é correto: precisamos reduzir a velocidade até compreendermos melhor as consequências”, afirmou Gary Marcus, professor da Universidade de Nova York e um dos que apoiaram a carta. “As grandes empresas estão ficando cada vez mais sigilosas sobre o que estão fazendo, o que dificulta para a sociedade se proteger contra quaisquer prejuízos que possam surgir.”
Críticos disseram que os que escreveram a carta estão incentivando o “o alvoroço da inteligência artificial”, alegando que as declarações sobre o atual potencial da tecnologia foram muito exageradas.
“Esse tipo de afirmação visa criar o alvoroço. Serve para deixar as pessoas preocupadas”, disse Johanna Björklund, pesquisadora e professora adjunta da Universidade de Umeå, na Suécia. “Não acho que seja necessário pisar no freio.”
Em vez de parar a pesquisa, disse ela, os cientistas devem seguir maiores exigências de transparência. “Se você faz pesquisa de inteligência artificial, deve ser muito claro sobre como faz isso”, disse Björklund.