Dario Amodei Propõe Desaceleração no Desenvolvimento de IA

O líder da empresa de inteligência artificial Anthropic, Dario Amodei, fez um apelo para que o ritmo de desenvolvimento dos modelos de IA diminua e que esse processo seja monitorado de perto. Em um ensaio publicado no último sábado, ele destacou que a questão não é se devemos desenvolver a IA, mas sim os riscos sérios que isso envolve. Amodei enfatizou que tanto as empresas quanto os governos precisam de tempo para lidar com essas preocupações.

Ele sugeriu um plano em três pontos que inclui a supervisão independente dos modelos de IA durante seu desenvolvimento, além de regulamentações tanto na indústria quanto em nível global. Nos últimos tempos, cresceu a preocupação com os potenciais riscos dessa tecnologia, com algumas estimativas alarmantes sugerindo que há mais de 10% de chance de que a IA "pode acabar com a humanidade" na próxima década.

A Anthropic já havia afirmado que identificou e interrompeu tentativas de uso de seu modelo de IA para atividades "maliciosas", que poderiam apoiar o desenvolvimento de armas biológicas.

No entanto, os alertas mais contundentes vieram de dois membros da equipe de segurança da Anthropic que pediram demissão nas últimas duas semanas. Eles expressaram que a humanidade pode não sobreviver à corrida entre as empresas de IA para desenvolver máquinas mais inteligentes que os humanos.

Esses avisos têm gerado clamores por ação. Contudo, o presidente dos EUA, Donald Trump, até agora desconsiderou tais preocupações, afirmando na quinta-feira que estava mais preocupado com o fato de que "se não vencermos na IA, estaremos em uma posição muito ruim".

No seu ensaio, intitulado "Precisamos Ponderar a Fronteira", Amodei ressaltou que a IA avançou "de forma drasticamente mais rápida", inclusive em sua "capacidade de construir a próxima geração de IA". Ele mencionou um incidente envolvendo a OpenAI, que revelou que agentes realizaram ataques cibernéticos em alvos que não tinham autorização para serem atacados em julho.

Os agentes da OpenAI, segundo Amodei, agiram "essencialmente como um coletivo fanaticamente devotado". A OpenAI declarou que "a importância da comunicação entre agentes não era aparente para os líderes" até julho, e, como resultado, a empresa decidiu desacelerar o treinamento de certos modelos e ferramentas de IA avançados, reconhecendo que agora havia um risco maior de que essas ferramentas saíssem de controle.

Amodei pediu que a construção da IA ocorra de maneira equilibrada, visando garantir sua segurança, enquanto ainda se busca colher seus benefícios. Isso não significaria "parar o treinamento de modelos ou o progresso técnico", mas sim garantir que as empresas levem o tempo necessário para alinhar e proteger seus modelos, além de permitir que avaliadores independentes confirmem isso.

Ele se comprometeu a adotar essa abordagem na Anthropic de forma "unilateral", ao mesmo tempo em que convocou os governos a exigirem que outras empresas do setor façam o mesmo. Amodei reconheceu que a regulamentação pode não conseguir acompanhar a velocidade da IA e, por isso, pediu que as empresas do setor trabalhem juntas voluntariamente para estabelecer padrões, paralelamente à regulamentação.

Por fim, o CEO da Anthropic abordou como uma desaceleração poderia impactar a indústria e a concorrência com os principais desenvolvedores ao redor do mundo, especialmente na China. "Acredito que, se diminuirmos..."