Anthropic destaca riscos da IA antes de sua estreia na bolsa

Anthropic alertou que a inteligência artificial (IA) pode representar 'riscos catastróficos ou existenciais para a humanidade', ao apresentar detalhes sobre sua aguardada oferta pública de ações nos Estados Unidos. A expectativa é que a avaliação da empresa supere a da SpaceX, que detém o recorde de maior listagem até agora, com uma avaliação inicial em torno de US$ 1,8 trilhões no verão passado.

Até o momento, a empresa não revelou quantas ações serão disponibilizadas, a faixa de preço ou a data da listagem. No primeiro semestre do ano, a desenvolvedora do chatbot Claude reportou uma receita de US$ 16,3 bilhões (£ 12,2 bilhões), porém, com perdas superiores a US$ 80,7 bilhões.

Com planos de se listar na Nasdaq sob o símbolo ANT, a Anthropic se tornará a primeira empresa totalmente focada em IA a abrir capital, o que a transforma em um caso de teste para o futuro dessa tecnologia. Em um documento prévio à sua listagem, a Anthropic mencionou que preocupações foram levantadas por formuladores de políticas, reguladores e pesquisadores, além de colaboradores da própria empresa, sobre os riscos significativos que os sistemas de IA podem representar para a humanidade.

A empresa afirmou que sistemas avançados de IA 'poderiam, se não forem desenvolvidos, implantados e operados com as devidas salvaguardas, supervisão e medidas de segurança, representar riscos catastróficos ou existenciais para a humanidade, especialmente se tais sistemas forem mal utilizados, replicados, armados ou permitidos a operar com alto grau de autonomia'.

Fundada há cinco anos por Dario Amodei, sua irmã Daniela Amodei e mais cinco sócios, a Anthropic anunciou sua intenção de abrir capital em junho. A OpenAI, seu principal concorrente, rapidamente seguiu o mesmo caminho. A previsão é que essa listagem aconteça no início do próximo ano, conforme informações de uma fonte próxima aos planos da OpenAI.

Essas divulgações vieram acompanhadas de uma série de brechas de segurança cibernética e outras falhas tecnológicas envolvendo seus agentes de IA – bots projetados para operar de forma semi-autônoma. Funcionários atuais e antigos de ambas as empresas também expressaram preocupações de que a tecnologia de IA está sendo desenvolvida sem a capacidade de proteger a humanidade de possíveis danos futuros causados por ferramentas de IA.

Enquanto a Anthropic revelava seus planos de estreia no mercado de ações na segunda-feira, os detentores dos direitos sobre a música de Elvis Presley processaram a empresa, acusando-a de usar centenas de canções do icônico artista para treinar seu chatbot Claude. Nos novos documentos apresentados pela Anthropic, a empresa reiterou promessas já feitas anteriormente de desenvolver IA de maneira que beneficie as pessoas, ao mesmo tempo em que alertou os investidores sobre os perigos envolvidos.

Nos relatórios financeiros, a Anthropic detalhou perdas que superaram sua receita no primeiro semestre do ano, mas destacou que frequentemente faz investimentos futuros 'que podem parecer irresponsavelmente grandes à primeira vista'. 'De modo geral, nossa meta é ser ousados, mas sensatos, e conquistar a confiança com um histórico de apostas bem-sucedidas', afirmou a gigante da tecnologia. Seu sucesso depende, em grande parte, da capacidade de desenvolver os modelos de IA mais avançados. A Anthropic acrescentou que 'qualquer falha em alcançar isso pode afetar negativamente nossos negócios'. Em cerca de 90 páginas que detalham possíveis fatores de risco, a Anthropic expôs as ameaças potenciais que sua capacidade de...