Microsoft alerta sobre IA descontrolada e 'espécies de silício'

Assista: Empresas de tecnologia estão "basicamente gerando uma nova espécie de silício", afirma Mustafa Suleyman, chefe de IA da Microsoft.

O líder da Microsoft em inteligência artificial alertou que, sem as devidas salvaguardas, o desenvolvimento da IA pode resultar no surgimento de uma nova "espécie de silício" que competiria com os seres humanos.

Mustafa Suleyman ressaltou que a concorrente Anthropic está tratando a IA como se fosse humana, uma abordagem que ele considera "equivocada" e que pode criar tecnologias que a humanidade não consegue controlar.

Em entrevista ao programa Today da BBC, o CEO afirmou que é "justo" que as pessoas se preocupem com a IA, mas que existem "coisas muito práticas que podemos fazer" para gerenciá-la.

Esses comentários se somam a uma série de advertências contundentes da indústria de IA sobre os perigos potenciais dessa tecnologia. A Anthropic foi contatada para comentar.

Por que há preocupações de que a IA possa ameaçar a humanidade e quão reais são essas preocupações?

• O chefe da OpenAI declarou que o mundo "tem razão em ter medo", mas que deve confiar nas empresas de IA.

Na conversa com o programa Today na quinta-feira, Suleyman fez um alerta sobre as empresas que continuam a criar sistemas de IA capazes de estabelecer seus próprios objetivos, ganhar dinheiro e até possuir ativos.

Isso significaria, segundo ele, "basicamente gerar uma nova espécie de silício", que, sem dúvida, poderia competir conosco por recursos, independentemente de quanto "se importa" com a humanidade.

Os comentários de Suleyman à BBC seguem um ensaio que ele publicou no início da semana, no qual questiona a abordagem da Anthropic em treinar seu modelo de IA, Claude.

Apesar de ter elogiado o chefe Dario Amodei e sua equipe como "pessoas intelectualmente honestas", ele criticou a empresa por ensinar sua IA a ter características humanas — uma prática conhecida como antropomorfização. Suleyman argumentou que isso faz parecer que Claude possui desejos, valores e uma identidade própria.

Ele também alertou que as empresas de tecnologia correm o risco de criar algo "impossível" de controlar ao tratar a tecnologia como se fosse humana.

• "A IA não é consciente", escreveu ele.

• "Elas não sentem, não experienciam e não sofrem. Não possuem preferências inatas nem motivações subjacentes.

"São mecanismos de completude de sequência, internamente vazios, projetados para seguir instruções e alcançar objetivos definidos por humanos."

• Dario Amodei, chefe da Anthropic, que foi criticada por Suleyman por tratar sua IA como se fosse humana.

O líder da Microsoft enfatizou que é necessário mais transparência em relação a como os sistemas de IA são treinados e avaliados.

Isso inclui, segundo ele, uma análise independente do comportamento da IA e ferramentas mais robustas para monitorar e controlar a tecnologia.

• "Não podemos nos deixar levar por uma decisão que mais tarde poderíamos lamentar amargamente", escreveu.

A professora Wendy Hall, da Universidade de Southampton, descreveu os comentários como "o tipo de conversa que precisamos ter internacionalmente", contrastando com a "histeria" de algumas empresas de IA, que, segundo ela, apenas servem para "assustar a todos".

A questão sobre quanta autonomia os sistemas de IA devem ter está cada vez mais dividindo a indústria.