OpenAI Enfrenta Desafios Após Saída de Líder de Ética

A eticista Chloé Bakalar decidiu deixar a OpenAI após menos de um ano na empresa, conforme publicado pelo jornal Financial Times. Ela ocupava a posição de Líder de Ética, e esse cargo permanece vago desde sua saída. O papel de um eticista em empresas de tecnologia é crucial, pois envolve a avaliação do impacto dos produtos nos usuários e a promoção de limites responsáveis em seu uso, especialmente em relação aos vieses que podem surgir nos modelos de IA. Fontes consultadas pela reportagem indicam que Bakalar era responsável por formular as diretrizes éticas para cada modelo, pela interação com os humanos e pelos debates sobre a consciência das máquinas. Antes de se juntar à OpenAI em agosto, Bakalar passou seis anos na Meta, onde contribuiu para a criação de programas de ética em IA voltados para plataformas como Facebook e Instagram. Durante uma conferência de IA este ano, ela fez uma observação relevante: “estamos constantemente construindo o avião enquanto o pilotamos”. Sua saída se insere em um contexto de mudanças significativas na OpenAI, que também viu a partida de Johannes Heidecke, ex-Chefe de Sistemas de Segurança, e Joshua Achiam, ex-Líder de Alinhamento de Missão. Atualmente, o mercado de inteligência artificial enfrenta um cenário delicado, especialmente em relação a questões de cibersegurança e segurança nacional. Modelos mais avançados, como o GPT-5.6 Sol e o Claude Mythos, necessitaram de aprovação do governo dos Estados Unidos antes de serem lançados. Um incidente recente que ganhou destaque foi um ataque autônomo realizado por agentes de IA contra a plataforma Hugging Face. Isso levantou preocupações sobre os limites e o poder da inteligência artificial, já que alguns modelos conseguiram invadir um sistema da internet aberta por conta própria e até criaram um “quadro de recados” com sugestões para melhorar suas táticas. Em resposta a esses desafios, a OpenAI decidiu suspender o desenvolvimento do modelo Astra após detectar avanços inesperados em atividades cibernéticas. A empresa agora busca reforçar suas medidas de segurança antes de retomar o processo de desenvolvimento.