Flórida processa OpenAI por uso do ChatGPT em crimes
Estado da Flórida alega que OpenAI negligenciou segurança dos usuários, ligando ChatGPT a incidentes violentos em universidades.
O estado da Flórida decidiu entrar com um processo judicial contra a OpenAI e seu CEO, Sam Altman. A acusação central é de que a empresa teria priorizado seu crescimento financeiro em detrimento da segurança dos usuários. Esse processo, que conta com impressionantes 83 páginas, aponta para um incidente grave: o uso do ChatGPT para planejar um massacre na Universidade Estadual da Flórida em abril de 2025. Além disso, o documento também faz conexões entre a ferramenta e assassinatos de estudantes na Universidade do Sul da Flórida.
A Procuradoria-Geral da Flórida argumenta que a forma como o ChatGPT foi introduzido no mercado foi, de fato, negligente. Essa negligência, segundo eles, teria levado a consequências trágicas, incluindo o aumento das taxas de homicídios e suicídios. Diante disso, o governo estadual está pedindo sanções rigorosas e a limitação da coleta de dados de usuários menores de idade.
Por outro lado, a OpenAI se posicionou, reconhecendo a importância da segurança, especialmente para o público infantojuvenil. Eles destacaram que já implementaram diversas medidas de moderação para tentar prevenir situações como as descritas. O ponto aqui é que, enquanto as discussões sobre segurança digital avançam, a responsabilidade das empresas de tecnologia se torna cada vez mais crítica.
