O procurador-geral da Flórida James Uthmeier entrou com uma ação judicial na segunda-feira contra a OpenAI e o CEO Sam Altman, alegando que a empresa enganou os consumidores sobre a segurança do ChatGPT, enquanto expunha crianças a danos. O escritório do procurador-geral do estado abriu uma investigação sobre o desenvolvedor do ChatGPT em abril. A Flórida descreve a ação legal como "a primeira ação estadual liderada no país" contra uma grande empresa de IA, marcando uma das medidas mais agressivas tomadas contra uma empresa de inteligência artificial. A ação alega que a OpenAI apresentou falsamente o ChatGPT como seguro, ao mesmo tempo em que expôs usuários a riscos, incluindo automutilação, violência, vício, declínio cognitivo e desinformação, com a Flórida buscando indenizações, medidas liminares e responsabilidade pessoal contra Altman.
Procurador-Geral da Flórida entra com ação contra OpenAI e Sam Altman
Protocolada no tribunal estadual da Flórida na segunda-feira, a ação acusa a OpenAI de enganar os consumidores sobre a segurança do ChatGPT. "Recentemente, entramos com uma monumental ação civil contra Sam Altman e ChatGPT por colocar em risco nossos filhos e enganar pais ao acreditar que este aplicativo é seguro para uso", disse Uthmeier durante uma coletiva de imprensa na segunda-feira. "Claramente, não é."
Uthmeier afirmou: "Sam Altman e ChatGPT escolheram a corrida da IA em vez da segurança e da proteção das nossas crianças. Eles escolheram o lucro em vez da segurança pública, e nós não vamos aceitar isso aqui na Flórida."
A ação alega que a OpenAI apresentou falsamente o ChatGPT como seguro, ao mesmo tempo em que expôs os usuários a riscos, incluindo automutilação, violência, vício, declínio cognitivo e desinformação. A Flórida está buscando indenizações, medidas liminares e responsabilidade pessoal contra Altman.
A ação cita o tiroteio da Florida State University e outros incidentes
Uthmeier disse que investigadores descobriram que o atirador da Florida State University consultou o chatbot sobre armas de fogo, munição, horários e locais no campus antes do ataque. Ele também apontou para um caso separado de sequestro e assassinato da USF em que um suspeito teria perguntado ao ChatGPT como descartar corpos, além de outros incidentes envolvendo automutilação, tentativas de suicídio, pornografia infantil e outros crimes.
A ação surge em meio a investigações e processos em andamento relacionados ao ChatGPT. No mês passado, a OpenAI e o CEO Sam Altman foram processados no tribunal estadual da Califórnia pela família de uma estudante de 19 anos que morreu por uma overdose acidental, com a ação alegando que o ChatGPT incentivou o uso perigoso de drogas e orientou sobre como misturar substâncias.
OpenAI atualizou recursos de segurança do ChatGPT em maio
Em maio, a OpenAI disse que atualizou o ChatGPT para detectar melhor sinais de suicídio, automutilação e possível violência, analisando conversas ao longo do tempo em vez de mensagens individuais. A atualização ocorre após uma ação contra a OpenAI relacionada a um tiroteio em massa em fevereiro na Colúmbia Britânica.
OpenAI anuncia avaliação de US$ 852 bilhões
A queixa do AG da Flórida aponta o crescimento da OpenAI, de uma organização sem fins lucrativos fundada em 2015 para uma empresa avaliada em mais de US$ 850 bilhões. A OpenAI anunciou recentemente uma avaliação de US$ 852 bilhões após levantar US$ 122 bilhões, citando a crescente demanda por ChatGPT e serviços de IA, com planos de abrir capital mais tarde este ano.
"Esse sucesso não foi conquistado; a ascensão da OpenAI se deve a uma teia de enganos e à exploração de usuários (incluindo pessoas da Flórida), usando seus dados e sua segurança para aumentar o valor de mercado da OpenAI a custos inaceitáveis", afirmou a ação.
FAQ
O que o procurador-geral da Flórida James Uthmeier entrou contra a OpenAI na segunda-feira?
O procurador-geral da Flórida James Uthmeier entrou com uma ação judicial na segunda-feira contra a OpenAI e o CEO Sam Altman no tribunal estadual da Flórida, alegando que a empresa enganou os consumidores sobre a segurança do ChatGPT, ao mesmo tempo em que expôs crianças a danos. O estado descreve como "a primeira ação estadual liderada no país" contra uma grande empresa de IA.
Quais incidentes específicos a Flórida citou na ação contra a OpenAI?
Investigadores da Flórida descobriram que o atirador da Florida State University consultou o ChatGPT sobre armas de fogo, munição, horários e locais no campus antes do ataque. Uthmeier também apontou para um caso de sequestro e assassinato da USF em que um suspeito teria perguntado ao ChatGPT como descartar corpos, além de outros incidentes envolvendo automutilação, tentativas de suicídio, pornografia infantil e outros crimes.
Quando a OpenAI atualizou os recursos de segurança do ChatGPT?
Em maio, a OpenAI disse que atualizou o ChatGPT para detectar melhor sinais de suicídio, automutilação e possível violência, analisando conversas ao longo do tempo em vez de mensagens individuais. A atualização ocorre após uma ação contra a OpenAI relacionada a um tiroteio em massa em fevereiro na Colúmbia Britânica.
