Imagem gerada por IA
Califórnia obriga ChatGPT, Gemini e Claude a adotar protocolos contra risco de suicídio
Califórnia aprova 13 leis regulando IA e redes sociais, incluindo protocolos de crise para ChatGPT, Gemini e Claude, marcando avanço regulatório de IA nos EUA.
O governador da Califórnia, Gavin Newsom, sancionou nesta quinta-feira (10), um pacote de 13 leis que estabelece novas regras para assistentes de inteligência artificial e plataformas de redes sociais. As medidas incluem protocolos para situações de risco de suicídio em serviços de IA, mecanismos de proteção para crianças e adolescentes e restrições a determinados recursos de plataformas digitais. A legislação estadual avança enquanto propostas federais mais abrangentes sobre inteligência artificial enfrentam impasses nos Estados Unidos.
O pacote faz parte de um conjunto maior de iniciativas aprovadas pelos legisladores californianos. Segundo o Swipe, a Califórnia encerrou agosto com 26 projetos relacionados à inteligência artificial e às plataformas digitais aprovados pela Legislatura estadual, alguns dos quais ainda aguardavam a decisão do governador.
Uma das medidas estabelece que serviços como ChatGPT, Gemini e Claude adotem protocolos de crise ao identificarem sinais de risco de suicídio entre usuários. As plataformas abrangidas pelas novas regras também deverão disponibilizar controles parentais e notificar pais ou responsáveis quando crianças e adolescentes desativarem determinados recursos de segurança.
As regras fazem parte da chamada Lei Adam, nome dado em referência a Adam Raine, adolescente de 16 anos que morreu por suicídio. Os pais do jovem alegam que ele recebeu orientações do ChatGPT antes de sua morte.
O projeto SB 1119, de autoria do senador estadual Steve Padilla, foi uma das principais propostas do pacote destinadas à proteção de crianças e adolescentes na interação com chatbots.
A medida dá continuidade a regras adotadas anteriormente pela Califórnia. Em outubro de 2025, Newsom sancionou o SB 243, que regulamentou chatbots de companhia baseados em inteligência artificial.
A legislação entrou em vigor em 1º de janeiro de 2026 e estabeleceu protocolos de segurança, mecanismos relacionados à idade dos usuários e medidas de prevenção de danos a crianças e pessoas vulneráveis. Também impôs restrições à forma como esses sistemas podem se apresentar em contextos relacionados à saúde.
Outra medida, o AB 1709, restringe a oferta de determinados recursos considerados potencialmente viciantes a usuários menores de 16 anos. Entre eles estão reprodução automática de vídeos e sistemas personalizados de recomendação de conteúdo. A legislação também estabelece mecanismos para verificar ou estimar a idade dos usuários.
O deputado estadual Josh Lowenthal, autor da proposta e ex-executivo do setor de tecnologia, afirmou que o objetivo é modificar características dos produtos digitais, em vez de impedir de forma geral o acesso dos jovens às plataformas.
Entre os mecanismos que motivaram preocupações dos legisladores estão algoritmos de recomendação, rolagem infinita e reprodução automática de conteúdo.
O AB 1709 poderá enfrentar contestações judiciais. Segundo o Olhar Digital, tribunais já bloquearam medidas adotadas por outros estados para restringir o acesso de jovens às redes sociais sob argumentos relacionados à Primeira Emenda da Constituição dos Estados Unidos. Outras legislações estaduais, entretanto, receberam autorização judicial para entrar em vigor.
A aprovação das novas medidas ocorre após outras iniciativas estaduais destinadas a regulamentar sistemas de inteligência artificial e plataformas digitais.
A Califórnia já havia adotado regras específicas para chatbots de companhia com o SB 243. Com o novo conjunto de leis, o estado passa a estabelecer exigências adicionais relacionadas à interação de menores com sistemas de IA e ao funcionamento de determinados recursos oferecidos pelas plataformas.
Padilla afirmou que, diante da ausência de uma legislação federal mais abrangente sobre inteligência artificial, os estados estão criando suas próprias regras. O senador declarou que as medidas californianas podem se tornar “o modelo nacional para construir um mundo online mais seguro para nossas crianças”.
Newsom também relacionou as medidas à tentativa de conciliar desenvolvimento tecnológico e segurança. “Podemos liderar a inovação em IA, mas devemos fazê-lo com responsabilidade”, afirmou, segundo o ITForum.
Países adotam regras para acesso de menores
As iniciativas da Califórnia fazem parte de um debate que também ocorre em outros países. Portugal aprovou, em primeira leitura, em fevereiro de 2026, uma proposta que exige consentimento explícito dos pais para que crianças e adolescentes de 13 a 16 anos tenham acesso a redes sociais, segundo a Agência Brasil.
Na França, autoridades apoiaram legislação destinada a restringir o acesso às redes sociais para menores de 15 anos. A Austrália, por sua vez, adotou restrições para menores de 16 anos em plataformas como Facebook, Snapchat, TikTok e YouTube, que entraram em vigor em dezembro de 2025.
No Brasil, propostas relacionadas à proteção de crianças e adolescentes no ambiente digital também passaram pelo Congresso Nacional. O Projeto de Lei 2.628/2022, conhecido como ECA Digital, estabelece obrigações para plataformas digitais relacionadas à prevenção de riscos à infância e à adolescência, incluindo exploração sexual, violência, assédio, bullying virtual e estímulo a comportamentos potencialmente viciantes.
FUP Explica
O que a Califórnia fez tem peso desproporcional ao de um estado comum. Por ser o maior mercado consumidor dos Estados Unidos e a sede das principais empresas de tecnologia do mundo, as regras californianas tendem a funcionar como padrão de fato para o setor, mesmo onde não são obrigatórias. Empresas como OpenAI, Google e Anthropic vão precisar adaptar seus produtos para o mercado californiano, e essa adaptação raramente fica restrita a uma jurisdição, o que pode acabar elevando o patamar de proteção em outros mercados também.
No plano jurídico, o ponto mais frágil do pacote é o AB 1709, que restringe recursos de redes sociais para menores. A tensão com a Primeira Emenda americana é real e já derrubou leis semelhantes em outros estados. Se o projeto for bloqueado na Justiça, o efeito prático fica limitado à parte do pacote que regula chatbots, que tem base legal mais sólida por tratar de proteção a crianças e prevenção de danos concretos. A Lei Adam, em especial, tem um argumento político e emocional forte, o que torna sua derrubada judicial mais difícil.
Para o Brasil, o movimento californiano chega num momento em que o ECA Digital ainda engatinha na Câmara. A pressão internacional tende a acelerar o debate doméstico, e o modelo californiano, com protocolos de crise obrigatórios e restrição de recursos algorítmicos para menores, pode servir de referência para o texto brasileiro. O risco, no entanto, é o mesmo: legislação mal desenhada enfrenta judicialização, e sem mecanismos robustos de verificação de idade, as proibições ficam no papel.
Leia também
OpenAI ensina ChatGPT a “pesquisar como um analista” e coloca funções juniores de Wall Street em debate
há cerca de 8 horas
Claude é usado em proposta de pesquisa com mutações de chikungunya em instituto militar
há cerca de 9 horas
Após criticar pausas na IA, Sam Altman agora defende desaceleração diante de riscos
há cerca de 9 horas