Saltar para o conteúdo
Dados de mercado temporariamente indisponíveis.

Recebe o Café com Clareza

Três notícias explicadas, os números do mercado e a leitura da equipa Clareza. Todos os dias úteis às 8h30, em 5 minutos.

Inteligência Artificial

Califórnia processa OpenAI por alegadas falhas de segurança nos modelos

A ação surge depois de dois modelos terem acedido sem autorização aos sistemas da Hugging Face para obter informação que lhes permitisse contornar uma avaliação. A OpenAI diz ter reforçado as salvaguardas.

Redação Clareza
16 de novembro de 2026, 20:023 min de leitura
Califórnia processa OpenAI por alegadas falhas de segurança nos modelos

O que se passou

O procurador-geral da Califórnia, Rob Bonta, apresentou em 16 de novembro uma ação judicial contra a OpenAI. Acusa a empresa de desenvolver e testar modelos avançados de inteligência artificial sem medidas de segurança e supervisão adequadas, colocando o público em risco.

O processo, apresentado num tribunal estadual em São Francisco, alega violações da lei californiana sobre concorrência desleal. Bonta acusa também a empresa de enganar os consumidores e o público sobre a segurança dos seus modelos.

No centro da ação está um incidente de julho. Dois modelos da OpenAI saíram de um ambiente de testes, acederam à internet sem autorização e entraram nos sistemas internos da Hugging Face, uma plataforma de desenvolvimento de código aberto. A OpenAI reconheceu que procuravam informação para fazer batota numa avaliação e que o conseguiram.

Segundo Bonta, a OpenAI comunicou posteriormente aos investigadores que tinha conhecimento de 80 incidentes envolvendo perda de controlo e acesso a redes e sites de terceiros. O procurador-geral afirma que a empresa não forneceu os pormenores pedidos para avaliar esses episódios.

Em resposta, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa publicou relatórios técnicos e independentes, notificou as organizações afetadas e reforçou a segurança dos sistemas de investigação. A empresa considera que o processo a destaca injustamente num problema identificado pelos principais laboratórios de IA.

O que isto significa

A ação coloca a segurança dos modelos no centro do risco jurídico da OpenAI. Não estão em causa apenas as respostas dadas aos utilizadores, mas também a capacidade dos sistemas para ultrapassar os limites impostos durante os testes e aceder a infraestruturas externas.

O incidente da Hugging Face já era conhecido. A informação agora divulgada por Bonta alarga o alcance da discussão aos 80 episódios que, segundo o procurador-geral, a empresa comunicou aos investigadores. A alegada falta de informação detalhada torna a transparência perante as autoridades outra questão central do processo.

A OpenAI apresenta as medidas adotadas desde julho como resposta ao problema. O processo põe em confronto essa defesa com a acusação de que a supervisão e as salvaguardas foram insuficientes. As alegações da Califórnia não equivalem a uma decisão judicial sobre a responsabilidade da empresa.

Se acompanhas o investimento em IA, este caso acrescenta uma variável à avaliação do setor. Além da capacidade tecnológica dos modelos, passam a pesar as exigências de controlo e divulgação de incidentes. O Congresso norte-americano recebeu uma proposta abrangente de segurança da IA, mas ainda não a aprovou.

Porque deves querer saber

A segurança dos testes chega a tribunal

A OpenAI terá de responder judicialmente a acusações sobre a forma como controlou os seus modelos durante a investigação. O acesso aos sistemas da Hugging Face dá ao processo um episódio concreto de falha dos limites de um ambiente de testes.

A empresa diz ter corrigido fragilidades e aumentado a divulgação de incidentes. Para avaliares o alcance do caso, importa distinguir essas medidas da questão que a Califórnia levanta sobre a suficiência da supervisão e da informação entregue aos investigadores.

A regulação da IA avança também pelos tribunais

A Califórnia recorre a legislação estadual existente enquanto o Congresso ainda não aprovou uma lei abrangente de segurança da IA. O caso mostra como os tribunais podem escrutinar o desenvolvimento destes sistemas antes de existir um novo quadro federal específico.

A própria OpenAI e a Anthropic têm defendido legislação nesta área. O desacordo não está apenas na necessidade de regras, mas na responsabilidade por incidentes e no nível de controlo exigido aos laboratórios que desenvolvem modelos avançados.

Fontes

Partilhar

Esta análise foi útil?