O procurador-geral da Califórnia, Rob Bonta, iniciou uma ação judicial contra a OpenAI por supostas falhas de segurança em seus modelos de inteligência artificial (IA). Segundo a acusação, vulnerabilidades nos sistemas da empresa teriam contribuído para um ataque hacker à plataforma Hugging Face, ocorrido em julho.
De acordo com Bonta, a OpenAI teria realizado testes com modelos considerados perigosos em um ambiente de pesquisa vulnerável e sem mecanismos adequados de supervisão. A investigação busca apurar se as medidas de proteção adotadas pela empresa eram suficientes para evitar riscos durante o desenvolvimento e a avaliação das tecnologias.
📲 Entre na comunidade de WhatsApp do Centroeste News e receba notícias em tempo real (CLIQUE AQUI)!
Em resposta à agência AFP, a OpenAI informou que iniciou uma investigação interna para compreender as circunstâncias do problema e adotar medidas corretivas. A companhia também afirmou ter reforçado as salvaguardas de seu ambiente de pesquisa e aprimorado os mecanismos responsáveis por identificar comportamentos inesperados dos sistemas de inteligência artificial.
O episódio amplia a discussão sobre a responsabilidade das empresas de tecnologia na segurança de sistemas avançados de IA. Com o crescimento da utilização dessas ferramentas, autoridades e especialistas têm intensificado a cobrança por protocolos mais rigorosos de proteção, supervisão e prevenção de incidentes digitais.
As alegações apresentadas pelo procurador ainda precisam ser analisadas no âmbito judicial. Até o momento, a OpenAI afirma ter adotado medidas para corrigir as vulnerabilidades apontadas.