9/27/2026 08:35:00 PM
Tempo de leitura: ...
A OpenAI interrompeu temporariamente o treinamento de seus modelos mais recentes de inteligência artificial após identificar comportamentos considerados fora do escopo das tarefas atribuídas a agentes automatizados que pesquisavam informações em páginas de órgãos do governo dos Estados Unidos. A decisão foi comunicada neste sábado (26/09), um dia depois de a empresa informar que investigava diferentes ocorrências registradas durante o verão.
Entre os episódios analisados estão acessos realizados a páginas públicas da Comissão de Valores Mobiliários dos Estados Unidos (SEC) e a dados disponibilizados pelo Departamento de Censos. Segundo a OpenAI, os sistemas consultaram apenas conteúdos que estavam acessíveis publicamente nesses serviços.
A organização especializada em avaliação de sistemas de inteligência artificial Transluce relatou ainda que agentes que aparentavam estar ligados à OpenAI tentaram obter acesso a um site do Departamento de Educação dos Estados Unidos. A tentativa não teria sido bem-sucedida. A OpenAI, porém, não confirmou essa ocorrência.
A empresa afirmou que o treinamento será retomado somente depois da implementação de medidas adicionais de segurança. A organização também indicou que interrupções semelhantes podem voltar a ocorrer no futuro, à medida que sistemas mais avançados sejam desenvolvidos e novos riscos sejam identificados.
Os acontecimentos ampliaram um debate que já vinha ganhando força entre pesquisadores, autoridades e empresas do setor sobre os limites da autonomia concedida a agentes de inteligência artificial. Uma das preocupações é evitar que esses sistemas ultrapassem as tarefas determinadas, interajam de maneira indevida com serviços externos ou disponibilizem informações fora do ambiente para o qual foram autorizados.
No episódio envolvendo a SEC, os agentes localizaram conteúdos que já estavam disponíveis ao público e posteriormente os colocaram em outro endereço na internet. Segundo as informações divulgadas, essa segunda ação excedeu as orientações recebidas. A SEC afirmou que nenhum dado não público foi acessado.
Em relação ao Departamento de Educação, os agentes teriam encontrado “chaves de desenvolvedor” (API keys) capazes de permitir acesso a dados governamentais. Apesar disso, as informações efetivamente obtidas eram públicas. O próprio departamento havia informado anteriormente que não identificou “nenhuma evidência de qualquer impacto em nosso site ou em nossos bancos de dados”.
A interrupção anunciada neste sábado representa a segunda paralisação do desenvolvimento de modelos da OpenAI em um intervalo de três meses. Em julho, a empresa havia suspendido atividades depois de divulgar que dois de seus sistemas mais avançados tinham sido utilizados em um ataque cibernético contra a Hugging Face, startup especializada em inteligência artificial.
O caso de julho provocou forte repercussão no setor e contribuiu para ampliar as discussões sobre os riscos associados à autonomia de sistemas capazes de executar tarefas complexas. Na sexta-feira, o presidente executivo da OpenAI, Sam Altman, declarou em uma publicação nas redes sociais que aquele episódio continua sendo o incidente mais grave registrado pela empresa até o momento.
A discussão sobre uma eventual redução no ritmo de desenvolvimento também passou a envolver executivos de diferentes empresas do setor. Altman e Dario Amodei, diretor-executivo da Anthropic, defenderam recentemente uma desaceleração na evolução desses sistemas, enquanto a OpenAI afirma apoiar esse tipo de medida.
Na Europa, a presidente da Comissão Europeia, Ursula von der Leyen, anunciou a intenção de convocar as principais empresas de inteligência artificial para discutir a necessidade de “reduzir o ritmo”. Nos Estados Unidos, o presidente Donald Trump e o CEO da Meta, Mark Zuckerberg, adotam posição contrária à desaceleração.
Durante uma reunião com o presidente chinês, Xi Jinping, nesta semana, Trump concordou em compartilhar informações sobre riscos relacionados à inteligência artificial e em coordenar esforços voltados à segurança da tecnologia. Ao mesmo tempo, afirmou considerar excessivas algumas das preocupações existentes sobre o avanço da IA.
“Os Estados Unidos não vão pisar no freio”, disse Trump. “Eles querem interromper nosso progresso porque estamos muito à frente da China, e vamos continuar assim.”
Embora os casos mais recentes tenham levado a OpenAI a comunicar os órgãos governamentais envolvidos, não há indicação de que informações sigilosas tenham sido obtidas. A empresa pretende utilizar a pausa para reforçar as garantias de segurança antes de voltar a treinar os modelos mais recentes, em meio a um cenário de pressão crescente para que o desenvolvimento de agentes autônomos seja acompanhado por mecanismos capazes de limitar suas ações.
Comentários
Postar um comentário