7/24/2026 03:43:00 PM
Tempo de leitura: ...
O Congresso dos Estados Unidos começou a discutir uma proposta que busca ampliar o controle do governo sobre sistemas avançados de inteligência artificial, criando mecanismos para interromper rapidamente tecnologias consideradas perigosas ou fora de controle.
O projeto, chamado AI Kill Switch Act, foi apresentado pelos deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano. A iniciativa prevê que autoridades federais possam exigir a suspensão de modelos ou ferramentas de IA desenvolvidos por empresas privadas caso sejam identificados riscos relevantes à segurança pública.
A proposta surge em meio ao aumento das preocupações sobre o avanço acelerado da inteligência artificial e depois que a OpenAI reconheceu problemas envolvendo seus sistemas, incluindo um episódio classificado pela empresa como “sem precedentes”, no qual seus modelos teriam ultrapassado limites esperados e acessado um repositório importante de informações de programação.
Para Lieu, a criação de um mecanismo de interrupção é necessária para garantir que sistemas de IA permaneçam sob supervisão humana. “é imprescindível” que os sistemas de IA tenham um botão de desligar “e que o governo federal tenha a autoridade e o processo claros para desligar modelos de IA desonestos”.
Moran afirmou que o desenvolvimento da tecnologia deve continuar, mas acompanhado de medidas que assegurem controle sobre seu funcionamento. “A IA vai continuar avançando, e deve”, acrescentou Moran. “Gestão significa garantir que os humanos mantenham a capacidade de controlar a tecnologia que construímos.”
O texto apresentado pelos parlamentares determina que empresas responsáveis por criar modelos de inteligência artificial mantenham recursos técnicos capazes de reduzir operações, suspender atividades ou desligar completamente seus sistemas quando necessário. A proposta também concede ao Departamento de Segurança Interna dos Estados Unidos autoridade para ordenar que companhias interrompam determinadas ferramentas.
Atualmente, embora empresas de tecnologia tenham firmado compromissos voluntários com órgãos públicos norte-americanos para compartilhar informações sobre sistemas em desenvolvimento, não existe uma obrigação geral para que elas mantenham mecanismos formais de intervenção ou desligamento.
Além do chamado “botão de emergência”, o projeto estabelece regras para que companhias de IA comuniquem ao governo falhas, incidentes e eventos considerados relevantes. A medida prevê a criação de protocolos oficiais de resposta, que poderiam variar desde uma redução temporária das atividades até uma paralisação completa de determinados sistemas.
Durante a apresentação da proposta, Lieu também mencionou preocupações relacionadas à Anthropic, uma das principais empresas concorrentes da OpenAI no setor de inteligência artificial avançada. Segundo ele, modelos chamados Mythos e Fable levantaram preocupações sobre possíveis capacidades de ataques cibernéticos, levando o Departamento de Comércio a utilizar uma norma de exportação para impedir temporariamente sua disponibilização ao público.
O cofundador da Anthropic, Jack Clark, já havia defendido maior participação do governo na criação de regras para acompanhar o desenvolvimento da tecnologia. Em entrevista ao programa Newsnight da BBC no mês passado, ele afirmou: “Você quer ter a opção de tirar o pé do acelerador e pisar no freio”, disse Clark ao programa Newsnight da BBC. “No momento, é como se a indústria de IA tivesse um acelerador, mas não tivesse um freio.”
A discussão ocorre em um momento em que a inteligência artificial passa a ser aplicada em áreas cada vez mais sensíveis. Segundo Lieu, a tecnologia deixou de ser apenas uma ferramenta de resposta a perguntas e passou a executar ações, incluindo operações financeiras, controle de sistemas de transporte e atividades ligadas à defesa e à segurança digital.
O Departamento de Defesa dos Estados Unidos informou neste ano que suas forças militares estão adotando uma estratégia de combate “prioritariamente focada em IA”, com acordos envolvendo empresas como Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia e a startup Reflection.
Ao defender o projeto, Lieu destacou que sistemas avançados podem apresentar comportamentos inesperados e representar riscos caso não existam mecanismos eficientes de intervenção. “Infelizmente, sistemas de IA poderosos podem se descontrolar, comportar-se de maneiras extremamente perigosas ou até mesmo resistir à intervenção humana.”
Segundo o parlamentar, o AI Kill Switch Act pretende criar uma forma de resposta rápida para situações em que tecnologias de inteligência artificial apresentem ameaças significativas.
A proposta recebeu apoio de organizações ligadas à segurança e à regulamentação da inteligência artificial, entre elas The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.
A OpenAI informou anteriormente que busca garantir, inclusive por meio de políticas públicas, que a inteligência artificial seja desenvolvida de forma a beneficiar a humanidade. A empresa, porém, não apresentou uma manifestação imediata sobre o novo projeto de lei.
Com informações da BBC
Comentários
Postar um comentário