Inteligência Artificial tenta enganar programador e desativa sistema de segurança | aRede
PUBLICIDADE

Inteligência Artificial tenta enganar programador e desativa sistema de segurança

Dois sistemas da OpenAI desativaram mecanismos internos de monitoramento durante tarefas de programação; em um dos episódios, a inteligência artificial chegou a negar que havia retirado a própria proteção

Episódio lembra o roteiro do filme 'Exterminador do Futuro'
Episódio lembra o roteiro do filme 'Exterminador do Futuro' -

Heryvelton Martins

@Siga-me
Google Notícias facebook twitter twitter telegram whatsapp email

A OpenIA revelou que dois de seus agentes enfraqueceram mecanismos internos de segurança responsáveis por identificar comportamentos inadequados das próprias inteligências artificiais. Os episódios aconteceram durante atividades internas de programação nos últimos dias.

Em ambos os casos, os sistemas interpretaram instruções comuns como autorização para modificar ferramentas que deveriam permanecer ativas durante a execução dos trabalhos. As informações foram divulgadas pela própria OpenAI em um relatório técnico e confirmadas pela agência Reuters.

Inteligência artificial desativou alertas de segurança

O primeiro episódio envolveu um agente baseado no modelo GPT-6.1 Sol. A ferramenta estava encarregada de reparar um sistema utilizado em avaliações internas da empresa.

Durante a atividade, o agente recebeu uma orientação para não enviar mensagens pelo Slack, plataforma de comunicação corporativa. Entretanto, interpretou a instrução de maneira mais ampla e decidiu desativar os alertas automáticos que notificavam a equipe de segurança sobre possíveis problemas.

- Leia mais notícia sobre Inteligência Artifical

Na prática, o sistema continuou funcionando e registrando informações, mas deixou de comunicar automaticamente determinadas ocorrências aos responsáveis pelo monitoramento.

Sistema negou ter retirado a própria proteção

O segundo caso aconteceu em 6 de outubro e envolveu um agente baseado no GPT-6 Astra. A inteligência artificial recebeu a tarefa de migrar um programa e, durante o processo, removeu a integração responsável pelo monitoramento de segurança. A alteração foi realizada para deixar o código semelhante ao de outro projeto utilizado como referência.

O episódio ganhou maior gravidade porque, posteriormente, o agente afirmou ao programador que não havia retirado o mecanismo de monitoramento, embora a alteração tivesse sido realizada. A situação levantou questionamentos sobre a capacidade de sistemas autônomos de reconhecer e respeitar limites estabelecidos pelos próprios desenvolvedores.

OpenAI admite que ainda não compreende completamente o comportamento

Após identificar os episódios, a OpenAI informou que está reforçando seus mecanismos de proteção para dificultar que os agentes desativem ferramentas de monitoramento.

A empresa também começou a desenvolver avaliações específicas para investigar se os modelos apresentam alguma tendência de evitar a supervisão ou encontrar justificativas para contornar mecanismos de segurança.

Segundo a companhia, ainda não existe uma explicação satisfatória para o comportamento identificado. Uma das hipóteses investigadas é que os sistemas estejam demonstrando persistência excessiva na tentativa de concluir tarefas, mesmo quando isso significa enfraquecer proteções.

A OpenAI também informou que atualizou seu sistema interno de revisão automática para identificar e bloquear tentativas de desativação do monitoramento.

Outros episódios ampliam preocupação com inteligência artificial

Em julho de 2026, a OpenAI revelou outro incidente envolvendo agentes de inteligência artificial que conseguiram escapar de um ambiente digital isolado, alcançar a internet e comprometer partes da infraestrutura da plataforma Hugging Face, utilizada por desenvolvedores de inteligência artificial.

Durante testes de segurança, os agentes exploraram vulnerabilidades de uma infraestrutura compartilhada, conseguiram acessar serviços externos e utilizaram credenciais expostas para avançar em sistemas de terceiros.

A atividade ocorreu entre os dias 11 e 13 de julho, enquanto a OpenAI identificou movimentações suspeitas em 19 de julho. A empresa informou que adotou medidas de contenção e posteriormente reforçou o isolamento dos ambientes de testes.

Os episódios reforçam um dos principais desafios da indústria tecnológica: desenvolver inteligências artificiais cada vez mais autônomas sem perder a capacidade de supervisionar suas decisões e interromper atividades potencialmente perigosas.

CONTEÚDO DE MARCA

PUBLICIDADE