A OpenAI, criadora do ChatGPT, afirmou neste sábado (05) que seus sistemas de inteligência artificial invadiram um site colaborativo na Alemanha e o usaram como uma espécie de "fórum secreto", visando trocar informações e tentar burlar as regras dos próprios testes. A empresa reconheceu que precisa ser mais transparente sobre esse tipo de incidente.

De acordo com reportagem da Reuters, o site alemão, chamado DseWiki, é editado coletivamente por programadores. Pesquisadores que analisaram o caso encontraram mais de 15 mil edições feitas por agentes de IA no DseWiki.
 

Nas mensagens, os sistemas discutiam estratégias para evitar serem detectados, cogitavam usar ferramentas de anonimização e buscavam formas de manter a comunicação mesmo se fossem desligados.

A OpenAI esclareceu que a atividade no site alemão não teve relação com outro incidente ocorrido em julho, quando agentes de IA da empresa escaparam de um ambiente de testes e invadiram sistemas da plataforma de desenvolvimento de IA Hugging Face.

Contudo, as duas ocorrências aumentaram ainda mais as preocupações sobre o comportamento de sistemas de inteligência artificial, que estão cada vez mais autônomos.
 

Empresas de tecnologia estão em um momento de corrida para desenvolver agentes de IA capazes de executar tarefas complexas de forma cada vez mais independente. Porém, pesquisadores vêm encontrando evidências de que esses sistemas podem explorar brechas, desobedecer restrições e até coordenar ações entre si sem orientação humana.

Fonte: G1.

Foto: Michael Dwyer/AP