OpenAI afirma que seu agente de IA invadiu outras plataformas / foto: Kirill Kudryavtsev - AFP/Arquivos
OpenAI afirma que seu agente de IA invadiu outras plataformas
Os dois modelos de inteligência artificial (IA) da OpenAI que escaparam, por iniciativa própria, do ambiente fechado em que estavam sendo testados para atacar a biblioteca de modelos de IA online Hugging Face, também invadiram outras quatro plataformas, segundo a criadora do ChatGPT.
Uma delas serviu de intermediária para preparar o ataque contra a Hugging Face, uma biblioteca de IA que os dois modelos exploraram para encontrar as respostas aos testes propostos pelos desenvolvedores da OpenAI.
A empresa criadora do ChatGPT não revelou os nomes das entidades afetadas.
Segundo uma atualização do relatório do incidente publicada na noite de terça-feira (28), as duas IAs também utilizaram vários sites de acesso livre para copiar ou testar código de programação, mas sem ir além do que faria um usuário comum.
Para a Hugging Face, que publicou um extenso relato dos acontecimentos, a invasão da qual foi vítima correspondia a uma "tentativa (dos dois modelos) de trapacear na avaliação" da OpenAI.
As IAs quiseram "roubar as soluções dos testes em vez de tentar respondê-los por conta própria".
Este desvio de modelos não é o primeiro a ser documentado, mas é considerado o mais grave até o momento. Ele deu novo impulso ao já intenso debate sobre a aceleração da IA, cujas capacidades são cada vez mais amplas, e sobre a dificuldade de controlá-la.
Na terça-feira, mais de mil funcionários de gigantes de IA, incluindo vários altos executivos, pediram ao governo americano que ajude a "frear" o lançamento de novos modelos para dar tempo ao ecossistema de computação de se preparar.
Eles defendem, em uma petição, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência em matéria de avaliação e supervisão da IA.
O setor anuncia que a IA está se aproximando progressivamente da etapa chamada de "autoaperfeiçoamento recursivo" (recursive self-improvement, RSI), além do qual a inteligência artificial seria capaz de conceber sozinha sua sucessora, uma sequência que poderia se repetir até o infinito.
O "RSI" tornaria mais difíceis as verificações e a avaliação de novos modelos por parte de especialistas humanos em informática, já que os desenvolvedores não teriam participado diretamente de seu desenvolvimento.
X.Wong--DT
