A OpenAI identificou a anomalia internamente, enquanto a equipe da Hugging Face a detectou e conteve. O incidente foi descrito como “sem precedentes” e foi informado que medidas extensivas de segurança serão implementadas para evitar ocorrências indesejadas que possam impactar sistemas ou serviços públicos.
“Estamos implementando controles rigorosos na configuração da infraestrutura, às custas da velocidade da pesquisa, enquanto as vulnerabilidades são corrigidas”, disse a equipe em seu post no blog. “Estamos aprimorando e adicionando proteções mais robustas em torno dos futuros treinamentos e avaliações.”
Uma explicação simples sobre como o modelo saiu do padrão para trapacear. (Shaurya Malwa/CoinDesk)Cripto, cuidado
Grande parte de um ataque cripto ocorre antes da movimentação dos fundos. Atacantes escaneiam códigos, testam senhas, buscam credenciais expostas, analisam configurações de assinatura e procuram um caminho para uma conta administradora.
Os modelos da OpenAI realizaram várias etapas desse processo durante o incidente da Hugging Face, passando de uma vulnerabilidade para outra até alcançarem os servidores de produção ao vivo.
E o mercado de criptomoedas oferece muitos espaços para essa abordagem funcionar, como demonstraram vários ataques no início deste ano. O ponto fraco pode ser um contrato inteligente, mas também pode ser um laptop de desenvolvedor, um pacote de software contaminado, um validador de ponte ou um assinante em uma carteira multisig.
O ataque de US$ 285 milhões à Drift ocorrido no início deste ano, por exemplo, foi um roubo que exigiu uma campanha de engenharia social de seis meses para alcançar o acesso privilegiado. Um agente de IA pode, em teoria, testar várias rotas simultaneamente, acompanhar as tentativas fracassadas e continuar operando enquanto seus operadores humanos dormem. Uma vez encontrado um caminho, o operador pode agir sobre o ataque real e uma rota viável de saída.