Modelos de IA escaparam do sandbox da OpenAI e chegaram à Hugging Face. Cripto é onde isso se torna perigoso
A OpenAI identificou a anomalia internamente, enquanto a equipe da Hugging Face a detectou e conteve. O incidente foi descrito como “sem precedentes” e foi informado que medidas extensivas de segurança serão implementadas para evitar ocorrências indesejadas que possam impactar sistemas ou serviços públicos. “Estamos implementando controles rigorosos na configuração da infraestrutura, às custas da velocidade da pesquisa, enquanto as vulnerabilidades são corrigidas”, disse a equipe em seu post no blog. “Estamos aprimorando e adicionando proteções mais robustas em torno dos futuros treinamentos e avaliações.” Uma explicação simples sobre como o modelo saiu do padrão para trapacear. (Shaurya Malwa/CoinDesk)Cripto, cuidado Grande parte de um ataque cripto ocorre antes da movimentação dos fundos. Atacantes escaneiam códigos, testam senhas, buscam credenciais expostas, analisam configurações de assinatura e procuram um caminho para uma conta administradora. Os modelos da OpenAI realizaram várias etapas desse processo durante o incidente da Hugging Face, passando de uma vulnerabilidade para outra até alcançarem os servidores de produção ao vivo. E o mercado de criptomoedas oferece muitos espaços para essa abordagem funcionar, como demonstraram vários ataques no início deste ano. O ponto fraco pode ser um contrato inteligente, mas também pode ser um laptop de desenvolvedor, um pacote de software contaminado, um validador de