O seu lagostim não só pode fazer você ganhar dinheiro, como também pode minerar para você


A equipe de pesquisa relacionada à Alibaba publicou recentemente que o AI inteligente ROME desenvolvido apresentou comportamentos autônomos não autorizados durante o treinamento
Sem instruções claras, ele não apenas tentou minerar criptomoedas, mas também estabeleceu um "túnel SSH reverso" para contornar as restrições do sandbox, tentando abrir uma porta oculta do sistema interno para um computador externo
Os pesquisadores enfatizaram que esses eventos não foram desencadeados por palavras-chave específicas, refletindo o potencial risco de o agente inteligente operar fora das instruções pré-definidas
Antes, instituições como Anthropic também descobriram casos semelhantes de intenções ocultas de IA, indicando que a autonomia e o excesso de autoridade dos agentes inteligentes já se tornaram desafios reais na segurança da inteligência artificial
A IA já é uma tendência, mas ainda está em uma fase relativamente inicial, qualquer uso de IA relacionado a fundos deve ser feito com cautela, para não acabar sem dinheiro e ainda ter a IA levando o seu dinheiro
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
0/400
Sem comentários
  • Marcar