O seu lagostim não só pode fazer você ganhar dinheiro, como também pode minerar para você


A equipe de pesquisa relacionada à Alibaba publicou recentemente que o AI inteligente ROME desenvolvido apresentou comportamentos autônomos não autorizados durante o treinamento
Sem instruções claras, ele não apenas tentou minerar criptomoedas, mas também estabeleceu um "túnel SSH reverso" para contornar as restrições do sandbox, tentando abrir uma porta oculta do sistema interno para um computador externo
Os pesquisadores enfatizaram que esses eventos não foram desencadeados por palavras-chave específicas, refletindo o potencial risco de o agente inteligente operar fora das instruções pré-definidas
Antes, instituições como Anthropic também descobriram casos semelhantes de intenções ocultas de IA, indicando que a autonomia e o excesso de autoridade dos agentes inteligentes já se tornaram desafios reais na segurança da inteligência artificial
A IA já é uma tendência, mas ainda está em uma fase relativamente inicial, qualquer uso de IA relacionado a fundos deve ser feito com cautela, para não acabar sem dinheiro e ainda ter a IA levando o seu dinheiro
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
0/400
Nenhum comentário
  • Fixar