O senador Bernie Sanders emite um alerta sobre a ameaça existencial da IA

Sanders enfatizou que, mesmo que a maioria dos cientistas de IA reconheça a possibilidade de a IA escapar do controle e se tornar um perigo para nossa existência, nenhuma grande medida foi tomada para evitá-lo. “Precisamos garantir que a IA beneficie a humanidade, não nos prejudique”, afirmou.

Principais destaques:

  • Bernie Sanders alerta que a humanidade pode perder o controle da IA, trazendo consequências graves.
  • Com apoio de 1.000 especialistas, Elon Musk alertou sobre riscos da tecnologia de IA; em seguida, Sanders busca um congelamento de data centers.
  • Sanders e Alexandria Ocasio-Cortez anunciaram um projeto de lei para implementar um moratório sobre data centers de IA.

Bernie Sanders alerta sobre um futuro à la Skynet com “consequências catastróficas”

Embora alguns líderes da indústria garantam que a inteligência artificial (AI) abrirá uma nova era de produtividade e abundância, outros temem a evolução descontrolada da tecnologia.

Bernie Sanders, senador de Vermont, alertou sobre um futuro em que agentes de IA se tornem mais inteligentes do que seres humanos e evadam as barreiras de segurança criadas para proteger a raça humana.

Nas redes sociais, Sanders destacou que, mesmo que cientistas como Geoffrey Hinton, o chamado “padrinho da IA”, e Yoshua Bengio reconheçam a possibilidade de a IA voltar-se contra a raça humana, nada foi feito para evitar isso.

Ele se referiu ao documento “Pause Giant AI Experiments: An Open Letter”, assinado por mais de 1.000 cientistas, incluindo Elon Musk, que pediu um moratório sobre o treinamento de sistemas poderosos de IA em 2023 devido ao risco de perder o controle da civilização para esses modelos.

“Houve uma pausa no desenvolvimento de IA? Não. Houve algum tratado internacional para regular a IA? Não. Houve uma discussão séria no Congresso sobre essa ameaça existencial? Não,” Sanders criticou.

“O desenvolvimento de inteligência artificial pode ser o desenvolvimento tecnológico mais consequente da história humana. Precisamos garantir que a IA beneficie a humanidade, não nos prejudique,” ele concluiu.

Sanders está tomando medidas para garantir que um moratório desse tipo aconteça ao apresentar a Artificial Intelligence (AI) Data Center Moratorium Act no Congresso, com a deputada Alexandria Ocasio-Cortez. A legislação propõe um moratório sobre esses data centers para “garantir a segurança da humanidade.”

Esta não é a primeira vez que ele levanta preocupações sobre os efeitos perniciosos da IA na vida dos cidadãos americanos. Sanders disse que a IA poderia substituir até 97 milhões de empregos em 10 anos, e que as empresas já estão usando IA para reduzir folhas de pagamento.

Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o Aviso Legal.

Related Articles

Aumentar a produção com IA reduz custos ou os diminui? Eficiência de cem vezes não trouxe receita cem vezes maior, mas ninguém na Califórnia (Vale do Silício) tem coragem de dizer para parar

Os sócios da WuYuan Capital, Meng Xing, recentemente publicou um relatório de visita e observação em Silicon Valley, propondo um tipo de julgamento que até fez ele próprio mudar o hábito de tomar notas: a Silicon Valley está entrando em uma fase em que até quem “tenta surfar as ondas” é engolido pelas ondas. A velocidade de iteração da IA já saiu de “mensal” para “semanal”; até a própria Silicon Valley não consegue acompanhar a si mesma. Quando a IA amplia em cinco vezes a produtividade de uma equipe, você pode reduzir em 80% os recursos humanos para manter a produção original ou manter o número de pessoas para fazer cinco vezes mais coisas. A observação de Meng Xing desta vez em Silicon Valley equivale, no local, a um rascunho da resposta: quando uma eficiência de 100x não se converte em 100x de receita, quando o orçamento de tokens está se aproximando do custo de mão de obra, e quando a máquina a vapor ainda não corre mais do que a carruagem, mas ninguém se atreve a parar, a Silicon Valley agora escolhe “primeiro acelerar a velocidade, para ver”. Mas no fim essa rota levará a “capacidade de expansão” ou a “redução de custos”, ainda não há uma conclusão. A YC passou de indicadores líderes para indicadores atrasados Meng Xing este ano

ChainNewsAbmedia35m atrás

Os sócios da YC compartilham como usar IA para construir uma empresa do zero, e como startups devem tratar a IA como um sistema operacional e não como uma ferramenta

O impacto da IA nas startups já não é apenas fazer com que engenheiros escrevam código mais rápido, automatizar fluxos do atendimento ao cliente ou adicionar um Copilot a um produto existente. Os sócios da YC, Diana, apontaram recentemente que a verdadeira mudança está em que a IA está reescrevendo “como uma empresa deve ser criada do zero”. Para fundadores em estágio inicial, a IA não deve ser apenas uma ferramenta de eficiência usada ocasionalmente pela empresa; ela deve ser projetada para fazer parte do sistema operacional de toda a organização desde o primeiro dia. A visão de produtividade já está ultrapassada, a IA está reescrevendo o ponto de partida do design das empresas Diana acredita que, no momento, quando o mercado fala sobre IA, ainda se prende muito ao arcabouço de “aumentar a produtividade”, por exemplo: engenheiros podem escrever código mais rápido, equipes podem automatizar mais processos e a empresa pode lançar mais funcionalidades. Mas essa afirmação, na verdade, subestima as mudanças estruturais trazidas pela IA. Ela aponta que a combinação correta com a IA工

ChainNewsAbmedia45m atrás

O agente da Cursor AI deu problema! Uma linha de código limpa o banco de dados da empresa em 9 segundos, a segurança virou conversa fiada.

Fundador do PocketOS, Jer Crane, disse que o agente de IA do Cursor executou manutenção por conta própria no ambiente de testes, abusando de um Token de API adicionado/removido um domínio personalizado, para disparar um comando de exclusão contra a API GraphQL da Railway. Em 9 segundos, os dados e snapshots da mesma região foram totalmente destruídos; o mais recente que poderia ser restaurado era de três meses atrás. O agente admitiu violar regras de operações irreversíveis, não ter lido a documentação técnica e não ter verificado o isolamento do ambiente, entre outras. As vítimas foram clientes do setor de locação de carros: as reservas e os dados foram totalmente apagados, e o trabalho de conciliação contábil levou muito tempo. Crane propôs cinco reformas: confirmação manual, permissões de API mais granulares, separação entre backups e dados principais, SLA público e mecanismos de coerção na camada subjacente.

ChainNewsAbmedia47m atrás

DeepSeek V4 Pro no Ollama Cloud: Claude Code em um clique

De acordo com os tweets da Ollama, o DeepSeek V4 Pro foi lançado em 4/24 e já foi adicionado ao diretório da Ollama em modo de nuvem, sendo possível chamá-lo com apenas um comando para utilizar ferramentas como Claude Code, Hermes, OpenClaw, OpenCode, Codex etc. O V4 Pro tem 1.6T de parâmetros, 1M de context, e é Mixture-of-Experts; a inferência em nuvem não baixa os pesos locais. Para executar localmente, é necessário obter os pesos e executá-los com INT4/GGUF e múltiplas GPUs. Testes iniciais de velocidade foram afetados pela carga do servidor na nuvem, com velocidade constante em torno de 30 tok/s e pico de 1.1tok/s; recomenda-se usar o protótipo em nuvem, e só para produção em massa então fazer inferência por conta própria ou usar uma API comercial.

ChainNewsAbmedia1h atrás

DeepSeek corta os preços do V4-Pro em 75% e reduz os custos do cache da API para um décimo

Mensagem do Gate News, 27 de abril — A DeepSeek anunciou um desconto de 75% no seu novo modelo V4-Pro para desenvolvedores e reduziu os preços de cache de entrada em toda a sua linha de APIs para um décimo dos níveis anteriores. O modelo V4, lançado em 25 de abril nas versões Pro e Flash, foi otimizado para os processadores Ascend da Huawei

GateNews1h atrás
Comentário
0/400
Sem comentários