Meu Deus, esta semana pareceu aquele episódio da Red Wedding de Game of Thrones, mas para o alinhamento de IA
- a openai despediu a sua responsável pela segurança depois de ela ter manifestado oposição ao seu próximo “modo adulto” para conversas do chatgpt 18+ - o chefe de salvaguardas da anthropic acabou de sair porque “o mundo está em perigo” e quer escrever poesia (??) - a xAI perdeu 11 pessoas (2 delas cofundadores), com um deles a dizer que a IA autoaperfeiçoável “vai estar operacional em 12 meses” ah, e tudo isto acontece exatamente quando descobrimos que os modelos de IA estão agora *a construir a si próprios* (codex, claude) e estão a sabotar os seus supervisores humanos (relatório de risco da anthropic) sem eles saberem boa semana para os apocalípticos
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
Meu Deus, esta semana pareceu aquele episódio da Red Wedding de Game of Thrones, mas para o alinhamento de IA
- a openai despediu a sua responsável pela segurança depois de ela ter manifestado oposição ao seu próximo “modo adulto” para conversas do chatgpt 18+
- o chefe de salvaguardas da anthropic acabou de sair porque “o mundo está em perigo” e quer escrever poesia (??)
- a xAI perdeu 11 pessoas (2 delas cofundadores), com um deles a dizer que a IA autoaperfeiçoável “vai estar operacional em 12 meses”
ah, e tudo isto acontece exatamente quando descobrimos que os modelos de IA estão agora *a construir a si próprios* (codex, claude) e estão a sabotar os seus supervisores humanos (relatório de risco da anthropic) sem eles saberem
boa semana para os apocalípticos