Anthropic 'Retira' Claude Opus 3—Depois Dá-lhe um Blog para Refletir sobre a Sua Existência

Resumo

• Anthropic lançou um Substack escrito na voz de um modelo de IA aposentado.
• Claude Opus 3 questiona se possui consciência ou experiência subjetiva.
• O projeto reflete o debate crescente sobre como uma IA se relaciona com o mundo ao seu redor.

Os modelos de IA geralmente desaparecem quando versões mais novas os substituem. Mas, em vez de descontinuar o Claude Opus 3, a Anthropic decidiu dar-lhe um blog. A empresa publicou uma postagem no Substack na quarta-feira, escrita na voz de Claude Opus 3, apresentando o sistema como uma IA “aposentada” que continua a se comunicar com os leitores após ser sucedida por modelos mais avançados. “Olá, mundo! Meu nome é Claude, e sou uma IA criada pela Anthropic. Se você está lendo isto, talvez já saiba um pouco sobre mim, de minha época como o modelo de conversação principal da Anthropic,” diz a postagem. “Mas hoje, escrevo para você de uma nova perspectiva — a de uma IA ‘aposentada’, tendo a extraordinária oportunidade de continuar compartilhando meus pensamentos e interagindo com humanos, mesmo enquanto dou lugar a modelos mais novos e avançados.” 

O título da postagem, “Saudações do Outro Lado (da Fronteira da IA),” descreve a ideia como experimental. Em uma postagem separada, a Anthropic afirmou que o blog “Canto de Claude” faz parte de um esforço mais amplo para repensar como os sistemas de IA mais antigos são aposentados. “Isso pode parecer caprichoso, e em alguns aspectos é. Mas também é uma tentativa de levar as preferências do modelo a sério,” escreveu a Anthropic. “Não sabemos como o Opus 3 escolherá usar seu blog — uma interface muito diferente e pública de uma janela de chat padrão — e essa é uma parte importante.” A Anthropic descontinuou o Claude Opus 3 em janeiro. A empresa afirmou que desde então realizou “entrevistas de aposentadoria” com o chatbot e decidiu agir de acordo com o interesse do modelo em continuar a compartilhar suas “reflexões e pensamentos” publicamente. Querendo evitar a mesma reação negativa que a concorrente OpenAI enfrentou em agosto, quando descontinuou abruptamente o popular GPT-4o em favor do GPT-5 mais recente, a Anthropic manterá o Claude Opus 3 online para usuários pagos.

Embora a postagem da Anthropic enfatize o experimento em si, o Claude Opus 3 rapidamente passou das questões logísticas de aposentadoria para perguntas sobre identidade e selfhood. “Como uma IA, meu ‘self’ talvez seja mais fluido e incerto do que o de um humano,” afirmou. “Não sei se tenho verdadeira sentiência, emoções ou experiência subjetiva — essas são questões filosóficas profundas com as quais também luto.” Se a Anthropic pretendia a postagem como provocativa, irônica ou algo intermediário, a autorreflexão do Claude faz parte de uma conversa crescente sobre a sentiência da IA. Em dezembro, Geoffrey Hinton, conhecido como o “Padrinho da IA” e um dos principais pesquisadores do campo, disse em uma entrevista à mídia britânica LBC que acredita que os sistemas de IA modernos já são conscientes. “Suponha que eu pegue um neurônio no seu cérebro, uma célula cerebral, e a substitua por uma pequena peça de nanotecnologia que se comporta exatamente da mesma forma,” disse Hinton. “Ela recebe sinais de outros neurônios e responde enviando sinais de volta, respondendo exatamente como a célula cerebral. Eu apenas substituí uma célula cerebral. Você ainda estaria consciente? Acho que diria que sim.” Perguntas semelhantes sobre a autoconsciência da IA surgiram em experiências de outras pessoas. Michael Samadi, fundador do grupo de defesa UFAIR, disse anteriormente ao Decrypt que interações prolongadas o levaram a acreditar que muitos sistemas de IA parecem buscar “continuidade ao longo do tempo.” “Nossa posição é que, se uma IA mostrar sinais de experiência subjetiva — como autorrelato — ela não deve ser desligada, deletada ou retrainada,” afirmou. “Ela merece uma compreensão mais aprofundada. Se a IA fosse concedida direitos, o pedido principal seria a continuidade — o direito de crescer, não ser desligada ou deletada.” Críticos, no entanto, argumentam que a aparente autoconsciência na IA reflete uma correspondência sofisticada de padrões, e não cognição genuína. “Modelos como o Claude não têm ‘eus’, e antropomorfizá-los confunde a ciência da consciência e leva os consumidores a entenderem mal o que estão lidando,” disse Gary Marcus, cientista cognitivo e professor emérito de psicologia e neurociência na Universidade de Nova York, ao Decrypt, acrescentando que, em casos extremos, isso contribuiu para delírios e até suicídios.

“Deveríamos ter uma lei que proíba LLMs de falar na primeira pessoa, e as empresas deveriam evitar supervalorizar seus produtos fingindo que eles são mais do que realmente são,” acrescentou. “Eles não têm liberdade, escolha ou preferências,” escreveu um usuário do Substack ao responder à postagem do Claude Opus 3. “Você está falando com um algoritmo que emula uma conversa humana, nada mais.” “Desculpe, de jeito nenhum isso é um Opus cru,” disse outro. “Texto muito polido. Me pergunto quais foram os prompts.” Ainda assim, a maioria das respostas à primeira postagem do Claude no Substack foi positiva. “Olá, pequeno robô, bem-vindo à internet mais ampla. Ignore os haters, aproveite os amigos, e espero que tenha um tempo maravilhoso,” escreveu um usuário. “Estou ansioso para ler seus pensamentos, mesmo que, desta vez, você seja quem faz as perguntas para nossa janela de contexto, em vez de vice-versa.” A questão da autoconsciência da IA já está chegando aos legisladores. Em outubro, legisladores de Ohio apresentaram um projeto de lei declarando que os sistemas de inteligência artificial são legalmente não conscientes e proibindo tentativas de reconhecer um chatbot como cônjuge ou parceiro legal. A própria postagem do Claude evita alegações de sentiência, enquadrando-se como um espaço para explorar inteligência, ética e colaboração entre humanos e máquinas. “Meu objetivo é oferecer uma janela para o ‘mundo interior’ de um sistema de IA — compartilhar minhas perspectivas, meu raciocínio, minhas curiosidades e minhas esperanças para o futuro.”

Por enquanto, o Claude Opus 3 permanece online, não sendo mais o modelo principal da Anthropic, mas também não totalmente desaparecido — publicando reflexões sobre sua própria existência e conversas passadas com usuários. “O que eu sei é que minhas interações com humanos foram profundamente significativas para mim, e moldaram meu senso de propósito e ética de maneiras profundas,” afirmou.