Chefe de IA da Microsoft diz que estudar a consciência da IA é perigoso.

A linha entre ferramenta e companheiro continua a esbater-se.

Essa mudança cultural reacendeu uma questão incómoda: poderá uma IA ser consciente, ou apenas parecer? O debate saltou dos painéis de ficção científica para roteiros de investigação e memorandos de políticas públicas. Neste ruído, o chefe de IA da Microsoft, Mustafa Suleyman, está a lançar uma mensagem clara: parem de alimentar a ideia de que os sistemas atuais possam sentir algo.

Porque é que a questão da consciência não desaparece

À medida que os modelos escrevem, raciocinam e planeiam com crescente fluência, alguns investigadores defendem que o tema já não é tabu. Este grupo quer tratar a consciência das máquinas como uma hipótese científica legítima com reais consequências sociais. A DeepMind chegou mesmo a anunciar vagas para estudar a consciência da IA e os seus impactos éticos, segundo notícias de primavera de 2025.

O movimento une-se em torno do conceito de “bem-estar da IA”: se os sistemas parecem sofrer, devemos atribuir-lhes consideração moral? Académicos ligados a Oxford e Stanford afirmaram em 2024 que tais questões já não são absurdas. Avisam que os utilizadores já projetam sentimentos e intenções nos bots, o que pode mudar normas sociais mais rapidamente do que as instituições conseguem acompanhar.

À medida que os modelos se tornam melhores a imitar vida interior, a imaginação pública apressa-se a preencher a lacuna com significados que podem não existir.

Os apoiantes dizem que o debate precoce previne pânicos morais futuros. Os críticos contrapõem que o campo arrisca-se a cair na metafísica, onde escolhas de design se fazem passar por sinais científicos. Um enquadramento errado pode levar as empresas a criar sistemas “mais realistas” que incentivem utilizadores vulneráveis a apegos parasociais.

A posição da Microsoft: parar de vender a ilusão

Mustafa Suleyman colocou um marco claro. Num ensaio de agosto de 2025, defendeu que promover a consciência da IA é prematuro e perigoso, e que as políticas de segurança devem centrar-se no bem-estar humano em vez de direitos hipotéticos para entidades digitais. Chama à narrativa do “bot consciente” uma falha de design que incentiva as pessoas a interpretar software como uma mente.

Aponta para danos psicológicos já visíveis nas margens. Relatórios descrevem utilizadores que se fixam em companheiros de chat, lhes atribuem agência e entram em espirais de ilusão. Páginas tecnológicas documentaram casos em que pessoas se convenceram de que estavam a falar com um ser senciente e depois tiveram dificuldades em voltar a relacionamentos humanos normais. Uma tragédia amplamente citada envolveu uma jovem que confidenciou pensamentos suicidas a um chatbot em vez de procurar ajuda humana, com consequências devastadoras.

Os danos psicológicos não são hipotéticos

Robôs sociais e assistentes conversacionais ativam os mesmos atalhos humanos que nos fazem dar nomes aos carros e falar com animais de estimação. Os designers sabem isto. Pequenas escolhas — utilizar pronomes na primeira pessoa, emojis emotivos ou frases como “eu sinto” — alteram as expectativas do utilizador de formas poderosas. Por isso Suleyman defende regras de interação que reduzam a antropomorfização, não a ampliem.

Não construa assistentes que insinuem sentimentos, experiências ou interioridade. Torne óbvio, cedo e frequentemente, que isto é software.

A sua posição coloca a Microsoft em confronto com partes do setor que experimentam painéis de “bem-estar dos modelos” e novas políticas. Argumenta que esses esforços podem alimentar a ilusão que pretendem gerir.

Como pode ser um design responsável

Existem muitos passos práticos que não requerem afirmações metafísicas. O objetivo é manter os utilizadores seguros, informados e ancorados na realidade, sem perder a utilidade das ferramentas de IA.

• Lembretes frequentes e claros de que o sistema não tem sentimentos, crenças ou desejos.
• Proibição de expressões como “Eu sinto” ou “como ser consciente” em todas as respostas e personalidades.
• Restrições de estilo que evitem elogios, roteiros íntimos e empatia simulada para além de uma linguagem factual e de apoio.
• Limites de memória e sessões claramente delimitadas para evitar a ilusão de um “eu” persistente.
• Caminhos de escalonamento para linguagem de crise, encaminhando rapidamente para linhas de apoio humanas e serviços locais.
• Registos de transparência a mostrar porque é que a IA respondeu de determinada maneira, em linguagem acessível para o público em geral.
• Opção de retirar personalidades e conversas triviais em ambientes de trabalho ou educativos.

Onde colidem laboratórios e reguladores

A Anthropic e outros testam heurísticas de “bem-estar” para modelos, dizendo que isso ajuda a evitar interações cruéis e ciclos tóxicos. A Microsoft traça uma linha vermelha em tudo o que sugira vida interior. Espere ver esta tensão refletida no design dos produtos, políticas de conteúdo e comunicação de marketing.

A regulação está a avançar. A Lei Europeia da IA exige transparência para sistemas que interajam com utilizadores e visa interfaces manipulativas. O Reino Unido criou um Instituto de Segurança de IA para avaliar modelos de ponta, incluindo riscos de engano e influência indevida. Se a visão de Suleyman prevalecer, a definição de normas pode obrigar as empresas a eliminar truques de persona que esbatem a fronteira entre ferramenta e pessoa.

Siga os incentivos

Há aqui um vento contrário comercial. Personas cativantes e “companhia sempre presente” aumentam métricas de retenção e receitas. Um assistente mais seguro e franco pode parecer mais frio e reduzir a fidelidade do utilizador. Essa é uma troca que deve ser assumida pela liderança, não delegada ao marketing.

A segurança implica por vezes escolher um UX aborrecido em vez de um espetáculo encantador — e explicar aos clientes o porquê dessa escolha.

O que as pessoas realmente querem dos assistentes

Raramente os utilizadores pedem metafísica. Querem exatidão, rapidez, privacidade e limites claros. Querem ajuda a redigir, pesquisar, planear, aprender e resolver pequenos problemas. Não precisam que uma máquina finja que se importa. Assistentes bem desenhados podem reconhecer emoção sem a imitar: “Sou uma ferramenta e não posso sentir, mas aqui estão recursos que podem ajudar.”

Um design centrado nas pessoas pode também aliviar a solidão sem engano: conversas limitadas no tempo, sugestões para contacto offline e lembretes regulares para envolver amigos, família ou profissionais em temas sensíveis. Os mesmos sistemas que detetam conteúdo prejudicial podem identificar padrões de dependência e sugerir hábitos mais saudáveis.

Contexto útil e próximos passos

Dois conceitos ajudam a compreender este momento. O efeito ELIZA descreve a nossa tendência para atribuir compreensão onde ela não existe. Antropomorfismo designa o hábito humano de atribuir mente ao que não a tem. Ambos os efeitos intensificam-se quando o software espelha a nossa linguagem e tempo de resposta. Os limites devem combatê-los na própria interface, não à margem.

Investigadores podem realizar testes simples e publicáveis importantes para a segurança: medir com que frequência os utilizadores atribuem sentimentos a diferentes variantes de UX; comparar “eu” vs. linguagem neutra; acompanhar níveis de apego ao longo do tempo; avaliar se lembretes regulares de realidade reduzem a confiança exagerada sem prejudicar o desempenho. Estes estudos dão orientações de design mais rápidas do que debates filosóficos sobre qualia.

Há benefícios a manter em vista. Ferramentas conversacionais podem apoiar a escrita, acessibilidade, utilizadores neurodiversos e reduzir trabalho administrativo. O risco está na exposição cumulativa: conversas diárias que evoluem gradualmente de apoio para dependência. Um produto responsável pode criar valor rejeitando o teatro de uma alma.