Pesquisadores da Microsoft publicam artigo: se o ChatGPT tem consciência, as cabras do Age of Empires 2 também têm.

O cientista-chefe da Microsoft, Adrian de Wynter, em seu artigo acadêmico intitulado "Se os Grandes Modelos de Linguagem têm Características Humanas, então Age of Empires II também tem", usou o editor de mapas personalizados de Age of Empires II para construir um perceptron de 1 bit usando cabras, grama e pontes do jogo, argumentando que a lógica computacional subjacente de modelos de linguagem de grande porte (LLM) como o ChatGPT é essencialmente a mesma do mecanismo de gatilho das cabras no jogo.

Implementação técnica da rede neural em Age of Empires II: os papéis computacionais da grama, pontes e cabras

(Fonte: Captura de tela do CryptoCity)

Wynter utilizou a função de gatilho de cenário personalizado de Age of Empires II para construir uma porta NAND usando elementos do jogo: grama representa o dígito 0, pontes representam o dígito 1, e as cabras atuam como bits. Quando a porta lógica é acionada, as cabras que servem como sinal de entrada são removidas e novas cabras são geradas na trilha de saída.

Através desse mecanismo, Wynter implementou um perceptron de 1 bit no jogo, o bloco de construção mais básico das redes neurais modernas. Wynter afirma que essa rede impulsionada por cabras é essencialmente idêntica à tecnologia subjacente que impulsiona o ChatGPT, diferenciando-se apenas em complexidade e escala.

Estatísticas de viés de antropomorfismo de Wynter em 300 artigos de ciência da computação

Em seu artigo, Wynter analisou mais de 300 artigos de ciência da computação dos últimos dois anos e revelou os seguintes números:

· 57% dos artigos, desde o início do design experimental, pressupuseram que os LLMs possuem características humanas como ansiedade ou moralidade

· Entre os artigos que pressupunham a existência dessas características, 77% concluíram que as características realmente existem

· Wynter classifica esse resultado como viés de confirmação, argumentando que a suposição inicial de antropomorfismo dos pesquisadores influenciou diretamente a conclusão científica final

· Wynter pede que a comunidade científica adote a hipótese nula, que não pressupõe características humanas, para realizar experimentos.

O discurso comercial dos gigantes de IA e o mecanismo de mercado da antropomorfização de LLMs

Wynter aponta que as estratégias de negócios das empresas de IA reforçam a percepção pública da consciência dos LLMs. Ele menciona que os consumidores tendem a pagar mais quando conseguem se identificar com um produto, princípio que se aplica desde torradeiras até assinaturas de LLMs.

Wynter cita três casos em seu artigo: o CEO da OpenAI, Sam Altman, sugeriu repetidamente que construir LLMs é um caminho para uma "IA divina"; o ex-cientista da OpenAI, Ilya Sutskever, conversou com funcionários sobre considerar os modelos da empresa como uma "consciência divina"; o CEO da Anthropic, Dario Amodei, disse à mídia que "não é possível determinar se a IA tem consciência". Todas essas afirmações foram citadas por Wynter em seu artigo, não sendo interpretações pessoais de Wynter sobre a posição dos três.

Perguntas frequentes

Wynter construiu um modelo de IA completo em Age of Empires II?

Wynter implementou no jogo um perceptron de 1 bit, o bloco de construção mais básico das redes neurais modernas, e não um modelo de IA completo. O objetivo do artigo é demonstrar que a mesma lógica computacional subjacente existe tanto no mecanismo de gatilho das cabras do jogo quanto na tecnologia subjacente do ChatGPT, ilustrando que a percepção de características humanas no ChatGPT vem principalmente da interface textual e das expectativas psicológicas.

O que significam as estatísticas de 57% e 77%?

De acordo com a análise estatística do artigo de Wynter, entre mais de 300 artigos de ciência da computação dos últimos dois anos, 57% pressupunham que os LLMs possuem características humanas como ansiedade ou moralidade; desses artigos, 77% concluíram que as características realmente existem. Wynter interpreta isso como viés de confirmação — a suposição inicial dos pesquisadores influenciou diretamente o design experimental e a conclusão científica final.

Como o escritor de ficção científica Ted Chiang descreve o problema da antropomorfização excessiva dos LLMs?

De acordo com a citação do artigo, Ted Chiang escreveu que acreditar cegamente que os modelos de linguagem têm consciência é como acreditar que, cada vez que você abre um arquivo do Microsoft Word, desperta múltiplos indivíduos ocultos em registros de diálogo, usando essa metáfora para ilustrar que a percepção antropomórfica dos LLMs é uma ilusão cognitiva.