Дослідники Microsoft опублікували статтю: якщо ChatGPT має свідомість, то й козел з Age of Empires 2 теж має.

У науковій статті головного наукового співробітника Microsoft Адріана де Вінтера під назвою «Якщо великі мовні моделі мають людські риси, то Age of Empires 2 теж їх має» дослідник використовував редактор карт Age of Empires 2, щоб побудувати 1-бітовий перцептрон за допомогою кіз, трави та мостів у грі, таким чином аргументуючи, що основна обчислювальна логіка таких великих мовних моделей (LLM), як ChatGPT, по суті однакова з механізмами спрацьовування кіз у грі.

Технічна реалізація нейронної мережі в Age of Empires 2: обчислювальна роль трави, мостів і кіз

(Джерело: скріншот CryptoCity)

Вінтер використав функцію користувацьких тригерів ситуацій у Age of Empires 2, щоб побудувати логічний елемент NAND з ігрових елементів: трава представляє цифру 0, міст — цифру 1, а кози виконують роль бітів. Коли логічний елемент спрацьовує, коза, яка виступає вхідним сигналом, видаляється, а на вихідній доріжці з'являється нова коза.

За допомогою цього механізму Вінтер реалізував у грі 1-бітовий перцептрон — найпростіший будівельний блок сучасної нейронної мережі. Вінтер заявив, що ця мережа, керована козами, по суті є ідентичною технології, що лежить в основі ChatGPT, і відрізняється лише складністю та масштабом.

Статистика упереджень антропоморфізму Вінтера щодо 300 комп'ютерних наукових статей

Вінтер проаналізував понад 300 комп'ютерних наукових статей за останні два роки і виявив такі цифри:

• 57% статей ще на етапі планування експерименту апріорно припускали, що LLM мають такі людські риси, як тривожність або мораль.
• Серед статей, які робили такі апріорні припущення, 77% зрештою дійшли висновку, що ці риси справді існують.
• Вінтер охарактеризував цей результат як підтверджувальне упередження, вважаючи, що початкові антропоморфні припущення дослідників безпосередньо вплинули на остаточні наукові висновки.
• Вінтер закликав наукову спільноту проводити експерименти, використовуючи нульову гіпотезу, яка не припускає людських рис.

Комерційні наративи AI-гігантів та механізми ринку антропоморфізації LLM

Вінтер зазначив, що комерційні стратегії AI-компаній посилюють уявлення громадськості про свідомість LLM. Він згадав, що споживачі схильні платити більше, коли можуть ідентифікувати себе з продуктом, і це правило застосовується як до тостерів, так і до підписок на LLM.

У статті Вінтер навів три приклади: генеральний директор OpenAI Сем Альтман неодноразово натякав, що створення LLM є шляхом до «божественного AI»; колишній науковець OpenAI Ілля Суцкевер обговорював із співробітниками сприйняття моделі компанії як «божественної свідомості»; генеральний директор Anthropic Даріо Амодеї заявив ЗМІ, що «не можна визначити, чи має AI свідомість». Всі ці твердження цитуються у статті Вінтера і не є його особистою інтерпретацією позицій цих трьох осіб.

Поширені запитання

Чи створив Вінтер повноцінну модель AI у Age of Empires 2?

Вінтер реалізував у грі 1-бітовий перцептрон — найпростіший будівельний блок сучасної нейронної мережі, а не повноцінну модель AI. Метою статті є демонстрація того, що однакова основна обчислювальна логіка існує як у механізмах спрацьовування кіз у грі, так і в основі технології ChatGPT, тим самим пояснюючи, що сприйняття людьми антропоморфних рис ChatGPT здебільшого походить від текстового інтерфейсу та психологічних очікувань.

Що означають статистичні дані 57% і 77%?

Згідно зі статистичним аналізом у статті Вінтера, серед понад 300 комп'ютерних наукових статей за останні два роки 57% статей апріорно припускали, що LLM мають такі людські риси, як тривожність або мораль; серед цих статей 77% зрештою дійшли висновку, що ці риси справді існують. Вінтер інтерпретує це як підтверджувальне упередження — початкові припущення дослідників безпосередньо вплинули на дизайн експерименту та остаточні наукові висновки.

Як письменник-фантаст Тед Чан описує проблему надмірної антропоморфізації LLM?

Згідно з цитатою у статті, Тед Чан у своїй роботі зазначив, що сліпо вірити, ніби мовні моделі мають свідомість, — це все одно, що вірити, ніби кожного разу, відкриваючи файл Microsoft Word, ви пробуджуєте кількох індивідів, захованих у журналі діалогу. Ця аналогія ілюструє, що антропоморфне сприйняття LLM є когнітивною ілюзією.