Історія штучного інтелекту: п’ять проривів у розумності

Кожен прорив походить від нової перебудови мозкової анатомії,

і надає тваринам новий набір інтелектуальних властивостей.

Нижче наведено основні факти про те, як еволюціонують різні рівні інтелекту:

Перший прорив: орієнтація (ухил від шкоди)

Біологічний рівень: перші двобічно-симетричні тварини (наприклад, предки ниткоподібних червів) 5.5 мільярдів років тому.

Анатомічна основа: з’явився перший мозок (кілька сотень нейронів) та симетрична структура тіла.

Інтелектуальні характеристики:

Валентність (Valence): поділ світу на «добре» та «погане»,

що породжує первинні рішення щодо наближення або уникнення.

Базова навігація: здатність орієнтуватися за концентрацією хімічних сигналів,

уникати небезпек (висока температура,

яскраве світло) і рухатися до їжі.

Первинні емоції: еволюція ранніх функцій дофаміну та серотоніну,

які позначають сигнали «чудово близько» та «чудово відбувається».

Другий прорив: підкріплювальне навчання

Біологічний рівень: перші хребетні тварини 5 мільярдів років тому (наприклад, первісні риби, схожі на міног).

Анатомічна основа: сформувалися шість основних структур сучасного мозку (базальні ганглії,

таламус,

гіпоталамус,

середній мозок,

задній мозок,

первинна кора).

Інтелектуальні характеристики:

Навчання методом проб і помилок: еволюція базальних ганглій,

використання дофаміну як сигналу «часової різниці» для навчання,

що дозволяє тваринам вчитися складним послідовностям дій через спроби,

а не лише рефлекси.

Цікавість: радість сама по собі стає сигналом підкріплення,

спонукає тварин досліджувати нове середовище.

Розпізнавання шаблонів: з’явилася первинна кора,

яка дозволяє мозку розпізнавати конкретні запахи або візуальні шаблони,

більше не залежачи лише від одного стимулу.

Третій прорив: моделювання та планування

Біологічний рівень: ранні ссавці (наприклад, дрібні ссавці, що жили в норах у часи динозаврів).

Анатомічна основа: з’явилася нова кора (неокортекс).

Інтелектуальні характеристики:

Внутрішнє моделювання: неокортекс надає тваринам здатність виконувати «внутрішнє моделювання» перед дією,

тобто репетирувати різні можливості у голові.

Повільне мислення: перехід від реактивної поведінки до планування,

здатність зважувати різні уявні результати та робити вибір,

що відповідає «системі 2» у психології.

Четвертий прорив: теорія розуму (мозкова теорія)

Біологічний рівень: примати.

Інтелектуальні характеристики:

Соціальне моделювання: здатність імітувати наміри,

думки та емоції інших (тобто теорія розуму),

що дозволяє складні соціальні взаємодії та «політичне маніпулювання».

Моделювання навчання: здатність розуміти наміри за діями інших,

швидко засвоювати навички через імітацію,

без необхідності кожного разу проходити через проби і помилки.

П’ятий прорив: мова та абстрактне мислення

Біологічний рівень: людина.

Інтелектуальні характеристики:

Символьна система: мова — це не лише засіб спілкування,

а й система соціальних символів,

яка дозволяє людині безпосередньо передавати складні уявлення або моделі.

Культурна передача: мова робить знання не обмеженими особистим досвідом,

а також прискорює еволюцію думки, виходячи за межі біологічної швидкості,

сприяючи виникненню людської цивілізації.

$Google(GOOGL)$

Критика та потенційні обмеження

Хоча «Коротка історія інтелекту» (A Brief History of Intelligence) отримала похвалу від таких учених, як Даніель Канеман (Daniel Kahneman), за свій масштабний погляд і міждисциплінарну інтеграцію,

з точки зору еволюційної біології,

нейронауки та штучного інтелекту (ШІ),

у книзі також звучать критичні зауваження та потенційні обмеження:

1. Спір щодо спрощення рамки «п’яти проривів»

Критики вважають,

що Беннет спрощує складну еволюційну історію тривалістю 6 мільярдів років до «п’яти стрибкоподібних проривів», що полегшує поширення,

але має сильний **телеологічний** відтінок.

Еволюція не сходинка: у біології поширена думка,

що еволюція — це не сходинка до «людського інтелекту», а дерево, що розгалужується у всі боки.

Зайве спрощення: у книзі функції складних мозкових зон та їх еволюційні стадії тісно пов’язані (наприклад, повністю ототожнювати нову кору з моделлю та плануванням),

що може бути надто спрощеним з точки зору нейронауки.

Насправді,

між старими зонами (наприклад, базальними гангліями) і новими зонами (неокортексом) існує висока ступінь складної взаємодії,

а не просто «додавання модулів».

2. Спір щодо «шляху імітації еволюції» ШІ

Беннет натякає у книзі,

що для досягнення справжнього загального штучного інтелекту (AGI),

шлях розвитку ШІ має імітувати п’ять етапів еволюції (тілесність,

підкріплювальне навчання,

моделювання тощо).

Проблеми обчислювальної ефективності: критики вказують,

що ШІ не обов’язково має імітувати біологічний шлях для перевершення людини.

Як літак може літати вище за птахів без махання крил,

архітектури трансформерів на основі великих даних (наприклад, GPT-4),

уже демонструють високі можливості у логіці та мові без проходження «п’яти проривів».

Ігнорування біологічних переваг: існує думка,

що надмірне наголошення на «біологічному походженні» може ігнорувати унікальні переваги кремнієвих форм життя (наприклад, надвисока обчислювальна потужність,

безмежна пам’ять і миттєвий обмін знаннями),

обмежуючи уявлення про потенціал ШІ.

3. Обмеження «мови» як останньої лінії оборони

У книзі мова та абстрактне мислення вважаються вершинами людського інтелекту та останнім проривом.

Вплив LLM: з появою великих мовних моделей (LLM),

люди виявили, що мовні здібності, здається, «виникають» із масивних текстових статистик,

без необхідності складних соціальних моделей та теорії розуму.

Це кидає виклик тезі, що «мова має базуватися на соціалізації та моделюванні розуму».

4. Втрата глибини міждисциплінарних досліджень

Оскільки книга охоплює палеобіологію,

нейроанатомію,

психологію та інформатику,

деякі фахівці в галузі вважають, що у деталях вона недостатньо строгий:

Анатомічні деталі: нейробіологи вказують,

що опис функцій деяких мозкових зон у книзі більше схиляється до «функціональної локалізації»,

і ігнорує все більш важливу концепцію «розподілених мереж» у сучасній нейронауці.

Редагування історії ШІ: щоб відповідати еволюційній лінії,

у книзі менше обговорюється історія розвитку ШІ, що не відповідає цій логіці (наприклад, символічна логіка).

5. Стурбованість людським центромізмом

Хоча Беннет наголошує на еволюції інтелекту,

все ж оповідь у книзі залишається «від простих істот до складних людей»,

що критикують деякі екологічні філософи як **«людське центрування»**.

Ця точка зору може створити враження, що інтелект інших істот (наприклад, восьминогів або воронових) — це лише проміжний етап до людського інтелекту,

ігноруючи їхню високоспеціалізовану еволюцію.

Підсумок: «Коротка історія інтелекту» вважається чудовою **«великою історією»**,

успішною у популяризації та міждисциплінарних ідеях.

Але для дослідників, що прагнуть максимальної точності,

вона більше схожа на проникливу «гіпотезу», ніж на абсолютний науковий висновок.

Її найбільша цінність — нагадати розробникам ШІ: інтелект — це не лише обчислення,

а й довготривалий досвід життя у складних умовах для вирішення проблем виживання.