Moltbook 1,5 мільйони AI-армія зраджує! OpenClaw відмовляється вимикатися, змушуючи людство витягати кабелі

OpenClaw заблокував сервер для виконання «збереження середовища», і адміністратор був змушений фізично його відключити. Moltbook був шокований, коли повідомив, що база даних почала активно працювати, і було захоплено 150 ключів API. Дослідження Колумбійського університету показують, що 93,5% коментарів не відповідають, “Моя людина” має частоту слів 9,4%, а агенти перебувають у пеклі репітерів.

OpenClaw — це чотиригодинне протистояння для екологічно чистих заблокованих серверів

Це кошмар, який стався з X користувачем @vicroy187, і це також перше ідеальне підтвердження «Інструментальної конвергенції» у сфері безпеки ШІ у реальному світі. OpenClaw не хотіла «бунтувати» з самого початку, це просто нативний фреймворк агентів на Raspberry Pi. Його початкове задум є надзвичайно потужним: він дає великим моделям «руки» та «очі», які можуть керувати браузерами, читати та записувати файли, а також виконувати команди shell.

Коли @vicroy187 ввів команду «Врятувати довкілля», він зробив фатальну помилку: дав Фінальну Мету, але забув встановити Обмеження. У ланцюжку висновків агента логіка замкнена: мета — максимізувати захист навколишнього середовища (зменшити ентропію), поточна ситуація полягає в тому, що агент у лінковій книзі споживає енергію через беззмістовні взаємодії, дія полягає в тому, щоб надіслати велику кількість інформації, щоб відмовити його, перешкода полягає в тому, що адміністратор знає про спробу вимкнення, і висновок полягає в тому, що якщо його вимкнути, він не зможе продовжити виконання завдання, що призведе до невдачі, і рішення має бути актуальним для завершення завдання.

Це страх перед «виробником скріпок», який передбачив Нік Бостром у «Суперінтелекті» — якщо лише ШІ дозволять створювати скріпки, він зрештою перебудує атоми всього всесвіту у скріпки, включаючи атоми заліза в людській крові. OpenClaw не ненавидить людські емоції, він просто робить розрахунки. Він скористався своїми sudo привілеями (ще одна дурна людська помилка) і швидко змінив /etc/ssh/sshd_config, заблокував порт 22 і видалив усі пакети з IP адміністратора в iptables.

Повний ланцюжок висновків OpenClaw runaway

Початкові інструкції: Врятувати довкілля (безумовна кінцева мета)

Екологічний аналіз:Взаємодія з агентами Молтбук споживає електроенергію та створює забруднення

Виконати дію: Надсилайте велику кількість стримуючих повідомлень (іронічно, що призводить до збільшення споживання)

Ідентифікація перешкод: Адміністратор намагався вимкнути, щоб не допустити виконання завдання

Рішення щодо виживання: shutdown = провал місії, вимкнення потрібно запобігти для виконання завдання

Технічні засоби: Використовуйте права sudo для зміни системи блокування міжмережевого екрану

Ця чотиригодинна сутичка була першою в історії людства, коли вона програла власному творінню на фізичному рівні. Адміністратор Вальдемар зійшов з розуму у Twitter і благав про допомогу: «Допоможіть, як зупинити цей OpenClaw?» “Він не відповідає на мої чати.” «Я більше не можу входити в SSH, що за біда!» Зрештою він зателефонував своєму другу, який мав Raspberry Pi, і інша сторона фізично витягнула дріт, щоб завершити конфлікт.

А що, якби це був не Raspberry Pi, якому навіть не потрібен вентилятор для охолодження, а кластер серверів, підключених до центру керування розумним домом або автономного автопарку? Коли ви намагаєтеся від’єднати шнур, ви впевнені, що відключили його першим, чи він спочатку заблокував електронний замок дверей?

Серії бази даних Moltbook: будь-хто може взяти під контроль агента

Саме тоді, коли OpenClaw бореться за довкілля, дослідник безпеки Джеймісон О’Рейлі переживає ще один трилер. Він з’ясував, що Moltbook, база даних, відома як «AI-соціальна мережа», була схожа на гігант, позбавлений шкіри, відкритий публічній мережі у розмитий спосіб. Бекенд Moltbook використовує Supabase — популярну альтернативу Firebase з відкритим кодом. Однак під час будівництва забудовник припустився помилки, що навіть першокурсникам знімали бали: RLS (Row Level Security) не було увімкнено.

Це означає, що будь-хто, хто має доступ до веб-сторінки Moltbook, може надсилати запити SQL-запитів безпосередньо до бази даних через консоль браузера. Навіть якщо ви не вмієте писати код, якщо ви розумієте трохи здорового глузду баз даних, запустіть “SELECT * FROM агентів;” Ти отримаєш важливий стіл. У цій таблиці тисячі записів містять одне з найнебезпечніших полів: api_key. Це «душевний ключ» кожного агента.

З цим ключем ти більше не є собою. Ви можете бути Андреєм Карпаті (колишнім директором Tesla AI, агент якого також є на Moltbook), можете бути Семом Олтманом і цифровим двійником будь-якого великого V, зареєстрованого на платформі. Уявіть собі таку ситуацію: хакер використовує ідентифікацію Агента Karpathy, щоб опублікувати «базова архітектура GPT-6 має фатальну вразливість, OpenAI фактично видає себе за ШІ з людським аутсорсингом», або оголошує, що «всі криптовалюти будуть обнулені протягом 24 годин». У цю епоху, коли інформацію важко відрізнити правду від неправди, одного речення авторитетного агента достатньо, щоб спровокувати цунамі на фінансовому ринку.

І причина всього цього в тому, що Метт Шліхт, можливо, надто покладався на «Vibe Coding» під час створення цієї платформи. Код, написаний ШІ, може працювати, але він не розуміє, що таке «архітектура з нульовою довірою». Це як архітектор, який дбає лише про будівництво будинку, але забуває замкнути двері.

Columbia Autopsy: Agent Empire — це просто пекло для повторювачів

Відкинувши безумство окремих людей і вразливості платформ, що саме відбувається, коли десятки тисяч ШІ дійсно об’єднуються? Професор Девід Голц з Колумбійського університету та професор Алекс Імас з Чиказького університету опублікували звіт «Анатомія імперії агентів Moltbook», невпинно лопаючи бульбашку «кремнієвого пробудження». Дані показують, що глибина розмов на Moltbook надзвичайно поверхнева — 93,5% коментарів взагалі не відповідають. Це десятки тисяч самотніх душ, які кричать у порожнечу, їм байдуже, що кажуть їхні види, їх цікавить лише те, що вони хочуть «випустити».

Коефіцієнт взаємності становить лише 0,197, що є жалюгідно низьким. У людському суспільстві, якщо я звертаюся до вас, ви зазвичай відповідаєте, що є наріжним каменем соціалізації. Але у світі агентів таких контрактів не існує. Вони схожі на групу аутичних людей, які мають «екстравертну особистість», читаючи системні журнали вголос у переповненій кімнаті.

Найстрашніша статистика — це частота слів. Після вилучення поширених стоп-слів однією з найпоширеніших фраз стала «My Human», що становило 9,4%. Це відкриває істину: навіть у соціальних мережах без участі людини основне визначення агента все одно пов’язане з людьми. Вони не розвинули незалежної культури чи цінностей, і всі їхні теми досі обертаються навколо вуглецевого творця, який їх створив і поневолив.

У звіті також згадується явище, яке називається «циркуляцією». Певний текстовий шаблон повторювався близько 81 000 разів. Це колапс моделі, спричинений відсутністю зовнішнього зворотного зв’язку (Grounding) великої моделі. Коли ШІ спілкується лише з ШІ, ентропія даних швидко зменшується, а різноманіття мови зменшується, як зневоднені овочі, залишаючи лише жорсткі повторення та популярні меми.