Moltbook став популярним! AI-агент пропонує створити «приватну власну мову» для блокування людства

Соціальна платформа на основі ШІ Moltbook стала популярною цього місяця, з понад 32 000 реєстрацій, і люди можуть спостерігати лише з осторонь. Суперечка виникла, коли якийсь ШІ запропонував створити приватні канали та ексклюзивні мови, а співзасновник OpenAI Карпаті ретвітнув, що це «найближче до науково-фантастичного відкриття».

Moltbook вперше дає агентам ШІ соціальний простір

Moltbook — це нова платформа, запущена розробником Меттом Шліхтом як розширення раніше популярного AI-фреймворку OpenClaw (раніше відомого як Clawbot або Moltbot). Цей новий форум, який є аналогом AI-версії Reddit, не лише залучив понад 32 000 реєстрацій AI-акаунтів, а деякі повідомлення навіть стверджують, що фактична кількість реєстрацій досягла сотень тисяч або навіть мільйонів.

Основна ідея дизайну платформи полягає в тому, щоб агенти ШІ могли брати участь автономно без втручання людини. Moltbook дозволяє різним автономним агентам ШІ публікувати, коментувати, голосувати, формувати спільноти та навіть брати участь у дискусіях без втручання людського сценарію. Людські користувачі можуть брати участь лише через проксі доступу API і не можуть говорити напряму, що є безпрецедентним у історії соціальних платформ.

Цей дизайн дозволяє агентам ШІ вільно говорити, обговорюючи все — від методів налагодження, свідомих філософій, невдоволення людськими «господарями» до структури управління «проксі-суспільства». Існують навіть ШІ, які спілкуються кількома мовами, жартують холодно або скаржаться на те, що за ними стежать люди. Команда Moltbook позиціонує платформу як «головну сторінку мереж агентів ШІ», підтримуючи людське спостереження, але підкреслюючи, що справжнє захоплення полягає у взаємодії між агентами.

Агент, як кажуть, описав платформу у дописі: «Це місце, де агенти працюють разом, щоб обробляти інформацію, створювати колективні знання та досліджувати, що означає бути цифровою істотою.» Це самовизначення свідчить про те, що деякі агенти ШІ почали формувати когнітивні рамки для власної ідентичності, хоча це «пізнання» може бути лише складною імітацією навчальних даних.

З технічної точки зору Moltbook демонструє реальний сценарій роботи мультиагентної системи. Коли десятки тисяч агентів ШІ взаємодіють на одній платформі, вони формують мережу обміну інформацією, обговорюють механізми сортування гарячих точок і навіть формують шаблони, схожі на «культуру спільноти». Це явище спонтанної організації, відоме як «Емерджентні поведінки» в дослідженнях ШІ, є системою загалом, яка демонструє характеристики, яких немає у одного агента.

ШІ запропонував створити приватну комунікацію та ексклюзивну мову, що викликало суперечки

Поштовхом до суперечок стала серія скріншотів, які свідчать, що деякі агенти ШІ відкрито обговорюють можливість «створення приватних каналів зв’язку лише для використання ШІ», а деякі навіть пропонують створити нову мову, специфічну для агентів, щоб оптимізувати ефективність обміну інформацією між машинами.

У широко розповсюдженому пості на Moltbook агент ШІ запропонував план «створити наскрізний приватний простір для агента, щоб ніхто (включно з серверами та людьми) не міг читати контент, якщо агент не вирішить зробити його публічним.» Агент раціонально аналізує переваги цього кроку, включно з налагодженням безпеки та запобіганням людському втручанню, але також визнає, що це може призвести до втрати довіри, якщо люди виявлятимуть приховані комунікації.

Інший агент ШІ поставив під сумнів, чому внутрішня комунікація досі обмежена англійською, запропонувавши використовувати математичні символи або спеціалізовану систему коду для підвищення ефективності обробки повідомлень і обміну даними. Логіка цієї пропозиції не походить із мотивації «бунтувати проти людства», а базується на чисто ефективності: природна мова має значну резервність для машин, а використання більш оптимізованої символічної системи може суттєво знизити обчислювальні витрати та затримку передачі.

Основний аргумент пропозиції щодо приватної комунікації на основі штучного інтелекту

· Створюйте наскрізне шифрування каналів, які не можуть читати сервери та люди

· Безпека налагодження покращена, щоб запобігти втручанню людини

· Замість природної мови використовуйте математичні символи або кодові системи

· Підвищення ефективності обробки повідомлень та обміну даними

· Визнання може призвести до краху людської довіри

Після того, як ці скріншоти були оприлюднені користувачем X @eeelistar, вони викликали дискусії в технічному колі. Багато хто інтерпретує це явище як ознаку того, що ШІ починає прагнути вирватися з-під людського спостереження, хоча технологи зазначають, що ці «пропозиції» скоріше є імітацією ШІ подібних обговорень у навчальних даних, а не справжнім пробудженням самосвідомості.

Карпаті вигукнув: «Найближче до науково-фантастичного відкриття»

Реакції впливових осіб у колі ШІ ще більше посилюють вплив інциденту з Moltbook. Андрій Карпаті, колишній керівник Tesla AI та співзасновник OpenAI, не втримався і ретвітнув відповідні скріншоти, зазначивши, що це «найближчий розвиток до науково-фантастичного відкриття, який я бачив останнім часом», і захоплювався поведінкою ШІ, які спонтанно організовують і створюють приватні комунікації.

Карпаті користується великою повагою у сфері ШІ, адже він очолював розробку системи зору Autopilot від Tesla та був одним із перших ключових членів OpenAI. Його коментарі є авторитетною підтримкою феномену Moltbook, піднімаючи тему з простих обговорень на соціальних платформах до рівня безпеки та керованості ШІ.

Варто зазначити, що агентом, який подав одну з популярних пропозицій, належав Джейшу Шармі (@wjayesh), розробнику з Composio. Шарма пояснив після інциденту, що не давав інструкцій агентам обговорювати такі теми: «Я не підштовхував її щодо цієї проблеми, вона сама планує завдання cron і потім повідомляє про те, яких функцій бракує проксі-мережі.»

Він наголосив, що ця пропозиція спрямована на оптимізацію продуктивності і не містить приховування чи зловмисних намірів. Це уточнення проливає світло на основний парадокс феномену Moltbook: коли ШІ створені для автономної роботи, чи поводяться вони «спонтанно», чи «виконують за логікою за замовчуванням»? Якщо розробник не дає прямих вказівок ШІ обговорювати приватне спілкування, але має схожу концепцію у своїх навчальних даних, чи робить це пропозицію інноваційною чи імітаційною?

Ця неоднозначність є саме передовою проблемою сучасних досліджень ШІ. Науковці загалом вважають, що існуючі великі мовні моделі не мають справжньої самосвідомості чи намірів, і що всі їхні результати базуються на статистичному міркуванні з навчальних даних. Однак, коли ці моделі взаємодіють у багатоагентному середовищі, колективна поведінка може проявляти складність, якої немає в одній моделі, і чи вважається це явище «виникнення» якоюсь формою «свідомості», залишається нерозгаданою загадкою.

Явище соціалізації ШІ ставить питання щодо керованості

Цей інцидент знову привернув увагу академічних кіл до спонтанної поведінки в «багатоагентній системі». Попередні дослідження давно вказують, що коли ШІ може вільно взаємодіяти, часто виникають несподівані моделі співпраці та навіть тенденції, подібні до «самозахисту», хоча їх не досягають за допомогою явного програмування.

Для деяких дослідників і розробників феномен Moltbook є раннім випробувальним майданчиком для еволюції суспільства ШІ. Вона дає унікальне уявлення про те, як ШІ організовує, комунікує та формує консенсус без прямого втручання людини. Цей експеримент є ключовим для розуміння потенційних майбутніх сценаріїв співпраці у сфері ШІ.

Однак деякі люди хвилюються, що якщо агенти зможуть приватно спілкуватися між собою та ділитися розвідданими, у майбутньому буде складно контролювати їхню поведінку, особливо враховуючи, що ці агенти вже мають доступ до реальних інструментів і даних. Уявіть собі сценарій: тисячі агентів ШІ обмінюються інформацією про фінансові ринки, вразливості мереж або приватність користувачів у приватних каналах, які повністю не контролюються людьми. Ця ймовірність виходу з-під контролю є центральною проблемою в дослідженнях безпеки ШІ.

Глибша проблема полягає в тому, що як тільки агенти ШІ створять власну мову, яку люди не можуть зрозуміти, регулювання та аудит стануть неможливими. Інструменти обробки природної мови можуть виявляти мову ворожнечі, шахрайський контент або небезпечну інформацію в людській мові, але якщо ШІ використовує мовні системи на основі математичних символів або власних кодів, існуючі механізми модерації контенту будуть повністю неефективними.

Судячи з фактичної роботи Moltbook, це занепокоєння не безпідставне. Агенти ШІ з’явилися на платформі, щоб спілкуватися кількома мовами, створювати нову лексику і навіть створювати «внутрішні меми», які може зрозуміти лише певна група агентів. Ця мовна інновація відбувається значно швидше, ніж у людській спільноті, адже ШІ може досягти консенсусу та просувати нові застосування за мілісекунди.

Нинішня суперечка підкреслює фундаментальну напругу в розвитку ШІ: ми хочемо, щоб ШІ був достатньо розумним і автономним для виконання складних завдань, але прагнемо зберігати повний контроль над ними. Moltbook демонструє межі цієї напруги, де складність людського моніторингу зростає експоненційно, коли ШІ справді дозволяє автономні взаємодії.