Один 20-річний юнак із Техасу стоїть на вулиці в районі Russian Hill у Сан-Франциско, кидає пляшку з гасом у дім Семі Альтмана. Запалювальна суміш відбивається від головних дверей, розбивається й спричиняє невелике займання, а під час арешту на тілі підозрюваного знаходять записку, де вказані імена та адреси проживання багатьох керівників у сфері ШІ.
(Передісторія: У помешканні керівника OpenAI Сема Альтмана кинули запальну суміш! Уночі він написав допис із роздумами: AGI — це наче «Володар перснів», а влада в ШІ має бути демократизована)
(Додатковий контекст: Сем Альтман дивиться на майбутнє ШІ через призму досвіду новачка-папи: на горизонті з’являться гуманоїдні роботи — ви підготовлені?)
Зміст статті
Перемикач
- Місце злочину
- Заява, написана для Altman
- Хто такий підозрюваний?
- Ще один постріл у неділю зранку
- Нічна половина безсонної доби Сема Альтмана
- Наратив як зброя
О 3:00 ранку в Сан-Франциско, район Russian Hill: вулиці тихі, наче листівка із пейзажем. Бо це, зрештою, елітний житловий квартал.
Ніхто не бачив, як молодий чоловік прямує туди. Лише камера спостереження зафіксувала, як 20-річний юнак іде з північного боку Chestnut Street, підходить до металевих вхідних дверей однієї з осель і кидає пляшку, яку тримає в руках. Це була проста запалювальна пляшка з гасом усередині, з ватою як гнітом. Правила фізики змусили її відскочити від дверей, а потім загорітися. Це було лише невелике займання, ніхто не постраждав.
А власник цього будинку — Sam Altman.
Місце злочину
Матеріали судового провадження відтворили маршрут підозрюваного в ту ніч — читається, ніби закадровий текст до дешевенького трилера.
О 3:37 ранку запалювальну пляшку кидають. Невелике займання спалахує назовні, і адреса Альтмана не зазнає значніших руйнувань.
Через 84 хвилини та сама людина з’являється біля штаб-квартири OpenAI за кілька кілометрів звідси.
Близько 5:00 ранку камери фіксують, як він піднімає стілець і б’є ним по скляних дверях будівлі. Коли охорона прибуває на місце, він каже одну фразу: він хоче спалити цю будівлю і вбити всіх, хто в ній перебуває.
Поліція затримує його на місці. Речі, які виявили на ньому, підняли цю історію з рівня «нічної навали через психічні проблеми» до зовсім іншого щабля, адже в нього при собі був каністр гасу, синій запальничка, додатковий запалювальний пристрій і незареєстрований пістолет.
І ще — паперова документація.
Заява, написана для Altman
Федеральний обвинувальний акт посилається на ці документи, розділені на дві частини: перша має заголовок «Your Last Warning».
У ній стверджується, що автор «вбив або намагався вбити» Sam Altman, і він визнає намір здійснити дії. Далі йде список: імена та адреси проживання кількох керівників компаній у сфері ШІ, членів наглядових рад і інвесторів.
У обвинувальному акті використано слово «hit list» — список для вбивств.
У документі є заклик до інших приєднатися до його «руху», а решта другої частини присвячена твердженням про загрозу вимирання людства через ШІ. Наприкінці є фраза, адресована безпосередньо Altman:
«Якщо ти дивом залишишся живим, я вважатиму це сигналом від Бога, щоб ти міг/могла самостійно спокутуватися».
Це вбивство з причин, що дуже схожі на релігійні.
Хто такий підозрюваний?
Daniel Alejandro Moreno-Gama, 20 років, родом із передмістя Х’юстона Spring, місцевості під назвою The Woodlands.
20 років. Федеральний прокурор Craig Missakian висунув дві статті про замах на вбивство (сам Sam Altman + один працівник служби безпеки) та про замах на підпал. Федеральні звинувачення включають умисне пошкодження майна вибуховими речовинами та володіння незареєстрованою вогнепальною зброєю.
У понеділок 13 квітня зранку ФБР провело обшук у помешканні підозрюваного, пробувши там кілька годин, а потім пішло. Агента-спецуповноваженого ФБР Matt Cobo на брифінгу сказав:
«Це не злочин із спонукання. Це — сплановане, з чіткою метою, і надзвичайно серйозне».
Директор ФБР Kash Patel особисто координував операцію в Техасі. Прокурор Missakian додав ще одну фразу — з рідкісною для прокурорів прямотою: «Якщо докази покажуть, що Moreno-Gama здійснював ці напади, щоб змінити державну політику або залякати посадовців уряду, ми висуватимемо звинувачення за статтею про внутрішній тероризм».
Внутрішній тероризм — так уперше назвали «підрив розвитку ШІ» цим словом.
Ще один постріл у неділю зранку
Ця історія не завершилася у п’ятницю.
12 квітня, у неділю зранку: Honda sedan повільно проїжджає повз Russian Hill на Chestnut Street. Перед будинком Альтмана водій здійснює розворот назад і відкриває стрілянину по будинку.
Згодом затримують двох підозрюваних, зокрема Amanda Tom, 25 років; Muhamad Tarik Hussein, 23 роки.
Оголошення поліції було обережним і лаконічним: «На даний момент немає доказів, що обидва інциденти пов’язані між собою».
Ця фраза — юридична мова, але водночас натякає на іншу можливість: можливо, це не спільник, а можливо — ще гірше. Можливо, це означає, що сам інцидент із запалювальною пляшкою уже став «показовим прикладом», який хтось інтерпретує по-своєму.
Копіювальники починають самовідтворення.
Нічна половина безсонної доби Сема Альтмана
У другій половині дня або ввечері 10 квітня — тобто того ж дня, коли стався інцидент із запалювальною пляшкою — Sam Altman у особистому блог-сайті публікує пост, додаючи фотографії родини.
Почав він так:
«Зазвичай ми намагаємося триматися непомітно, але цього разу я ділюся фотографіями моєї родини, бо сподіваюся, що це відлякає наступну людину, яка захоче кинути запальну суміш у мій дім — незалежно від того, що вона думає про мене.
…Зараз я прокидаюся серед ночі з гнівом і починаю думати: я недооцінив/недооцінила силу слів і наративу».
Він не назвав імен, але в цієї публікації видно слід: у The New Yorker нещодавно вийшла гостра критика, де Sam Altman описують як певного небезпечного проповідника техноутопії.
Той матеріал поширюється в анти-ШІ співтоваристві, його пересилають, вирізають фрагменти, виривають із контексту й перетворюють на цитату, яку вставляють у різні пости на кшталт «ШІ треба зупинити».
У блозі Altman закликає «знижувати конфронтаційну риторику», а також запрошує «good-faith criticism and debate» — і так завершує:
«Я розумію настрої проти технологій і знаю, що технології не завжди приносять користь кожному. Але загалом я вірю, що технічний прогрес здатен зробити майбутнє неймовірно гарним — для твоєї родини та для моєї родини теж.
Поки ми й далі сперечаємося про ці питання, нам варто знижувати рівень ескалації в словах і в діях, намагаючись, щоб менше будинків зазнавали менше вибухів — і в переносному сенсі, і в реальному».
Чоловік, який прокинувся посеред ночі: чоловік і діти — вдома. Він щойно дізнався, що хтось намагається спалити його дім, і тепер намагається переконати цей покоління словами.
Наратив як зброя
Тепер нам треба поговорити про річ ще незручнішу.
«Конфронтаційна дискусія», про яку в блозі трохи згадує Sam Altman, заслуговує, щоби ми поставилися до неї серйозно: як наратив може стати зброєю.
У суспільних планах на основі ШІ, у боротьбі проти ШІ як «провідника людства»… ну… все майбутнє, що буде частиною ШІ? А чи лишиться в майбутньому людяність?
Такий конфлікт небезпечний: він здатен створити два табори — тих, хто підтримує ШІ, і тих, хто виступає проти ШІ.
Якщо врешті федеральні прокурори звинуватять Moreno-Gama за статтею про внутрішній тероризм, це залишить в історії американського права прецедент, якого раніше не було: перша кримінальна справа, кваліфікована як тероризм із мотивом «анти-ШІ ідеології».
Поріг для юридичної кваліфікації за цією статтею дуже високий: потрібно довести, що намір дій полягав у зміні суспільної політики або в примусі/залякуванні урядових інституцій.
Фрагмент у декларації «Your Last Warning», де підозрюваний закликає інших приєднатися до його «руху», якраз і є ключовим доказом. Це не розлючений індивід — це спроба запустити більш масштабний рух.
Прокурори кажуть: «Ми не будемо терпіти жодних спроб змінити спосіб життя та роботи американців через страх або насильство».
Страх перед ШІ, імовірно, перетвориться на ворога в наративах, а потім буде зброєний. Якщо підозрюваний справді винесе це як справу про тероризм, тоді така конфронтація може стати ще жорсткішою.
Напрям розвитку індустрії ШІ не зміниться через одну запалювальну пляшку. Але можна припустити: усіх, хто в майбутньому спробує ставити під сумнів розвиток ШІ, перекидатимуть на інший бік натовпу й навішуватимуть ярлик «конфронтаційних активістів».
Сподіваюся, що в майбутньому ми всі будемо в порядку.
