Генеральний секретар ООН застерігає від «Vibe Coding» у регулюванні ШІ на Женевському саміті

Генеральний секретар ООН Антоніу Гутерріш відкрив у понеділок у Женеві перший Глобальний діалог з управління штучним інтелектом, повідомивши 193 державам-членам, що штучний інтелект розвивається швидше, ніж інституції можуть ним керувати. Гутерріш попередив, що впровадження ШІ випереджає навіть розробників, які його створюють, назвавши поточну траєкторію «експериментом над собою без плану та без згоди». Саміт знаменує першу багатосторонню спробу встановити міжнародне управління ШІ в рамках мандату ООН, створеного Глобальним цифровим договором 2024 року.

Гутерріш попереджає про підхід «vibe coding» до управління ШІ

Гутерріш запозичив термін «vibe coding» — введений Андреєм Карпаті, співзасновником OpenAI та колишнім директором зі штучного інтелекту в Tesla — щоб описати практику дозволу ШІ писати програмне забезпечення без ретельного контролю людини. Ця фраза, нещодавно додана до словника Merriam-Webster, означає програмування на відчуття: скажіть ШІ, що вам потрібно, нехай він зробить решту, не дивіться надто пильно.

«Vibe coding може творити чудеса», — визнав Гутерріш, оскільки все більше людей довіряють продуктам, створеним ШІ. «Але ми не можемо vibe-кодувати правду. Ми не можемо vibe-кодувати майбутнє людства».

Він повідомив присутнім, що ШІ досяг одного мільярда користувачів за два роки, тоді як Інтернету знадобилося 15 років. «Сучасні системи більше не є інструментами, що чекають на інструкції — вони пишуть код, діють онлайн і приймають рішення з усе меншим контролем людини», — сказав він. «Наші інституції були створені для управління машинами, які виконують команди. Вони не готові до машин, які вирішують».

Глава ООН визначає три ключові ризики ШІ: швидкість, влада та правда

Гутерріш виокремив три попередження з попереднього звіту Незалежної міжнародної наукової панелі зі штучного інтелекту, опублікованого минулого тижня 40 вченими зі 140 країн. Панель виявила, що наразі ніхто не може гарантувати, що ШІ не завдасть катастрофічної шкоди.

Першим попередженням була швидкість: «Технологія, яка може змінити економіки, трансформувати світ праці, впливати на вибори та порушити баланс безпеки, впроваджується швидше, ніж хтось — включно з тими, хто її створює — встигає за нею», — сказав Гутерріш у своїй основній промові.

Другим — влада: обчислювальні потужності, дані та таланти зосереджені в руках кількох компаній і країн, залишаючи більшу частину світу за межами рішень, які вже його формують.

Третім — правда. Гутерріш заявив, що брехня, поширена машиною, тепер переконує так само ефективно, як перевірений факт, постійно підриваючи «цілісність нашої інформаційної екосистеми».

Гутерріш запускає Зобов'язання щодо безпеки дітей у сфері ШІ та закликає до заборони зброї

Гутерріш оголосив про Зобов'язання щодо безпеки дітей у сфері ШІ, яке вимагає від компаній підтвердити безпеку через незалежне тестування, перш ніж будь-який ШІ досягне дітей. Зобов'язання передбачає нульову толерантність до створення зображень сексуального насильства над дітьми та вимагає, щоб діти, які перебувають у скрутному становищі, отримували справжню людську підтримку, а не залишалися наодинці з чат-ботом. «Жодна дитина не повинна бути піддослідним кроликом для нерегульованого ШІ», — сказав він.

Він також назвав летальну автономну зброю — машини, які обирають і вбивають ціль без людського судження — «морально огидною» та зажадав заборони міжнародним правом. Держави вже за столом переговорів, зазначив Гутерріш, і він не пропонував їм поспішати.

ООН планує другий діалог зі ШІ в Нью-Йорку на 2027 рік

Глобальний діалог з управління ШІ збереться знову в Нью-Йорку у 2027 році. Гутерріш також закликав Генеральну Асамблею створити Глобальний фонд для ШІ, зосереджений на доступі до обчислювальних потужностей для країн, що розвиваються. Він кинув виклик кожній великій компанії зі ШІ перевести всі центри обробки даних на відновлювану енергію до 2030 року — року, коли, за його оцінками, ці об'єкти перевершать споживання електроенергії всіх країн, крім п'яти.

Поширені запитання

Про що попередив Генеральний секретар ООН Гутерріш щодо управління ШІ на Женевському саміті?

Гутерріш попередив, що штучний інтелект розвивається швидше, ніж інституції можуть ним керувати, назвавши поточне впровадження ШІ «експериментом над собою без плану та без згоди». Він використав термін «vibe coding» — дозвіл ШІ писати програмне забезпечення без ретельного контролю людини — як метафору небезпечно пасивного управління, зазначивши: «Ми не можемо vibe-кодувати майбутнє людства».

Які конкретні пропозиції висунув Гутерріш на саміті з управління ШІ?

Гутерріш запустив Зобов'язання щодо безпеки дітей у сфері ШІ, яке вимагає від компаній підтвердити безпеку через незалежне тестування, перш ніж ШІ досягне дітей, дотримуватися нульової толерантності до створення зображень сексуального насильства над дітьми та забезпечувати дітей у скрутному становищі справжньою людською підтримкою. Він також зажадав заборони летальної автономної зброї міжнародним правом і закликав до створення Глобального фонду для ШІ, який забезпечить доступ до обчислювальних потужностей для країн, що розвиваються. Крім того, він кинув виклик великим компаніям зі ШІ перевести всі центри обробки даних на відновлювану енергію до 2030 року.

Коли ООН проведе свій наступний діалог з управління ШІ?

Другий Глобальний діалог з управління ШІ планується знову провести в Нью-Йорку у 2027 році.