Експеримент Humanity Protocol показує, як штучний інтелект може обійти KYC та експлуатувати цифрову довіру

Коротко

Контрольований експеримент Humanity Protocol показав, що ШІ може створювати переконливі фальшиві профілі для обходу ідентифікаційної перевірки, виявляючи критичні слабкі місця в традиційних системах KYC та підкреслюючи зростаючий ризик онлайн-шахрайства, керованого ШІ.

Humanity Protocol, технологічний стартап, який зосереджений на розробці рівня довіри в інтернеті, нещодавно провів контрольований соціальний експеримент для дослідження можливостей використання ШІ для створення високовірогідних фальшивих профілів, обходу ідентифікаційної перевірки на великій платформі для знайомств та взаємодії з реальними користувачами у масштабі.

Результати підкреслюють нагальні проблеми щодо ефективності традиційних систем Know Your Customer (KYC) у епоху генеративного ШІ, а також потенціал для використання цих вразливостей зловмисниками.

Експеримент тривав два місяці, з жовтня по грудень 2025 року, і залучав шістьох членів команди Humanity Protocol. Використовуючи публічно доступні інструменти ШІ, такі як Reve AI, ChatGPT, Nanobanana та Midjourney, команда створила чотири різні профілі на Tinder, з фотографіями та біографічними даними.

Щоб підтримувати реалістичну активність, команда застосувала TinderGPT — відкритий інструмент на GitHub, який дозволяв профілям керувати понад 100 одночасними розмовами з реальними користувачами у додатку для знайомств. Хоча акаунти були створені у кількох країнах — Португалія, Іспанія, Сербія, Індонезія та Таїланд — усі профілі використовували Tinder Gold для встановлення місцезнаходження в Португалії. За час експерименту створені ШІ-акаунти взаємодіяли з 296 реальними користувачами Tinder і переконали 40 з них погодитися на зустріч особисто.

Експеримент завершився етичною згодою у ресторані в Лісабоні, Португалія, де всі учасники були проінформовані про ситуацію при прибутті та отримали вечерю від стартапу. Дизайн експерименту гарантував, що не було заподіяно фінансової, емоційної чи фізичної шкоди, а метою було виявлення системних вразливостей, а не їх експлуатація.

«Це не було про те, щоб обманювати людей для розваги», — сказав Теренс Квок, засновник Humanity Protocol, у письмовій заяві. «Мова йшла про тестування систем, на які ми всі покладаємося, і показати, наскільки легко можна створити довіру, коли залучений ШІ. Якщо невелика команда може зробити це як експеримент, уявіть, що можуть досягти зловмисники з поганими намірами», — додав він.

Системи KYC, підвищення ставок для онлайн-безпеки та запобігання шахрайству

Результати підкреслюють ширшу проблему для цифрових платформ: традиційні протоколи KYC були створені у передгенеративному середовищі ШІ і стають дедалі менш ефективними. Стандартні заходи перевірки, такі як фотоперевірки, базове визначення живості та завантаження документів, важко конкурувати з інструментами ШІ, здатними створювати гіперреалістичні зображення, голоси та поведінку, що переконливо імітує людських користувачів.

Хоча негайний вплив на платформи для знайомств може здатися обмеженим — витратою часу або емоційною маніпуляцією, — ставки набагато вищі у фінансових та безпекових контекстах. За даними Федеральної торгової комісії США, американці втратили понад 1,3 мільярда доларів через романтичні шахрайства у 2022 році, що робить їх найкоштовнішою категорією споживчого шахрайства. З розвитком технологій ШІ різниця між добросовісним експериментом і масштабним шахрайством швидко стирається. Без рамок KYC, здатних адаптуватися до генеративного ШІ та перевіряти людяність, а не просто ідентичність, онлайн-платформи ризикують стати головними мішенями для наступного покоління експлуатації, керованої ШІ.