Виталик: безопасность и пользовательский опыт — не отдельные области, минимизация целей и отклонений в поведении системы
Foresight News сообщает, что Виталик Бутерин в своем посте на Farcaster заявил, что целью безопасности является минимизация отклонений между пользовательским намерением и фактическим поведением системы. «Пользовательский опыт» также можно определить таким образом, поэтому безопасность и пользовательский опыт не являются отдельными областями; безопасность больше сосредоточена на краевых рисках (высокая стоимость отклонений) и на противодействии поведению, вызывающему такие риски. Идеальная безопасность невозможна, поскольку «пользовательское намерение» само по себе чрезвычайно сложно, пользователи трудно четко его выразить (например, в случае «отправить 1 ETH Бобу» — Боб не может быть математически определен). Более сложные цели, такие как «защита конфиденциальности», также трудно определить (утечка метаданных значительно превосходит шифрование). Это похоже на ранние проблемы безопасности ИИ: цели трудно надежно задать.
Отличные решения по безопасности должны включать следующие характеристики: пользователь выражает свои намерения множественными, перекрывающимися способами, а система выполняет их только при согласовании с нескольких сторон. Примеры включают типовые системы в программировании, формальную верификацию, моделирование транзакций, пост-транзакционные утверждения, мультиподписи / социальное восстановление, лимиты расходов и подтверждение аномалий — все это снижает риски за счет избыточности. Кроме того, LLM могут использоваться для моделирования намерений (универсальные LLM приближают человеческий здравый смысл, пользователь донастраивает LLM для приближения к своему собственному мышлению), но не должны самостоятельно определять намерения, а лишь дополнять их с разных точек зрения, повышая эффективность избыточности.
Связанные статьи
Backpack запускает программу долевого участия через токены: пользователи, которые заложат токены как минимум на один год, смогут обменять их на долю в компании по фиксированной пропорции
Данные: если ETH опустится ниже 1823 долларов, совокупная сила ликвидации длинных позиций на основных централизованных биржах достигнет 8.91 миллиарда долларов
Виталик Бутерин планирует путь обновления «Cypherpunk» для укрепления Ethereum в течение следующих пяти лет
10x Research：Ethereum входит в ключевой диапазон оценки, крупные нереализованные убытки Bitmine подчеркивают структурное давление
ETH пробила уровень 1900 USDT, что свидетельствует о сильной бычьей динамике на рынке. Инвесторы внимательно следят за дальнейшим развитием ситуации и возможными коррекциями. Следите за обновлениями и анализируйте рыночные тренды для принятия обоснованных решений.