Виталик Бутерин: Что я думаю о биометрическом подтверждении личности?

24 min readJul 24, 2023

Перевод статьи: https://vitalik.eth.limo/general/2023/07/24/biometric.html
Дата публикации: 24.07.2023

Особая благодарность команде Worldcoin, сообществу Proof of Humanity и Эндрю Миллеру за обсуждение.

Один из самых сложных, но, возможно, и самых ценных гаджетов, которые пытаются создать люди в сообществе Ethereum, — это децентрализованное решение для подтверждения личности. Доказательство личности, также известное как «проблема уникального человека», представляет собой ограниченную форму идентификации человека из реального мира (причем отличным от всех других зарегестрированных аккаунтов), в идеале не раскрывая его личность.

Было предпринято несколько попыток решить эту проблему: в качестве примеров можно привести Proof of Humanity, BrightID, Idena и Circles. Некоторые из них поставляются со своими собственными приложениями (часто с токеном UBI), а некоторые нашли применение в Gitcoin Passport для проверки того, какие учетные записи действительны для квадратичного голосования. Технология с нулевым разглашением(Zero-knowledge), такая как Sismo, обеспечивает конфиденциальность многих из этих решений. Совсем недавно мы стали свидетелями появления гораздо более крупного и амбициозного проекта подтверждения личности: Worldcoin.

Соучредителем Worldcoin был Сэм Альтман, который наиболее известен как генеральный директор OpenAI. Философия проекта проста: ИИ создаст изобилие и богатство для человечества, но он также может лишить работы очень многих людей и сделать практически невозможным определение того, кто является человеком, а не ботом, и поэтому нам нужно закрыть эту дыру, (i) создав действительно хорошую систему подтверждения личности, чтобы люди могли доказать, что они на самом деле люди, и (ii) предоставив каждому UBI. Worldcoin уникален тем, что использует сложнейшую биометрическую технологию, сканируя радужную оболочку каждого пользователя с помощью специального оборудования под названием «Orb»:

Цель состоит в том, чтобы выпусть большое количество этих сфер и широко распространить их по всему миру, а так же разместить в общественных местах, чтобы каждому было легко получить идентификатор личности. К чести Worldcoin, они также взяли на себя обязательство по децентрализации с течением времени. Сначало это означает техническую децентрализацию: быть L2 на Ethereum с использованием стека Optimism и защищать конфиденциальность пользователей с помощью ZK-SNARK и других криптографических методов. В дальнейшем это включает децентрализацию управления самой системой.

Worldcoin подвергалась критике в связи с проблемами конфиденциальности и безопасности Orb, проблемы с дизайном ее «монеты» и за этические проблемы, связанные с некоторыми решениями, которые сделала компания. Некоторые из критических замечаний весьма специфичны и сосредоточены на решениях, принятых проектом, которые легко можно было бы принять по-другому, и действительно, сам проект Worldcoin может быть готов измениться. Другие, однако, поднимают более фундаментальную озабоченность по поводу того, является ли биометрия — не только биометрия сканирования глаз Worldcoin, но и более простая загрузка видео с лицом и игры для проверки, используемые в Proof of Humanity и Idena — хорошей идеей вообще. А третьи вообще критикуют доказательство личности. Риски включают в себя неизбежные утечки конфиденциальной информации, дальнейшее ослабление способности людей анонимно перемещаться в Интернете, принуждение со стороны авторитарных правительств и потенциальную невозможность обеспечения безопасности при одновременной децентрализации.

В этом посте мы поговорим об этих проблемах и рассмотрим некоторые аргументы, которые помогут вам решить, стоит ли склоняться и сканировать глаза (или лицо, или голос, или…) перед нашими новыми сферическими повелителями, и являются ли естественные альтернативы — либо использование доказательства личности на основе социального графа, либо полный отказ от доказательства личности — лучше.

Что такое доказательство личности и почему это важно?

Самый простой способ определить систему доказательства личности следующим образом: она создает список открытых ключей, где система гарантирует, что каждый ключ контролируется уникальным человеком. Другими словами, если вы человек, вы можете добавить в список один ключ, но вы не можете добавить в список два ключа, а если вы бот, вы не можете добавить в список ни одного ключа.

Подтверждение личности ценно, потому что оно решает множество проблем с антиспамом и концентрацией власти, с которыми сталкиваются многие люди, причем таким образом, чтобы избежать зависимости от централизованных органов власти и раскрыть минимально возможную информацию. Если доказательство личности не будет решено, децентрализованное управление (включая « микроуправление», например, как голосование в социальных сетях) станет намного легче захватить очень богатым субъектам, включая враждебные управленства. Многие сервисы могут предотвратить атаки типа «отказ в обслуживании», только установив цену за доступ, причем иногда цена, достаточно высокая для того, чтобы не допустить злоумышленников, оказывается слишком высока для многих законных пользователей с низким уровнем дохода.

Сегодня многие крупные приложения в мире решают эту проблему, используя поддерживаемые государством системы идентификации, такие как кредитные карты и паспорта. Это решает проблему, но приносит значительные и, возможно, неприемлемые жертвы в отношении конфиденциальности и может быть тривиально атаковано самими правительствами.

Сколько сторонников доказательства личности видят двусторонний риск, с которым мы сталкиваемся.

Во многих проектах подтверждения личности(proof-of-personhood) — не только Worldcoin, но и Proof of Humanity, Circles и других — «флагманское приложение» представляет собой встроенный «токен N-per-person» (иногда называемый «токен UBI»). Каждый пользователь, зарегистрированный в системе, получает определенное фиксированное количество токенов каждый день (или час, или неделю). Но есть много других приложений:

Airdrops для раздачи токенов;
Продажи токенов или NFT, которые дают более выгодные условия менее состоятельным пользователям;
Голосование в DAO;
Способ «засева»(seed) систем репутации на основе графов;
Квадратное голосование (и финансирование, и оплата внимания);
Защита от ботов/сибил атак в социальных сетях;
Альтернатива капчам для предотвращения DoS-атак.

Во многих из этих случаев общей чертой является желание создать механизмы, которые были бы открытыми и демократичными, избегая как централизованного контроля со стороны операторов проекта, так и доминирования его самых богатых пользователей. Последнее особенно важно при децентрализованном управлении. Во многих из этих случаев существующие сегодня решения полагаются на некоторую комбинацию (i) крайне непрозрачных алгоритмов ИИ, оставляющих много возможностей для незаметной дискриминации пользователей, которые просто не нравятся операторам, и (ii) централизованных идентификаторов, также известных как «KYC». Эффективное решение на основе доказательства личности было бы гораздо лучшей альтернативой, обеспечивающей необходимые для этих приложений свойств безопасности без “подводных камней” существующих централизованных подходов.

Каковы некоторые ранние попытки доказательства личности?

Существует две основные формы подтверждения личности: на основе социальных графов и биометрические . Доказательство личности, основанное на социальном графе, основано на той или иной форме подтверждения: если Алиса, Боб, Чарли и Дэвид — проверенные люди, и все они говорят, что Эмили — подтвержденный человек, то Эмили, вероятно, тоже является подтвержденным человеком. Поручительство часто дополняется поощрениями: если Алиса говорит, что Эмили — человек, но оказывается, что это не так, то и Алиса, и Эмили могут быть наказаны. Биометрическое подтверждение личности включает в себя проверку некоторых физических или поведенческих черт Эмили, которые отличают людей от ботов (и отдельных людей друг от друга). В большинстве проектов используется комбинация этих двух методов.

Четыре системы, о которых я упоминал в начале поста, работают примерно следующим образом:

Proof of Humanity: вы загружаете видеоролик о себе и вносите залог. Чтобы получить одобрение, существующий пользователь должен поручиться за вас, и должно пройти определенное количество времени, в течение которого вы можете быть оспорены. В случае оспаривания, децентрализованный суд Kleros определяет, было ли ваше видео подлинным; если это не так, вы теряете свой депозит, а оспаривающий получает вознаграждение.
BrightID: вы присоединяетесь к видеозвонку “Верификация” с другими пользователями, где все проверяют друг друга. Верификация более высокого уровня доступна через Bitu — систему, в которой вы можете пройти проверку, если за вас поручится достаточное количество других пользователей, прошедших проверку Bitu.
Idena: вы играете в игру с капчей в определенный момент времени (чтобы люди не участвовали в ней несколько раз); часть игры с капчей включает в себя создание и проверку капч, которые затем будут использоваться для проверки других.
Circles: за вас ручается существующий пользователь Circles. Circles уникален тем, что не пытается создать «глобально проверяемый идентификатор», а создает граф доверительных отношений, в котором благонадежность человека можно проверить только с точки зрения вашего собственного положения в этом графе.

Как работает Worldcoin?

Каждый пользователь Worldcoin устанавливает на свой телефон приложение, которое генерирует закрытый и открытый ключи, подобно кошельку Ethereum. Затем он лично посещает «Orb». Пользователь смотрит в камеру Orb и в то же время показывает ему QR-код, сгенерированный его приложением Worldcoin, который содержит его открытый ключ. Orb сканирует глаза пользователя и с помощью сложного аппаратное сканирование и классификаторов с машинным обучением проверяет, что:

Пользователь — реальный человек;
Радужная оболочка глаза пользователя не совпадает с радужной оболочкой глаза любого другого пользователя, ранее использовавшего систему.

Если оба сканирования проходят успешно, Orb подписывает сообщение, подтверждающее специализированный хэш скана радужной оболочки глаза пользователя. Хэш загружается в базу данных — в настоящее время это централизованный сервер, который предполагается заменить децентрализованной он-чейн системой, как только они будут уверены, что механизм хеширования работает. Система не хранит полные сканы радужной оболочки, она хранит только хэши, которые используются для проверки уникальности. С этого момента у пользователя появляется «World ID».

Владелец World ID может доказать, что он является уникальным человеком, сгенерировав ZK-SNARK, доказывающий, что он владеет закрытым ключом, соответствующим открытому ключу в базе данных, не раскрывая при этом, каким именно ключом он владеет. Следовательно, даже если кто-то повторно отсканирует вашу радужную оболочку, он не сможет увидеть никаких действий, которые вы предприняли.

Каковы основные проблемы в разработке Worldcoin?

Сразу приходят на ум четыре основных риска:

Конфиденциальность. Реестр сканирования радужной оболочки может раскрыть информацию. По крайней мере, если кто-то другой просканирует вашу радужную оболочку, он сможет сверить ее с базой данных, чтобы определить, есть ли у вас World ID. Потенциально сканирование радужной оболочки может раскрыть и более подробную информацию о вас.
Доступность. World ID не будут надежно доступны, если не будет так много Orb, чтобы быть доступны любому человеку по всему миру.
Централизация. Orb — это аппаратное устройство, и у нас нет возможности проверить, правильно ли она сконструирована и не имеет ли лазейки. Таким образом, даже если уровень программного обеспечения совершенен и полностью децентрализован, Worldcoin Foundation все равно имеет возможность вставить в систему backdoor, позволяющий создавать произвольное количество поддельных человеческих удостоверений.
Безопасность. Телефоны пользователей могут быть взломаны, их могут заставить сканировать их радужную оболочку, показывая открытый ключ, принадлежащий кому-то другому, и существует возможность 3D-печати «поддельных людей», которые могут пройти сканирование радужной оболочки и получить World ID.

Важно различать (i) проблемы, характерные для выбора, сделанного Worldcoin, (ii) проблемы, которые неизбежно возникают при любом биометрическом подтверждении личности, и (iii) проблемы, которые возникают при любом подтверждении личности в целом. Например, подписка на Proof of Humanity означает опубликовать свое лицо в Интернете. Участие в группе проверки BrightID не приводит к такому результату, но все же раскрывает вашу личность перед многими людьми. А присоединение к Circles публично раскрывает ваш социальный граф. Worldcoin значительно лучше сохраняет конфиденциальности, чем любой из них. С другой стороны, Worldcoin зависит от специализированного оборудования, что способствует появлению вопросу доверия к производителям Orb, правильность их изготовления — проблема, не имеющую аналогов в Proof of Humanity, BrightID или Circles. Возможно даже, что в будущем кто-то, кроме Worldcoin, создаст другое специализированное аппаратное решение, имеющее другие компромиссы.

Как схемы биометрического подтверждения личности решают вопросы конфиденциальности?

Самая очевидная и самая большая потенциальная утечка конфиденциальности, которая есть в любой системе подтверждения личности, — это связывание каждого действия человека с его реальной личностью. Эта утечка данных очень велика, возможно, неприемлемо велика, но, к счастью, ее легко решить с помощью технологии доказательства с нулевым разглашением(zero knowledge proof). Вместо того, чтобы напрямую создавать подпись с помощью закрытого ключа, соответствующий открытый ключ которого находится в базе данных, пользователь может создать ZK-SNARK, доказывающий, что он владеет закрытым ключом, соответствующий открытый ключ которого находится где-то в базе данных, не раскрывая, какой конкретный ключ у него есть . Обычно это можно сделать с помощью таких инструментов, как Sismo (см. здесь о реализации Proof of Humanity), а Worldcoin имеет собственную встроенную реализацию. Здесь важно отдать должное «крипто-нативным» доказательства личности: они действительно заботятся о том, чтобы сделать этот базовый шаг для обеспечения анонимности, в то время как в основном все централизованные решения для идентификации этого не делают.

Более незаметная, но не менее важная утечка конфиденциальности — это простое существование общедоступного реестра биометрических сканирований. В случае Proof of Humanity это большой объем данных: вы получаете видео каждого участника Proof of Humanity, что делает совершенно очевидным для всех в мире, желающих узнать, кто все участники Proof of Humanity. В случае Worldcoin утечка гораздо более ограничена: Orb локально вычисляет и публикует только «хэш» сканирования радужной оболочки каждого человека . Этот хэш не является обычным хешем, таким как SHA256, а представляет собой специализированный алгоритм, основанный на фильтрах Габора с машинным обучением, который позволяет справиться с неточностью, присущий любому биометрическому сканированию, и гарантирует, что последовательные хэши, взятые из радужной оболочки одного и того же человека, будут иметь аналогичные результаты.

Синий: процент битов, которые различаются между двумя сканами радужной оболочки одного и того же человека. Оранжевый: процент битов, которые различаются между двумя сканами радужной оболочки глаз двух разных людей.

Эти хэши радужной оболочки пропускают лишь небольшое количество данных. Если злоумышленник может принудительно (или тайно) просканировать вашу радужную оболочку, то он может сам вычислить хэш вашей радужной оболочки и сверить его с базой данных хэшей радужной оболочки, чтобы узнать, участвовали ли вы в системе или нет. Такая возможность проверить, зарегистрировался ли человек, необходима самой системе, чтобы предотвратить регистрироваться несколько раз, но всегда есть вероятность, что этим каким-то образом можно злоупотребят. Кроме того, существует вероятность утечке через хэш некоторого количества медицинских данных (пол, этническая принадлежность, возможно, состояние здоровья), но эта утечка гораздо меньше, чем то, что может быть зафиксировано практически любой другой системой массового сбора данных, используемой сегодня (например, даже уличными камерами). В целом, конфиденциальность хранения хэшей радужной оболочки мне кажется достаточной.

Если другие не согласны с этим мнением и решат разработать систему с еще большей конфиденциальностью, есть два способа сделать это:

Если алгоритм хеширования радужной оболочки можно улучшить, чтобы сделать разницу между двумя сканами одного и того же человека намного меньше (например, достоверно менее 10% перестановки битов), то вместо хранения полных хэшей радужной оболочки система может хранить меньшее количество битов коррекции ошибок для хэшей радужной оболочки (см.: нечеткие экстракторы) . Если разница между двумя сканами менее 10%, то количество битов, которые необходимо опубликовать, будет как минимум в 5 раз меньше.
Если мы хотим пойти дальше, мы могли бы хранить базу данных хэшей радужной оболочки внутри системы многосторонних вычислений (multi-party computation MPC) , к которой могли получить доступ только Orbs (с ограничением скорости), что сделало бы данные полностью недоступными, но ценой значительной сложности протокола и социальной сложности в управлении набором участников MPC. Преимущество такой системы заключается в том, что пользователи не смогли бы доказать связь между двумя разными World ID, которые у них были в разное время, даже если бы они захотели.

К сожалению, эти методы не применимы к Proof of Humanity, потому что Proof of Humanity требует, чтобы полное видео каждого участника было в открытом доступе, чтобы его можно было оспорить, если есть признаки того, что оно является подделкой (включая подделки, сгенерированные ИИ), и в таких случаях провести более детальное расследование.

В целом, несмотря на «антиутопическую настроение», связанное с тем, что вы смотрите в Orb и позволяющете ей глубоко сканировать ваши глазные яблоки, похоже, что специализированные аппаратные системы могут неплохо справляться с защитой конфиденциальности. Однако обратной стороной этого является то, что специализированные аппаратные системы создают гораздо большие проблемы с централизацией. Таким образом, мы, шифропанки, оказываемся в затруднительном положении: нам приходится искать компромисс между одной ценностью шифрования и другой.

Каковы проблемы доступности биометрических систем подтверждения личности?

Специализированное оборудование создает проблемы с доступностью, потому что оно не очень доступно. В настоящее время смартфоны есть прблизительно у 51% — 64% жителей стран Африки к югу от Сахары, и, по прогнозам, к 2030 году этот показатель увеличится до 87% . Но хотя смартфонов миллиарды, то Orb всего несколько сотен. Даже при гораздо более крупномасштабном распределенном производстве было бы трудно добраться до мира, где в радиусе пяти километров от каждого человека есть Orb.

Но надо отдать должное команде, они старались !

Следуюет также отметить, что многие другие формы подтверждения личности имеют еще более серьезные проблемы с доступностью. Очень сложно присоединиться к системе подтверждения личности, основанной на социальном графе, если вы уже не знаете кого-то, кто находится в социальном графе. Это позволяет таким системам очень легко оставаться ограниченными одним сообществом в одной стране.

Даже централизованные системы идентификации усвоили этот урок: индийская система идентификации Aadhaar ID основана на биометрии, поскольку это был единственный способ быстро охватить ее огромное население, избегая при этом массового мошенничества с дублированием и поддельными учетными записями (что привело к огромной экономии средств), хотя, конечно, система Aadhaar в целом гораздо слабее в отношении конфиденциальности, чем что-либо, что предлагалось в широком масштабе в криптосообществе.

Наиболее эффективными системами с точки зрения доступности на самом деле являются такие системы, как Proof of Humanity, в которых вы можете зарегистрироваться, используя только смартфон, хотя, как мы уже видели и увидим еще, такие системы сопряжены со всевозможными другими компромиссами.

Каковы проблемы централизации в биометрических системах подтверждения личности?

Их здесь три:

Риски централизации в управлении системой на высшем уровне (особенно в системе, принимающей окончательные решения на высшем уровне, если разные участники системы расходятся во мнениях по поводу с субъективных суждений).
Риски централизации характерны только для систем, использующих специализированное оборудование.
Риски централизации, если используются собственные алгоритмы для определения того, кто является подлинным участником.

Любая система подтверждения личности должна решать задачу(1), возможно, за исключением систем, в которых набор «принимаемых» идентификаторов является полностью субъективным. Если система использует стимулы, выраженные во внешних активах (например, ETH, USDC, DAI), то она не может быть полностью субъективной, и поэтому риски управления становятся неизбежными.

(2) Для Worldcoin это гораздо больший риск, чем для Proof of Humanity (или BrightID), посколько Worldcoin зависит от специализированного оборудования, а другие системы — нет.

(3) Это риск, особенно в «логически централизованных» системах, где есть одна система, выполняющая проверку, если только все алгоритмы не являются открытыми, и у нас нет гарантии, что они действительно выполняют тот код, который они утверждают. Для систем, которые полагаются исключительно на пользователей, проверяющих других пользователей (например, Proof of Humanity), это не является риска.

Как Worldcoin решает проблемы централизации оборудования?

В настоящее время аффилированная с Worldcoin организация под названием Tools for Humanity является единственной организацией, которая создает Orb. Тем не менее, исходный код Orb в основном общедоступен: вы можете увидеть спецификации оборудования в этом репозитории github, а другие части исходного кода, как ожидается, будут опубликованы в ближайшее время. Лицензия является еще одной из тех лицензий с «общим исходным кодом, но технически открытая только через четыре года», подобную Uniswap BSL, но помимо предотвращения форков она также предотвращает то, что они считают неэтичным поведением — они конкретно перечисляют массовую слежку и три международные декларации о гражданских правах.

Заявленная цель команды состоит в том, чтобы позволить другим организациям создавать Orb и поощрять их, а также со временем перейти от Orb, создаваемых Tools for Humanity, к созданию своего рода DAO, который утверждает и управляет тем, какие организации могут создавать Orb, которые признаются системой.

Есть два пути, по которым эта конструкция может выйти из строя:

В действительность децентрализовать систему не удасться. Это может произойти из-за распространения ловушки федеративных протоколов: один производитель в конечном итоге доминирует на практике, что приводит к повторной централизации системы. Предположительно, руководство могло бы ограничить количество действительных Orb, которые может производить каждый производитель, но это потребовало бы тщательного управления, и на руководство ложиться большая нагрузка по децентрализации, мониторингу экосистемы и эффективному реагированию на угрозы: гораздо более сложная задача, чем, например, достаточно статичный DAO, которая просто решает задачи разрешения споров на высшем уровне.
Оказывается, такой распределенный производственный механизм невозможно сделать безопасным. Здесь я вижу два риска:

Хрупкость против недобросовестных производителей Orb: если хотя бы один производитель сфер является злоумышленником или взломан, он сможет сгенерировать неограниченное количество поддельных хэшей сканирования радужной оболочки и присваивать им World ID.
Правительственное ограничение Orb: правительства, которые не хотят, чтобы их граждане участвовали в экосистеме Worldcoin, могут запретить Orbs в своей стране. Более того, они могут даже заставить своих граждан пройти сканирование радужной оболочки глаза, позволяя правительству получить их счетах, и у граждан не было бы возможности на это ответить.

Чтобы сделать систему более устойчивой к недобросовестным производителям Orb, команда Worldcoin предлагает проводить регулярные аудиты Orb, проверяя, правильность их сборки, соответствие ключевых аппаратные компоненты со спецификациями и отсутствием подделок. Это сложная задача: по сути, это что-то вроде бюрократии ядерных инспекций МАГАТЭ, но для Orb. Есть надежда, что даже очень несовершенная реализация режима аудита позволит значительно сократить количество поддельных Orb.

Чтобы ограничить вред, причиняемый любой проскользнувшей некачественной Orb, имеет смысл предусмотреть второе средство защиты. World ID зарегистрированные у разных производителей Orb, а в идеале и у разных Orb, должны быть различимы друг от друга. Не страшно, если эта информация будет закрытой и хранится только на устройстве владельца World ID, но она должна быть доказуемо по запросу. Это позволяет экосистеме реагировать на (неизбежные) атаки, удаляя отдельных производителей Orb и, возможно, даже отдельные Orb из “белого списка” по требованию. Если мы увидим, как правительство Северной Кореи ходит вокруг да около и заставляет людей сканировать свои глазные яблоки, эти Orb и любые созданные ими учетные записи могут быть немедленно отключены задним числом.

Основные вопросы безопасности при подтверждение личности.

Помимо проблем, характерных для Worldcoin, существуют проблемы, которые затрагивают схемы подтверждения личности в целом. Основные из них, на мой взгляд, являются:

3D-отпечаток поддельных личностей: можно использовать ИИ для создания фотографий или даже 3D-печатей фальшивых людей, которые достаточно убедительны, чтобы их приняло программное обеспечение Orb. Если это сделает хотя бы одна группа, они могут создать неограниченное количество ID.
Возможность продажи ID: кто-то может предоставить чужой открытый ключ вместо своего собственного при регистрации, предоставив этому лицу контроль над своим зарегистрированным ID в обмен на деньги. По всей видимости, это уже происходит. Помимо продажи, существует возможность арендовать ID для использования для кратковременного использования в одном приложении.
Взлом телефона: если телефон человека взломан, хакер может украсть ключ, управляющий его World ID.
Принуждение управленческой организации для кражи ID: правительство может заставить своих граждан пройти проверку, предъявив QR-код, принадлежащий правительству. Таким образом, злоумышленник может получить доступ к миллионам идентификаторов. В биометрической системе это можно было бы сделать даже тайно: управленческие организации могли бы использовать запутанные Orb для извлечения мировых идентификаторов у каждого, кто въезжает в их страну, на стойке паспортного контроля.

(1)Характерно для биометрических систем подтверждения личности. (2) и (3) являются общими как для биометрических, так и для небиометрических дизайнов. (4) также является общим для обоих, хотя требуемые методы в обоих случаях будут совершенно разными; в этом разделе я сосредоточусь на проблемах биометрических систем.

Это довольно серьезные недостатки. Некоторые из них уже устранены в существующих протоколах, другие могут быть устранены с помощью будущих улучшений, а третьи кажутся фундаментальными ограничениями.

Как мы можем бороться с фейк-людьми?

Для Worldcoin это значительно меньший риск, чем для систем подобных Proof of Humanity: личное сканирование может изучить многие черты человека и его довольно сложно подделать, в отличие от простой подделки видео. Специализированное оборудование по своей сути сложнее обмануть, чем стандартное оборудование, которое, в свою очередь, сложнее обмануть, чем цифровые алгоритмы, проверяющие фотографии и видео отправляемые удаленно.

Может ли кто-нибудь напечатать на 3D-принтере что-то, что в конечном итоге сможет обмануть даже специализированное оборудование? Вероятно. Я ожидаю, что в какой-то момент мы увидим растущую напряженность между целью сохранения механизма открытым и обеспечением его безопасности: алгоритмы искусственного интеллекта с открытым исходным кодом по своей природе более уязвимы для состязательного машинного обучения. Алгоритмы “черного ящика” более защищены, но трудно сказать, что алгоритм “черного ящика” не был обучен включать бэкдоры. Возможно, технологии ZK-ML дадут нам лучшее из обоих миров. Хотя в еще более отдаленном будущем, вполне вероятно, что даже самые лучшие алгоритмы ИИ будут обмануты самыми лучшими фейковыми людьми, напечатанными на 3D-принтере.

Однако из моих бесед с командами разработчиков Worldcoin и Proof of Humanity следует, что в настоящий момент ни один из протоколов еще не сталкивался со значительными дипфейковыми атаками по той простой причине, что нанять реальных низкооплачиваемых работников для регистрации от вашего имени довольно дешево и просто.

Можем ли мы предотвратить продажу ID?

В краткосрочной перспективе предотвратить такой аутсорсинг сложно, потому что большинство людей в мире даже не знают о протоколах подтверждения личности, и если вы скажете им показать QR-код и просканировать глаза за $30, они это сделают. Как только больше людей узнают , что такое протоколы подтверждения личности, становится возможным довольно простое решение: разрешить людям, у которых есть зарегистрированный ID, перерегистрироваться, отменив предыдущий ID. Это делает «продажу ID» гораздо менее правдободобной, поскольку тот, кто продает вам свое ID, может просто пойти и перерегистрироваться, отменив только что проданное удостоверение личности. Однако для достижения этой цели необходимо, чтобы протокол был очень широко известен, а Orb очень широко доступны, чтобы сделать регистрацию по требованию практичной.

Это одна из причин, по которой монета UBI, интегрированная в систему подтверждения личности, имеет ценность: монета UBI обеспечивает легко понятный стимул для людей (i) узнать о протоколе и зарегистрироваться, и (ii) немедленно перерегистрироваться, если они зарегестрировались от имени другого человека. Перерегистрация также предотвращает взлом телефона.

Можем ли мы предотвратить принуждение в биометрических системах подтверждения личности?

Это зависит от того, о каком принуждении идет речь. К возможным формам принуждения относятся:

Правительства сканируют глаза (или лица, или…) людей на пограничном контроле и других обычных государственных контрольно-пропускных пунктах и используют это для регистрации (и часто перерегистрации) своих граждан.
Правительства запрещают Orb внутри страны, чтобы люди не могли самостоятельно перерегистрироваться
Лица, приобретающие ID и угрожающие им расправой, если обнаружат, что их ID было признано недействительным из-за перерегистрации.
(Возможно, управляемые государством) приложения, требующие, чтобы люди авторизовались в системе, подписываясь напрямую с помощью своего открытого ключа, позволяя увидеть соответствующее биометрическое сканирование, а значит, и связь между текущим идентификатором пользователя и любыми будущими идентификаторами, которые они получают от повторной регистрации. Распространенное опасение состоит в том, что таким образом слишком упрощает создание «постоянных записей»(permanent records), которые останутся с человеком на всю жизнь.

Все ваши UBI и права голоса принадлежат нам

Особенно, если речь идет о неискушенных пользователей, кажется довольно сложным полностью предотвратить такие ситуации. Пользователи могут покинуть свою страну, чтобы (повторно) зарегистрироваться в Orb в более безопасной стране, но это сложный и дорогостоящий процесс. В условияъ действительно враждебной правовой среды поиск независимой Orb кажется слишком сложным и рискованным.

Что возможно, так это сделать этот вид злоупотреблений более раздражающим для реализации и обнаруживаемым. Подход Proof of Humanity, требующий от человека произнести определенную фразу при регистрации, является хорошим примером: этого может быть достаточно, чтобы предотвратить скрытые сканирование, при этом принуждение должно быть гораздо более явным, а регистрационная фраза может даже включать заявление, подтверждающее, что респондент знает, что он имеет право на повторную регистрацию самостоятельно и может получить монету UBI или другое вознаграждение. В случае обнаружения принуждения устройства, используемым для массовой принудительной регистрации, могут быть лишены прав доступа. Для того, чтобы приложения не связывали текущий и предыдущий ID и не пытались оставить «постоянные записи», приложение для подтверждения личности по умолчанию может блокировать ключ пользователя в доверенном оборудовании, не позволяя любому другому приложению использовать ключ напрямую без промежуточного анонимного слоя ZK-SNARK между ними. Если правительство или разработчик приложения хотят обойти это, им придется обязать использовать свое собственное приложение.

Сочитание этиъ методов и активную бдительность, кажется возможным блокировать те режимы, которые действительно враждебны, и сохранять честность тех режимов, которые всего лишь средне-плохие (как и большая часть мира). Это может быть сделано либо с помощью проекта, такого как Worldcoin или Proof of Humanity, поддерживающего свою собственную бюрократию для решения этой задачи, либо путем раскрытия дополнительной информации о том, как был зарегистрирован идентификатор (например, в Worldcoin, из какой Orb он был получен), и оставить эту задачу классификации сообществу.

Можем ли мы предотвратить аренду удостоверений личности (например, для продажи голосов)?

Перерегистрация не препятсвует саче в аренду вашего идентификатора. В некоторых приложениях это допустимо: стоимость сдачи в аренду вашего права на получение дневной доли монеты UBI будет равняться только стоимости дневной доли монеты UBI. Но в таких приложениях, как голосование, легкая продажа голосов представляет собой огромную проблему.

Такие системы, как MACI, могут помешать вам достоверно продать свой голос, позволив вам позже отдать другой голос, который аннулирует ваш предыдущий голос, таким образом, что никто не сможет сказать, действительно ли вы отдали такой голос или нет. Однако если взяткодатель контролирует, какой именно ключ вы получите при регистрации, это не поможет.

Я вижу здесь два решения:

Запускайте целые приложения внутри MPC. Это также будет охватывать процесс перерегистрации: когда человек регистрируется в MPC, MPC присваивает ему идентификатор, который не связан с его идентификатором, подтверждающим личность, и когда человек перерегистрируется, только MPC будет знать, какую учетную запись деактивировать. Это не позволяет пользователям делать доказательства своих действий, потому что каждый важный шаг выполняется внутри MPC с использованием частной информации, которая известна только MPC.
Децентрализованные церемонии регистрации. В принципе, можно реализовать нечто подобное протоколу очной регистрации ключей, который требует от четырех случайно выбранных локальных участников совместных усилий для регистрации кого-либо. Это может гарантировать, что регистрация является «надежной» процедурой, в которую злоумышленник не может проникнуть.

Системы на основе социальных графов могут работать здесь лучше, потому что они могут автоматически создавать локальные децентрализованные процессы регистрации в качестве побочного продукта своей работы.

Как биометрия соотносится с другим ведущим кандидатом на подтверждение личности, проверкой на основе социального графа?

Помимо биометрических подходов, основным другим претендентом на доказательство личности до сих пор была проверка на основе социального графа. Все системы верификации на основе социальных графов работают по одному и тому же принципу: если существует ряд существующих верифицированных удостоверений личности, подтверждающих подлинность вашей личности, то, вероятно, и вы действительны являетесь таковыми и также должны получить статус верифицированного.

Если только несколько реальных пользователей (случайно или злонамеренно) верифицируют поддельных пользователей, то вы можете использовать базовые методы теории графов, чтобы установить верхнюю границу количества поддельных пользователей, проверенных системой. Источник: https://www.sciencedirect.com/science/article/abs/pii/S0045790622000611

Сторонники проверки на основе социальных графов часто описывают ее как лучшую альтернативу биометрии по нескольким причинам:

Он не зависит от специального оборудования, что значительно упрощает его развертывание.
Это позволяет избежать постоянной гонки вооружений между производителями, пытающимися создать поддельных людей, и необходимостью обновления Orb, чтобы отбраковать таких поддельных людей.
Он не требует сбора биометрических данных, что делает его более безопасным для конфиденциальности.
Потенциально он более удобен для псевдонимов, потому что, если кто-то решит разделить свою жизнь в Интернете на несколько личностей, которые он хранят отдельно друг от друга, обе эти личности потенциально могут быть проверены (но поддержание нескольких подлинных и отдельных личностей приносит в жертву сетевые эффекты и требует больших затрат, поэтому злоумышленники не могут легко это сделать).
Биометрические подходы дают бинарную оценку «является человеком» или «не является человеком», что является хрупким: люди, которых случайно отвергли, в конечном итоге вообще не получат UBI и, возможно, не смогут участвовать в онлайн-жизни. Подходы, основанные на использование социальных графов, могут дать более детализированную числовую оценку, которая, конечно, может быть умеренно несправедливой по отношению к некоторым участникам, но вряд ли полностью кого-то «обезличит».

Моя точка зрения на эти аргументы заключается в том, что я в основном согласен с ними! Это реальные преимущества подходов, основанных на социальных графах, и к ним следует относиться серьезно. Однако стоит также принять во внимание недостатки подходов, основанных на социальных графах:

Начальная загрузка: чтобы пользователь мог присоединиться к системе, основанной на социальном графе, этот пользователь должен знать кого-то, кто уже находится в графе. Это затрудняет широкомасштабное внедрение и способствует риску исключить целые регионы мира, которым не повезло в начальном процессе bootstrapping.
Конфиденциальность: хотя подходы, основанные на использовании социальных графов, позволяют избежать сбора биометрических данных, они часто приводят к утечке информации о социальных связях человека, что может привести к еще большему риску. Конечно, технология с “нулевым разглашением” может смягчить это (см., например, это предложение Барри Уайтхэта), но взаимозависимость, присущая графу, и необходимость проведения математического анализа на графе затрудняют достижение того же уровня сокрытия данных, который вы можете получить с помощью биометрии.
Неравенство: у каждого человека может быть только один биометрический идентификатор, но богатый человек с хорошими социальными связями может использовать свои связи для создания множества идентификаторов. По сути, та же самая гибкость, которая может позволить системе, основанной на социальном графе, давать несколько псевдонимов человеку (например, активисту), который действительно нуждается в этой возможности, вероятно, будет означать, что более влиятельные люди с хорошими связями могут получить больше псевдонимов, чем менее влиятельные люди с хорошими связями.
Риск провала в централизацию: большинство людей слишком ленивы, чтобы тратить время на то, чтобы сообщать в интернет-приложении, кто является реальным человеком, а кто нет. В результате существует риск того, что система со временем станет отдавать предпочтение «легким» способам регистрации, которые зависят от централизованных орагнов, и «социальный граф», который пользуется система де-факто, станут социальным графом того, страны которого признают тех или иных гражданами, что дает нам централизованный KYC с ненужными дополнительными шагами.

Совместимо ли доказательство личности с псевдонимом в реальном мире?

В принципе, доказательство личности совместимо со всеми видами псевдонимов. Приложения могут быть разработаны таким образом, что человек с одним ID может создать до пяти профилей в приложении, оставляя место для псевдонимных учетных записей. Можно даже использовать квадратичные формулы: N составляет стоимость $N². Но будут ли они это делать?

Пессимист, однако, может возразить, что наивно пытаться создать более дружественную к частной жизни форму идентификации и надеяться, что она действительно будет принята должным образом, потому что власть предержащие не заботятся о конфиденциальности, и если влиятельный субъект получает инструмент, который можно использовать для получения гораздо большего количества информации о человеке, он будет использовать его таким образом . В таком мире, утверждает аргумент, единственный реалистичный подход — это, к сожалению, бросить песок в механизмы любого решения для идентификации и защитить мир с полной анонимностью и цифровыми островами сообществ с высоким уровнем доверия.

Я понимаю причину такого мышления, но я беспокоюсь, что такой подход, даже в случае успеха, приведет к миру, в котором никто не сможет противодействовать концентрации богатства и централизации управления, потому что один человек всегда может притвориться десятью тысячами. Такие точки централизации, в свою очередь, было бы легко захватить власть имущими. Скорее, я бы предпочел умеренный подход, при котором мы решительно выступаем за решения, основанные на доказательства личности, чтобы они обладали высокой степенью конфиденциальности, при желании могли бы даже включать механизм «N учетных записей за N²» на уровне протокола, и создавать что-то, что имеет ценности, благоприятные для конфиденциальности, и имеет шанс быть принятым внешним миром .

Итак… что я думаю?

Идеальной формы доказательства личности не существует. Вместо этого мы имеем, как минимум, три различных парадигмы подходов, каждая из которых имеет свои уникальные сильные и слабые стороны. Сравнительная таблица может выглядеть следующим образом:

В идеале мы должны относиться к этим трем методам как к взаимодополняющим и комбинировать их между собой. Как показала индийская компания Aadhaar, преимущества биометрии на специализированном оборудовании заключаются в том, что она обеспечивает безопасность в больших масштабах. Они очень слабы в плане децентрализации, хотя это можно решить, привлекая к ответственности отдельные Orb. Универсальные биометрические системы сегодня можно очень легко внедрить, но их безопасность быстро снижается, и они могут работать только в течение 1–2 лет. Системы на основе социальных графов, созданные из нескольких сотен человек, социально близких к команде основателей, скорее всего, будут постоянно искать компромисс между полным отсутствием информации о значительной части мира и уязвимостью для атак внутри сообществ, о которых они не имеют представления. Однако система на основе социальных графов, созданная на базе десятков миллионов владельцев биометрических удостоверений личности, действительно может работать. Биометрическая загрузка может работать лучше в краткосрочной перспективе, а методы, основанные на социальных графах, могут быть более надежными в долгосрочной перспективе и со временем брать на себя все большую долю ответственности по совершенствования алгоритмов.

Возможный гибридный путь

Все эти команды могут совершить множество ошибок, и неизбежно возникнут противоречия между интересами бизнеса и потребностями сообщества, поэтому необходимо проявлять большую бдительность. Как сообщество, мы можем и должны расширять зоны комфорта всех участников в отношении открытого доступа к своим технологиям, требовать аудита со стороны третьих лиц и даже написанного третьими лицами программного обеспечения, а также других сдержек и противовесов. Нам также необходимо больше альтернатив в каждой из трех категорий.

В то же время важно признать уже проделанную работу: многие команды, работающие с этими системами, продемонстрировали готовность относиться к конфиденциальности гораздо серьезнее, чем практически все правительственные или крупные корпоративные системы идентификации, и это успех, на который мы должны опираться и развивать.

Проблема создания эффективной и надежной системы подтверждения личности, особенно в руках людей, далеких от существующего криптосообщества, кажется довольно сложной. Я определенно не завидую людям, пытающимся решить эту задачу, и, вероятно, потребуются годы, чтобы найти работающую формулу. Концепция доказательства личности в принципе представляется очень ценной, и хотя различные ее реализации имеют свои риски, отсутствие доказательства личности тоже имеет свой риск: мир, в котором нет доказательства личности, кажется более вероятным миром, в котором доминируют централизованные решения для идентификации, деньги, небольшие закрытые сообщества или некоторая комбинация всех трех этих факторов. Я с нетерпением жду дальнейшего развития во всех типах доказательств личности и надеюсь, что в конечном итоге различные подходы объединятся в единое целое.