В эпоху персонального ИИ начали активно формироваться цифровые двойники для различных задач в разных областях человеческой жизни. И даже за её пределами (подразумеваются попытки воспроизведения цифровой личности умерших людей, созданные не только в то время, когда те были ещё живы, но и после их смерти). Некоторые экспериментаторы сами создают подобные копии на основе личных собственных данных и обучают их на существующих текстах, публичных интервью или презентациях, стремясь имитировать свои интеллектуальные знания, стиль и поведение отдельного человека. Одним из ярких примеров является сервис философского ИИ-агента «LuFlot», созданный на основе корпуса работ профессора Лучано Флориди, ведущего мыслителя в области философии информации и цифровой этики. Сервис не просто расширяет интеллектуальное присутствие этого профессора Йельского университета в сети интернет и это не научно-фантастическая концепция, а существующий текстовый инструмент для общения, позволяющий его студентам и последователям взаимодействовать с идеями этого человека посредством диалога с версией нейросети. ИИ-агент позволяет вести концептуальные дебаты, обучаясь в процессе таких диалогов, параллельно давая материал для дальнейших исследований автору проекта.
Другие известные мыслители и деятели также экспериментируют с инструментами, позволяющими создавать цифровые версии самих себя. Эти ИИ-агенты, работающие на основе мощных серверных решений, могут «оживлять» умерших знаменитостей, предоставлять доступ к знаниям, обучать, консультировать и даже вести переговоры от имени своего «человеческого» «принципала». Распространение цифровых копий поднимает насущные вопросы. Кто контролирует данные на серверах дата-центров? Какие права сохраняют за собой люди, когда их синтетическая личность таким образом воспроизводится? Какие обязательства ложатся на разработчиков или создателей? Такое этическое обсуждение необходимо, но недостаточно.
Уже предлагаются различные варианты структур, которые объединяют этические условия с юридически обязательными правами и надёжной архитектурой данных. Это необходимо, если эти системы подразумеваются соответствующими человеческому достоинству той личности, которую они представляют. Предлагается пока пять условий этической допустимости: согласие, минимальная положительная ценность, прозрачность, смягчение вреда и контекстная целостность.
Эти условия служат практически базовым контрольным списком для цифровых двойников. Согласие означает, что дублирование невозможно без разрешения. Принцип минимальной положительной ценности требует, чтобы дубликаты служили конструктивной цели, а не просто тривиальным или вредным целям. Прозрачность гарантирует, что люди знают, когда они взаимодействуют с цифровым двойником, а не с реальным человеком. Снижение вреда обязывает создателей предвидеть и предотвращать предсказуемый вред, такой как ущерб репутации или обман. Контекстная целостность гарантирует, что цифровые агенты появляются только в соответствующих условиях, сохраняя подлинность и избегая подмены человеческого присутствия.
Но у этого подхода есть, как сильные, так и слабые стороны: принцип минимальной положительной ценности игнорирует проблему функциональной дефицитности — снижение ценности при клонировании редких талантов. А технологическое посредничество рискует привести к снижению ключевых человеческих способностей, таких как практическая мудрость и метапознание. Даже соблюдение всех условий не является одобрением цифрового копирования, а просто устанавливает этические границы. Если условия соблюдены, копирование может быть этически допустимым, хотя и не обязательно желательным или разумным. В противном случае этих действий следует избегать. В этом смысле разработанный свод правил функционирует, как моральная страховочная сеть: набор минимальных требований, призванных предотвратить наиболее очевидные злоупотребления.
Однако сам подход, по своей сути минималистичен. Он не затрагивает более глубокие вопросы владения данными или неизменность принципов. Кроме того, персональные данные — это не просто сырье для цифрового воспроизведения личности, а неотъемлемая часть человеческой идентичности. Иное отношение к ним означает непонимание их роли в создании цифровых двойников. Человекоцентричная модель сделала бы отдельных лиц, а не владельцев сервера, главными распорядителями «собственных» данных. На практике, у людей должна быть возможность (а также простые в использовании инструменты — например, хранилища персональных данных) — контролировать информацию, использующуюся для создания их цифровых двойников. Такой подход рассматривает персональные данные как продолжение личности, а не как актив, используемый по усмотрению третьих лиц.
Современная парадигма архитектуры хранения данных с приоритетом конфиденциальности по умолчанию, ориентированная на различные сервисы, которыми владеют юрлица, предполагает доступ к любой информации о человеке, если пользователь явно не откажется от обработки и использования этих данных. Большинство цифровых сервисов собирают всю информацию по умолчанию, порой не оставляя людям даже возможности бороться за контроль над конфиденциальностью. Правовая основа для цифровых двойников живых людей должна вместо этого принять модель «приватности по умолчанию», при которой данные недоступны никому, если пользователь явно не дал на это согласие. Технически это может включать такие архитектуры, как зашифрованные базы данных с доступом по ключу-токену. То есть людям не нужно бороться за конфиденциальность – а архитектура самой системы должна предполагать её.
Персоналии должны обладать господством над всем стеком данных, составляющими их цифровую идентичность, иметь подлежащие исполнению права исключать любых других лиц, разрешать использование и даже получать выгоду от ценности, которую создают их цифровые копии. Вот тут цифровые двойники обостряют вопросы собственности: если корпорация создаёт копию личности с помощью ИИ – то кому эта копия принадлежит? В рамках модели доминирования данных ответ очевиден — всеми правами должен владеть прототип. Ведь двойник является продолжением человека, поэтому он и должен сохранять за собой окончательные права на его использование, передачу или удаление. Такой подход расширяет возможности отдельных лиц, противодействует концентрации власти крупными платформами и закладывает основу для более демократичной, справедливой и инклюзивной экосистемы данных.
Эти три принципа выходят за рамки этики и затрагивают правовые (а иногда и коммерческие) аспекты, технологическую архитектуру, которая наилучшим образом способствует новому общественному договору, защищающему и приносящему пользу обществу. Принципы частной собственности личности на свои персональные данные доминируют и регулируют контроль над базовой цифровой экосистемой.
Так же, как сегодня почти у каждого есть электронная почта, в ближайшем будущем у большинства людей могут быть (несколько) личных цифровых двойников, чат-ботов под управлением ИИ или других цифровых воплощений, действующих от их имени. Законодательство будущего должно признавать, что цифровые двойники останутся с нами, но только на условиях, сохраняющих человеческое достоинство и автономию. Оно должно рассматривать несанкционированное копирование, как форму кражи личных данных, требовать от разработчиков внедрения механизмов согласия и прозрачности, а также проектировать системы с конфиденциальностью по умолчанию. Необходимо также подтверждать суверенитет личности над данными, которые лежат в основе персонального ИИ. Вопросы правоприменения должны также затрагивать вопросы распоряжения цифровыми активами после смерти владельца. Особенно, если человек не успел (или не захотел) явно заявить своё волеизъявление по данному вопросу. Законодательная база может расширить интеллектуальное присутствие в пространстве и времени, открыть новые пути доступа к знаниям, создать рынки для новых цифровых услуг и поддержать расширение прав и возможностей личности. Но если долго игнорировать разработку новых правил, то цифровые двойники рискуют стать новыми инструментами эксплуатации или мошенничества.