Создатель мессенджера Signal Мокси Марлинспайк стремится аналогичным образом произвести революцию в чат-ботах, добавив уровень анонимности. Она разрабатывает ИИ-помощник Confer с открытым исходным кодом, который гарантирует, что пользовательские данные будут недоступны операторам платформы, хакерам, правоохранительным органам или кому-либо еще, кроме самих владельцев учетных записей.
Служба, включая ее большие языковые модели и серверные компоненты, полностью работает на программном обеспечении с открытым исходным кодом, существование которого может быть криптографически проверено пользователями. Данные и разговоры, исходящие от пользователей, а также ответы языковых моделей шифруются в доверенной среде выполнения (TEE), что не позволяет администраторам серверов даже просматривать или изменять данные. Разговоры сохраняются Confer в том же зашифрованном виде с использованием ключа на устройствах пользователей.
Как и Signal, Confer отличается простотой внутренней структуры и дизайна.
В настоящее время все основные платформы искусственного интеллекта обязаны передавать пользовательские данные правоохранительным органам или частным лицам в ходе судебных разбирательств. Даже если пользователи откажутся от долгосрочного хранения данных, разработчик ИИ сам может сохранить информацию. Например, в мае прошлого года суд обязал OpenAI сохранять все журналы пользователей ChatGPT, включая удаленные и приватные чаты, записанные через службу API.
Эксперт по защите данных, известный под псевдонимом Эм, назвал ИИ-помощников «заклятыми врагами» защиты данных, поскольку их полезность зависит от сбора огромных объемов данных из множества источников, включая отдельных лиц.
«Модели ИИ по своей природе являются сборщиками данных. Они полагаются на сбор больших объемов данных для обучения, улучшения, эксплуатации и персонализации. В большинстве случаев эти данные собираются без явного и осознанного согласия (от неосведомленных участников исследования или пользователей платформы) и передаются частным компаниям, у которых есть множество стимулов делиться ими и монетизировать их.«, — рассказывает она Арсу.
Отсутствие пользовательского контроля особенно проблематично, учитывая характер взаимодействия внутри LLM, говорит Марлинспайк. Пользователи часто воспринимают диалог как задушевную беседу, делясь своими мыслями, страхами, проступками, деловыми операциями и секретами. Это взаимодействие радикально отличается от традиционного поиска в Интернете, который обычно придерживается транзакционной модели: ключевые слова — это входные данные, а ссылки — выходные данные.
Разработчик сравнивает использование искусственного интеллекта с похвалами: «озеро данныхВ ответ компания Marlinspike разработала и протестировала Confer. Подобно тому, как Signal использует шифрование, чтобы сообщения были доступны для чтения только участникам разговора, ИИ-помощник защищает запросы пользователей, ответы ИИ и любые данные, которые они содержат. Как и в Signal, у отдельных пользователей нет возможности подключиться к реальным личностям других пользователей через адреса электронной почты, IP-адреса или другие данные.
«Характер взаимодействия принципиально иной, поскольку он личностный. Было действительно интересно, вдохновляюще и удивительно услышать истории от людей, которые использовали Confer и вели беседы, которые изменили их жизнь, отчасти потому, что они не чувствовали себя свободными делиться информацией в беседах ChatGPT или имели основанную на данных информацию, которой они раньше не могли свободно делиться в ChatGPT, но теперь могут делать это, используя такую среду, как Confer.— говорит Марлинспей.
Пароли являются ключевым элементом шифрования Confer. Этот признанный в отрасли стандарт генерирует 32-байтовую пару ключей шифрования, уникальную для каждой службы, к которой подключается пользователь. Открытый ключ отправляется на сервер. Закрытый ключ хранится только на устройстве пользователя, на защищенном оборудовании, к которому хакеры не имеют доступа. Пароли обеспечивают двухфакторную аутентификацию и могут быть настроены для входа в учетную запись с использованием отпечатка пальца, сканирования лица, PIN-кода или пароля для разблокировки устройства.
Confer Memory позволяет синхронизировать сообщения между другими устройствами.
Удаленная аутентификация позволяет любому по крупицам воспроизводить выходные данные, проверяя, что сервер использует только общедоступные прокси-серверы и программное обеспечение для обработки изображений. Для дальнейшей проверки правильности работы Confer каждый выпуск подписывается цифровой подписью и публикуется в журнале прозрачности.
Встроенная поддержка Confer доступна в последних версиях macOS, iOS и Android. В Windows пользователи должны установить боковой аутентификатор. Поддержка Linux также отсутствует, хотя расширение доступно.
Еще одно общедоступное решение LLM, предлагающее сквозное шифрование (E2EE), — Lumo, предоставленное европейской компанией Proton. Он использует тот же механизм шифрования, что и Proton Mail, Drive и Calendar. Базовый механизм значительно сложнее, чем у Confer, поскольку он опирается как на симметричные, так и на асимметричные ключи. Однако конечный результат для пользователя во многом тот же.
По словам представителей Proton, после аутентификации аккаунта все разговоры, данные и метаданные шифруются симметричным ключом, принадлежащим только пользователю. Пользователи могут хранить зашифрованные данные на серверах Proton для синхронизации со своим устройством или удалять их сразу после завершения вызова.
Третий поставщик услуг LLM, обещающий конфиденциальность, — это Венеция. Он хранит все данные локально, т.е. на устройстве пользователя.
Напомним, глава мессенджера Signal предупредил Германию о новом шпионском законе Брюсселя.
` ); const randomIndex = Math.floor(Math.random() * Banners.length); document.getElementById(‘kaldata-random-banner’).innerHTML = баннеры(randomIndex); })();
