Что произошло
Редмонд, штат Вашингтон, 20 мая 2024 года. Специальное мероприятие Microsoft. Сатья Наделла, генеральный директор компании, представляет новую категорию компьютеров — Copilot+ PC — и их главную функцию: Recall.
Идея проста и амбициозна. Компьютер запоминает всё, что вы делаете. Каждые несколько секунд Recall делает снимок экрана и сохраняет его на устройстве. Локальная AI-модель, работающая на NPU (Neural Processing Unit — нейронном процессоре, встроенном в новые чипы Qualcomm Snapdragon X), анализирует содержимое: распознаёт текст, идентифицирует приложения, индексирует изображения. Накапливается временная шкала — «фотографическая память вашего ПК», как сформулировала Microsoft.
Хотите найти рецепт, который видели три недели назад в браузере? Спросите Recall. Нужно вспомнить, какие числа были в таблице Excel во время совещания? Recall покажет снимок экрана с той минуты. Забыли название отеля из чата с другом? Recall найдёт.
Презентация выглядела как демонстрация будущего. Через сорок восемь часов началась буря.
Кевин Бомонт (Kevin Beaumont), известный исследователь кибербезопасности, получил доступ к превью-версии Recall и опубликовал анализ. Его находки были катастрофическими для Microsoft.
Первое: снимки экрана сохранялись в незашифрованной базе данных SQLite. Любое приложение с правами текущего пользователя могло прочитать всю историю. Вредоносная программа, получившая доступ к компьютеру, получала доступ ко всему, что пользователь когда-либо видел на экране.
Второе: Recall не фильтровал содержимое. Пароли, введённые в поля ввода. Номера банковских карт на страницах оплаты. Медицинская переписка. Интимные фотографии. Конфиденциальные рабочие документы. Всё записывалось, всё индексировалось, всё хранилось в открытом виде.
Третье: функция была включена по умолчанию. Пользователь, купивший Copilot+ PC, начинал записывать свою цифровую жизнь с первого включения — если не нашёл настройку и не отключил её вручную.
Бомонт написал: «Microsoft буквально встроила кейлоггер в Windows и назвала это фичей». Пост стал вирусным. К дискуссии подключились эксперты по информационной безопасности, журналисты, регуляторы. Британский Information Commissioner’s Office (ICO) запросил у Microsoft объяснения. Американский Electronic Frontier Foundation (EFF) опубликовал детальный разбор рисков.
13 июня 2024 года, за неделю до запланированного релиза Copilot+ PC, Microsoft отложила выпуск Recall. Компания объявила, что функция перейдёт из «включена по умолчанию» в opt-in — пользователь должен сознательно активировать её. Recall ушёл в доработку.
Октябрь 2024 года: Microsoft перезапускает Recall в программе Windows Insider с существенными изменениями. База данных теперь зашифрована. Доступ к Recall требует аутентификации через Windows Hello (биометрия или PIN). Добавлена возможность исключать приложения и сайты из записи. Чувствительная информация (номера карт, пароли) фильтруется автоматически. Пользователь может удалить записи за любой период. Recall не активируется, пока пользователь не пройдёт через экран настройки и не согласится явно.
Технически — шаг вперёд. Но ущерб репутации уже был нанесён. Слово «Recall» стало нарицательным для случая, когда технологическая компания переоценивает готовность общества к наблюдению.
Контекст эпохи
История Recall не уникальна. Она встроена в длинную цепочку конфликтов между технологическими компаниями и обществом по поводу границ наблюдения.
Google Glass (2013) — камера на лице. Общество отвергло не технологию, а намерение: постоянно записывающее устройство в общественном пространстве нарушало неписаный социальный контракт. Люди в барах и ресторанах не давали согласия на запись.
Edward Snowden (2013) — разоблачение программ массовой слежки АНБ. Миллионы людей впервые осознали, что их цифровая активность записывается и анализируется. Это изменило отношение к приватности: из абстрактного понятия она стала конкретной тревогой.
Cambridge Analytica (2018) — данные 87 миллионов пользователей Facebook использованы для политического таргетинга без их ведома. Скандал привёл к слушаниям в Конгрессе, штрафу Facebook на $5 миллиардов и ускорил принятие GDPR в Европе.
На этом фоне к 2024 году сложились два конкурирующих подхода к AI и данным.
Apple выбрала стратегию privacy-first. Apple Intelligence, анонсированная на WWDC в июне 2024 года, делала максимум вычислений локально, на устройстве. Когда требовались облачные мощности — использовался Private Cloud Compute с архитектурой, не позволяющей Apple читать данные пользователей. Тим Кук годами повторял: «Приватность — фундаментальное право человека». Это стало конкурентным преимуществом и маркетинговым инструментом.
Samsung Galaxy AI (январь 2024) — AI-функции в смартфонах Galaxy S24: перевод в реальном времени, редактирование фото, суммаризация текста. Samsung честно предупредил: часть данных обрабатывается на серверах. Вопрос «где обрабатываются мои данные?» стал для пользователей таким же важным, как «что умеет устройство?».
Microsoft с Recall выбрала третий путь: локальная обработка (на NPU), но без адекватной защиты локально хранимых данных. Иронично: идея была правильной — обрабатывать всё на устройстве, не отправлять в облако. Реализация — катастрофической. Незашифрованная база данных с полной историей действий пользователя — это хуже облака: злоумышленнику не нужно взламывать серверы Microsoft, достаточно получить доступ к одному ноутбуку.
Значение для UX
Recall стал самым ярким кейсом 2024 года для иллюстрации конфликта, который определит UX на ближайшие десятилетия: удобство против приватности.
Парадокс тотальной памяти. С точки зрения чистой продуктивности, Recall — мечта. Человеческая память ненадёжна: мы забываем, где видели информацию, путаем источники, тратим время на повторный поиск. Компьютер, который помнит всё, решает реальную проблему. Но тотальная память компьютера — это тотальный доступ к жизни пользователя. Пароли, переписка, медицинские данные, финансы, личные фотографии — всё в одной базе. Баланс между пользой и риском — не техническая задача. Это дизайнерская задача: где провести границу?
Opt-in vs. opt-out — не формальность. Первоначальное решение Microsoft включить Recall по умолчанию — классический тёмный паттерн «forced continuity» в новом обличье. Пользователь не просил записывать свою активность — но запись уже шла. Переключение на opt-in после скандала — не только уступка критикам, но и признание принципа: наблюдение требует осознанного согласия. Этот принцип, закреплённый в GDPR (2018), стал фактическим стандартом для любого AI-продукта, собирающего данные пользователя. Для UX-дизайнеров урок конкретен: любая функция, записывающая действия пользователя, должна быть выключена по умолчанию, а процесс включения — прозрачным и информированным.
«Жуткая долина» AI-помощников. Recall показал, что AI-продукты подвержены собственной версии «зловещей долины». Когда компьютер запоминает немного — это удобно (история браузера, недавние файлы). Когда запоминает всё — это пугает. Между «немного» и «всё» — зона дискомфорта, где пользователь не уверен, что именно записано и кто может это увидеть. UX-задача — не устранить наблюдение, а сделать его видимым и контролируемым: что записывается прямо сейчас? Кто имеет доступ? Как удалить? Recall после доработки добавил эти элементы управления — но их отсутствие в первой версии стоило Microsoft месяцев репутационного ущерба.
Локальный AI — не гарантия приватности. Microsoft рекламировала Recall как локальную функцию: данные не уходят в облако, обработка — на NPU устройства. Это позиционировалось как преимущество перед облачными сервисами. Но Бомонт показал: локальное хранение без шифрования хуже облачного с шифрованием. Облачные серверы Microsoft защищены командами безопасности; ноутбук в кофейне — нет. Для UX-дизайнеров это уточнение: «локальная обработка» — маркетинговый аргумент, а не гарантия безопасности. Пользователю нужно не местоположение данных, а контроль над ними.
Регуляторная реакция как UX-фактор. Запрос ICO, реакция EFF, обсуждения в Конгрессе — всё это повлияло на финальный дизайн Recall не меньше, чем обратная связь от пользователей. Цифровая доступность показала, как законы меняют интерфейсы. Recall показал, что законы о приватности становятся таким же фактором проектирования, как требования доступности. UX-дизайнер 2025 года не может игнорировать GDPR, CCPA и их аналоги — они определяют, какие данные можно собирать, как их хранить и как дать пользователю контроль.
История Recall — не о Microsoft. Она о границе, которую каждый AI-продукт должен провести. Каптология двадцать лет назад описала, как технология формирует поведение. AI 2024 года добавил новый масштаб: технология, записывающая и анализирующая всё поведение пользователя, способна предлагать невероятно точные рекомендации — но ценой, которую общество пока не готово платить. Recall запомнился индустрии не как продукт, а как предупреждение: самая мощная AI-функция бесполезна, если пользователь ей не доверяет.
Связанные статьи
- Что такое UX — Recall показал, что доверие — такой же компонент пользовательского опыта, как скорость или удобство. Функция может быть полезной и при этом неприемлемой.
- Эвристики Нильсена — эвристика «свобода действий пользователя» (user control and freedom) прямо применима к Recall: пользователь должен контролировать, что записывается и как это удалить.
Из серии «История UX»:
- AI и UX: от AlphaZero к ChatGPT (2017–2023) — AI в каждом устройстве. Recall — следующий шаг: AI, который не отвечает на вопросы, а молча записывает и анализирует всё, что видит пользователь.
- Тёмные паттерны (2010) — включение Recall по умолчанию — тот же принцип, что и forced continuity: пользователь не просил, но уже подписан. Бриньолф каталогизировал манипуляции с кнопками; Recall — манипуляция с настройками по умолчанию.
- Цифровая доступность: от гайдлайнов к законам (2019–2022) — регулирование как ответ на злоупотребления. ICO и EFF среагировали на Recall так же, как регуляторы среагировали на недоступные сайты: законы формируют интерфейсы.
- Каптология (1996) — технология как инструмент влияния. Recall — иллюстрация каптологии наоборот: технология, которая должна была помогать, вызвала отторжение из-за нарушения доверия.