Боевое применение метода парных сравнений

27 сентября 2017
27 Сентябрь

Внешний вид нашего сайта www.usabilitylab.ru не менялся с 2009 года и морально устарел. В этом году мы решили обновить его: упростить структуру, переписать тексты, а самое главное — принципиально изменить дизайн.

В выборе дизайна всегда есть некоторая доля произвольности. Исходя из потребностей пользователей и анализа их поведения можно разработать требования к наполнению страниц и структуре сайта, но почему в оформлении страниц использованы те или иные решения в лучшем случае объясняется брендбуком.

Мы должны были выбрать такой дизайн, который понравился бы пользователям, и обосновать это руководству. Если бы дизайн вызвал резкое отторжение у пользователей, все работы по обновлению сайта пропали бы зря. Если бы руководство не одобрило дизайн, мы бы не смогли сдать проект. Поэтому нам надо было сначала собрать требования к дизайну у руководства, а потом проверить, как на него реагируют потенциальные посетители нового сайта. Мы использовали для этого метод парных сравнений, немного адаптировав его под свои задачи.

Что такое «метод парных сравнений»?

Метод парных сравнений позволяет выбрать один вариант из нескольких, когда критерий выбора прямо или косвенно связан с эмоциями, поэтому его трудно обосновать. Если вам надо определиться, что вкуснее (яблоки, груши, апельсины или персики), работать в какой компании лучше (Google, Apple, Amazon или Facebook), или что надеть сегодня на прогулку (куртку, свитер или толстовку), метод парных сравнений поможет это сделать.

Автор метода — Луис Леон Терстоун, один из основоположников психометрии, науки об измерении психических процессов. В некоторых источниках можно найти утверждение о том, что Терстоун разработал этот метод, чтобы составить шкалу тяжести преступлений.

Чтобы провести исследование, из всех вариантов составляют пары так, чтобы перебрать все возможные сочетания. Респондентов просят выбрать из каждой пары вариант, который кажется им более подходящим по заданному исследователем критерию (например, «какой вариант главной страницы привлекательнее»). Побеждает тот вариант, который выбирали чаще остальных.

Инструменты для исследования

В интернете можно найти сервисы, позволяющие использовать метод парных сравнений для принятия решений (например, 1000minds или TransparentChoice), или даже мобильные приложения. Однако они не подходят для наших целей, потому что не позволяют загружать изображения и привлекать к оценке респондентов. Некоторые сервисы проведения опросов (например, Oprosso) позволяют предъявлять респондентам пары изображений, но не дают ограничивать время предъявления, предъявлять изображения нужного исследователю масштаба и не учитывают еще с десяток тонкостей, важных для исследования графического дизайна.

 

MyDecision – Smart Comparisons — приложение для выбора из нескольких альтернатив методом парных сравнений. Можно использовать его, чтобы решить, в какой бар пойти или какой смартфон выбрать

 

Поэтому мы попросили наших разработчиков сделать нам собственный сервис для парных сравнений. Он позволяет показывать изображения через браузер, проводить небольшие опросы, например, чтобы узнать социально-демографические данные респондентов и получить от них обратную связь о причинах выбора, а самое главное — для нас он бесплатен.

 

                                         Так выглядят пары изображений, предъявляемые через собственный сервис USABILITYLAB

 

Способ применения 1: выбор лучшего варианта

Выбор лучшего варианта из нескольких — классический способ применения метода. Чтобы провести такое исследование, надо соблюдать несколько простых требований.

  1. Сравнивать можно только однотипные объекты. Выбирая одежду для прогулки, можно сравнивать куртку с толстовкой, но нельзя — куртку с джинсами; выбирая дизайн для сайта, можно сравнивать разные варианта дизайна главных страниц, но нельзя сравнивать главные страницы с внутренними. В противном случае результаты будут бессмысленными.
  2. Время предъявления должно составлять 3-5 секунд. Если у респондентов есть больше времени, они начинают рассматривать изображения, вчитываться в тексты и оценивать варианты не по тому критерию, который вы им задали (например, «привлекательность»), а по собственному, неизвестному вам (например, «информативность текстов»).
  3. По этой же причине лучше постараться сделать все варианты максимально похожими по тем параметрам, которые не должны влиять на решение. Если вы сравниваете варианты дизайна, постарайтесь сделать одинаковыми все тексты и фотографии на страницах, в противном случае респонденты начнут сравнивать их.
  4. Каждая пара должна появляться как минимум два раза. Во второй раз варианты следует поменять местами: тот, который был слева, разместить справа. Это нужно для того, чтобы исключить влияние на результаты тех респондентов, которые в силу инерции, желания побыстрее закончить исследование или других, неизвестных нам, причин, чаще выбирают вариант, расположенный с одной и той же стороны экрана (например, чаще выбирают любые варианты, расположенные слева).

Подобное исследование мы проводили для банка Русский Стандарт. Нам необходимо было оценить варианты дизайна главной и двух внутренних страниц мобильного приложения банка. Сравнивался старый дизайн с тремя новыми вариантами.

 

Варианты дизайна главной страницы мобильного приложения банка Русский Стандарт. 0 — старый дизайн, 1, 2, 3 — новые варианты

 

Из всех вариантов мы составили пары: главный экран с главным экраном, внутренние экраны с внутренними. Все пары загрузили в свое веб-приложение. Каждая пара предъявлялась дважды, таким образом, каждый вариант респонденты видели по 12 раз: 6 слева и 6 справа. Всего респонденты оценили 72 пары. В итоге победил вариант 1: его выбирали в 69% случаев. Старая версия интерфейса получила самую худшую оценку: ее выбирали лишь в 35% случаев.

Способ применения 2: сбор требований к дизайну

Если показать человеку страницу какого-нибудь сайта и спросить: «Нравится ли она тебе?», то, скорее всего, ничего конкретного в ответ услышать не получится. Вам ответят, что да, в целом нравится, или нет, в целом как-то не очень. Если предъявлять страницы в паре и спрашивать: «Какая лучше?», сразу появляется материал для обсуждения: эта страница лучше, потому что на ней, например, использован крупный шрифт, белый фон, а в левом нижнем углу нарисован котенок.

Именно таким образом мы собирали требования к сайту у нашего руководства. Мы нашли несколько русских и зарубежных корпоративных сайтов, дизайн которых мог бы стать источником вдохновения для нашего собственного. Затем мы распечатали главные страницы этих сайтов и пришли с ними к нашему генеральному директору. Мы показывали распечатки парами и спрашивали, какой вариант лучше и почему. Так мы выяснили, на какие элементы она обращает внимание, что ей нравится, а что наоборот, кажется отталкивающим.

На основании этих требований мы составили техническое задание для дизайнера. Дизайнер подготовил для нас шесть вариантов главной страницы, и один из них, согласовав это с руководством, мы тут же приняли в работу.

 

                                                                 Шесть вариантов главной страницы нового сайта USABILITYLAB

 

Осталось проверить, какую реакцию вызовут эти варианты среди потенциальных посетителей сайта, особенно тот, который мы сами выбрали для себя. В первую очередь нас волновали проявления негативных эмоций: если бы «наш» вариант вызвал бы резкое отторжение, дизайн пришлось бы переделывать. Если бы негативные эмоции вызвали другие варианты, это послужило бы дополнительным подтверждением правильности нашего выбора.

Способ применения 3: сбор обратной связи от целевой аудитории

Чтобы собрать обратную связь от целевой аудитории, мы решили показать им все шесть вариантов дизайна под видом исследования методом парных сравнений. Мы опять использовали наш онлайн‑сервис.

Респондентов для исследования мы привлекали через Facebook. Для этого Дмитрий Силаев создал пост с приглашением на исследование, где рассказал о его сути и обещал вознаграждение участникам.

 

                               Пост Дмитрия Силаева с приглашением на исследование

 

Нас не очень интересовало, какой вариант победит; гораздо важнее нам были комментарии респондентов, полученные через фейсбук или через форму обратной связи в конце исследования. Поэтому мы пошли на некоторые методологические погрешности: увеличили время предъявления с 5 до 120 секунд и показывали каждую пару только один раз, иначе исследование заняло бы слишком много времени.

Нам удалось собрать около 300 анкет, из них целиком заполненных было 140. Большинство комментариев, которые мы получили, были связаны с содержанием использованных на макетах фотографий. Например, одна респондентка написала, что «фотка ребенка в одном из дизайнов такая милая, что постоянно хотелось выбирать этот дизайн». Хотя «наш» вариант и не победил, он занял почетное третье место, и нам удалось получить обратную связь от «поклонников», а значит, все наши цели были достигнуты.

Заключение

Метод парных сравнений помогает выбрать лучший вариант из нескольких, но этим его применение не исчерпывается. Использовав его, мы смогли собрать требования к дизайну своего нового сайта, а потом сдать этот дизайн руководству. Работы над сайтом почти закончены: сейчас идет шлифовка текстов и проверка доступности сайта для слабовидящих. Так что совсем скоро вы сможете оценить его лично.

После того, как мы провели вебинар, в котором рассказали о методе, к нам обратились представители Oprosso. Мы выслали им список рекомендаций, какие функции следует добавить в их сервис, чтобы с его помощью можно было проводить полноценные исследования методом парных сравнений. Теперь мы будем следить за обновлениями этого сервиса, и, если наши рекомендации будут реализованы, будем использовать его на некоторых своих проектах.

Также мы планируем развивать свой сервис парных сравнений. Например, мы поставили нашим разработчикам задачу сделать интерфейс сервиса адаптивным, чтобы респонденты могли проходить исследование с разных устройств. Также мы собираемся улучшить работу с результатами исследования: добавить возможность выгружать результаты в любой момент и фильтрацию по времени и полноте заполнения анкет.

Если у вас есть задачи, похожие на те, что мы описали в этой статье, напишите нам на info@usabilitylab.ru. Мы предоставим вам доступ к своему сервису и поможем спланировать исследование.

Подписывайтесь на наш Телеграм, чтобы не пропустить выход новых полезных статей!

Оценка графического дизайна. Метод парных сравнений

Россия
129085, г.Москва, ул. Годовикова д.
9, стр. 2, подъезд 2.1, офис 2.22