Если вы уже проводили эксперимент с помощью Google Content Experiments, то, скорее всего, заметили, что система не делит трафик 50/50 между страницами. Показы распределяются по принципу производительности. Это позволяет снизить риск проигрыша во время проведения эксперимента.
Пояснения
После запуска эксперимента в Google Content Experiments трафик будет распределяться не пропорционально между вариантами. Принцип распределения трафика описан как Принцип Гиттинса или Multi-armed bandit problem, http://en.wikipedia.org/wiki/Multi-armed_bandit_problem http://ru.wikipedia.org/wiki/Индексы Гиттинса.
Эксперты Google Analytics до сих не могут прийти к единому мнению о том, какой принцип показов лучше: 50 на 50 или основанный на взвешенной оценке показов. Скорее всего, в обновленной версии инструмента появится возможность выбора стратегии показов.
Шаг 6. Анализ результатов
Через некоторое время в интерфейсе Google Content Experiments вы увидите результаты.
Рисунок 8. Анализ результатов. Вкладка «Конверсия»
Вкладка «Конверсии» - показывает результаты по выбранной вами цели. В нашем случае это «Транзакция».
Также вы можете посмотреть результаты по другим целям, обозначенным на сайте. Или сегментировать аудиторию.
Рисунок 9. Анализ результатов. Вкладка "Набор целей1"
Пояснения
В инструменте Content Experiments есть возможность ограничить процент пользователей, которые будут участвовать в эксперименте. Например, вы можете задать условие: «Показывать эксперимент только 50% посетителей тестируемой страницы».
В инструменте нет возможности ограничить сегмент пользователей, которым будет показываться эксперимент. Например, вы не можете установить условие: «Показывать эксперимент только новым посетителям сайта». Проанализировать результаты эксперимента на сегменте посетителей сайта – возможно. С помощью стандартного инструмента «Расширенные сегменты» в Google Analytics.
Как посчитать вероятность, если цель не являлась основной?
Рекомендуется пользоваться простым инструментом подсчета статистики, созданным в Excel.
Выводы:
Инструмент является бесплатным и позволяет провести наиболее популярный вид тестирования – эксперимент на основе URL. Но сложные эксперименты, описанные ниже, в нем провести невозможно.
Многие помнят Google Website Optimizer. В 2012 году инструмент был интегрирован в Google Analytics и стал назваться Content Experiments. К сожалению, сделав шаг вперед в интеграции, Google совершил два шага назад по функциональности Google Website Optimizer. Вы теперь не можете:
проводить мультивариантное тестирование (тестирование одного или нескольких элементов на нескольких страницах одновременно);
выбирать и задавать процентное распределение трафика между вариантами.
К тому же исчезла «гибкость» инструмента. Но мы уверены, что инженеры Google не оставят рекомендации и предложения по функциональности без внимания и мы в скором времени сможем пользоваться улучшенным и многофункциональным продуктом.
Рассмотрим вторую задачу по тестированию, которую пока невозможно решить с помощью Google Content Experiments. Одновременно исследуем платный инструмент Visual Website Optimizer и его специфику.
7.2.2 Тестируем повторяющиеся элементы сайта на нескольких страницах (элементы шапки, навигацию и т.д.)
Вводная информация по эксперименту: Анализ аудитории и покупок на сайте выявил конверсионный раздел. Условно назовем его «Пазлы». Товары из раздела хорошо продаются, но в раздел приходит малое количество посетителей с сайта, т.к. навигация к нему затруднена. Решено было пересмотреть навигацию к разделу.
Рисунок 10. Пример навигации на сайте
Задача 2: Необходимо протестировать другое расположение категории в меню навигации на сайте. Для того чтобы показать возможности инструмента тестирования, проведем эксперимент на ограниченной аудитории – постоянных покупателях интернет-магазина.
Пояснения
В этом эксперименте нет определенной основной страницы для эксперимента. Изменения происходят на всех страницах сайта в навигации. Поэтому инструмент Google Content Experiments не подходит.
Описанный ниже тип эксперимента можно выбрать, если вы проводите тестирование:
цвета кнопки «Купить» на всех карточках товара;
расположения телефона в шапке сайта и т.п.
Цели эксперимента:
Для эксперимента были выбраны следующие цели, отслеживание которых уже настроено в Google Analytics: