Второй признак тестирования – тестирование одного элемента на одном отрезке времени.
Наглядный пример – график тестирования кнопок в интернет-магазине Добавить в корзину и Оформить заказ (рис. 9.5). Столбцы – это воронка.
Рис. 9.5.
Одновременное тестирование кнопок Добавить в корзину и Оформить заказЗдесь выиграла версия А. Несмотря на то что в версии Б конверсия стала больше и увеличилось добавление товаров в корзину, покупок стало меньше (последний столбец графика).
Это пример, когда, несмотря на рост конверсии, количество продаж падает. Самым понятным конечным показателем всегда являются ваши деньги.
Однородный трафик
Как упоминалось выше, важно, чтобы трафик был однородным. На рис. 9.6 вы видите классический скриншот, который показывает, что на разных каналах будут разные конверсии, потому что по этим каналам приходят абсолютно разные аудитории.
Конверсия при таргетированной рекламе составляет от 13 до 30 %. TargetMail.ru и контекстная реклама в «Яндекс.Директ» вообще не конвертируют, а все посетители идут на один и тот же сайт. Разные доли этих каналов будут давать разную общую конверсию.
Рис. 9.6.
Разный уровень конверсии на разных каналахУ вас может быть в один момент 100 кликов на «Яндекс.Директ», в другой – 200 кликов на «ВКонтакте», а в третий – 100 на «ВКонтакте» и 200 на «Директ».
Если на этом этапе появляются разные конверсии, то и у вас этот показатель тоже будет «плавать».
Рекомендация:
если вы начинаете первое тестирование трафика, то следует его сделать на каком-нибудь одном источнике.На самом деле выбрать канал для тестирования очень просто. Нужно придерживаться следующих правил.
1. Набор объявлений должен быть единым.
2. Таргетинг не должен меняться, то есть те кампании, которые уже запущены, должны продолжать работать, не следует в них что-то менять или добавлять. У вас должен быть стабильный канал, который будет давать 200 кликов в день. Если кликов будет меньше, вам потребуется гораздо больше времени на проведение этого теста. Если 200 кликов уже есть, то с тестированием можно уложиться в 14 дней.
Ниже приведен список каналов для теста, на которых обычно получается хороший результат. Потом результаты теста можно экстраполировать, то есть проверить ваши догадки по другим каналам:
• «Яндекс.Директ», поиск;
• Google Adwords, поиск;
• «Яндекс.Директ», PCЯ;
• «ВКонтакте», таргетинг;
• TargetMail, таргетинг;
• E-mail, рассылки.
Остальные источники трафика работают значительно хуже. Крайне не рекомендуется использовать их для теста.
Статистически значимые результаты
Мы уже говорили с вами о таком понятии, как дисперсия.
Дисперсия означает отклонение от математического ожидания. По одному лендингу вы можете получить 55 звонков за неделю. Но это не значит, что за следующую неделю вы сможете получить 55 звонков при том же количестве кликов. Их может быть и 60, и 45.
Величина, которая характеризует этот плюс-минус, называется дисперсией. В нашем случае это будет квадратный корень из количества конверсий, которые были получены по сайту. Если у вас было 55 конверсий, то корень примерно равен 7. Если у вас была 121 конверсия, то 11.
У вас также есть дополнительный коэффициент, который характеризует достоверность результатов. Он равен 1, 2 или 3. Если дисперсию умножить на один, то считаем, что результат достоверный на 66 %, то есть в 66 случаев из 100 при перезапуске теста можно получить ту же выигрышную версию.
Чтобы получить достоверность 95 %, нужно умножать уже на 2. Тогда в 95 случаях из 100 мы получим тот же самый результат при перезапуске теста.
Если умножаем на число 3, считается, что результат повторится практически со 100 %-ной вероятностью. Как правило, чтобы использовать множитель 3, нужно достаточно много времени и трафика.
Дальше все просто – сравнивается математическое ожидание и отклонение.
Как следует из рис. 9.7, по версии А было 55 конверсий, по версии Б – 49. Представим это в виде графика. В одном графике конверсия была бы 55, в другом – 49. Нам нужно сравнить, может ли возникнуть такая ситуация, когда при математическом отклонении одна версия будет наезжать на другую?
Рис. 9.7.
Пример 1Как это сделать? Формула элементарная: нужно сначала найти дисперсию, умножить ее на 2, потом вычесть из лучшей версии или прибавить к худшей.
Например, возьмем версию А, по которой было 55 конверсий. Считаем дисперсию: квадратный корень из 55 – это примерно 7. Версия Б: 49 конверсий. Квадратный корень из 49 также равен 7. Теперь нужно уточнить результат 95 %-ной вероятности, для этого нужно взять 7 и умножить на 2.
Итоговый результат с 95 %-ной вероятностью при перезапуске теста:
• версия А = 55 заявок ± 14 = либо 41 заявка, либо 69 заявок;
• версия Б = 49 заявок ± 14 = либо 35, либо 63 заявки.