Поскольку в интернет-магазинах появились альтернативные способы оплаты (далее — АСО), такие как PayPal и Afterpay, команда Bolt решила выяснить, где именно в процессе оформления заказа следует размещать информацию о них.
Введение
Мы пытались понять, какой подход эффективнее: отобразить все доступные АСО на более раннем этапе на странице корзины или на более позднем — при оформлении заказа в один клик, а также определить, как лояльность бренда к определенным АСО влияет на то, сколько пользователей приступают к оформлению заказа и завершают этот процесс. Однако необходимо учитывать, что если покупатели заранее видят все доступные способы оплаты, это может вызвать парадокс выбора.
Эксперимент
Мы хотели раз и навсегда разрешить этот спор, и поэтому провели эксперимент, который позволил нам получить необходимые данные и ответить на следующий вопрос:
Как отображение всех доступных способов оплаты в верхней части воронки оформления заказа (например, на странице корзины) по сравнению с нижней частью (например, на этапе оплаты) влияет на попытки оформления заказа и завершение расчетов?
Чтобы ответить на этот вопрос, мы провели A/B-тестирование выборки продавцов:
- Группа А (исследуемая): кнопки для всех АСО отображаются под общей кнопкой оформления заказа на странице корзины. При нажатии на любую из них открывается модальное окно, в котором пользователь завершает стандартную процедуру оформления заказа. Например, если покупатель нажал на Amazon Pay, он сначала попадет в Bolt Checkout, и лишь затем в Amazon Pay для входа в систему и завершения покупки.
Оформление заказа в исследуемой группе
- Группа Б (контрольная): на странице корзины отображается единственная кнопка оформления заказа. АСО доступны на этапе оплаты в модальном окне оформления заказа.
Оформление заказа в контрольной группе (текущее решение Bolt)
Трудности
Экспериментировать с оформлением заказа сложно из-за бесконечных нюансов: авторизованный пользователь vs гость, мобильная версия vs десктопная. Каждый срез функционирует как отдельный A/B-тест, а поскольку мы проводили их одновременно, большое число срезов могло нереалистично увеличить требуемый размер выборки.
Поэтому в первую очередь мы должны были выбрать те срезы, которые охватывали бы наиболее разнообразные ситуации.
В конечном итоге мы измерили как попытки начать оформление заказа, так и случаи успешной оплаты для следующих срезов:
- Все покупатели, которые приняли участие в эксперименте
- Покупатели, которые использовали мобильные устройства
- Покупатели, которые использовали компьютеры
- Покупатели, которые вошли в систему
- Покупатели-гости
Здесь следует отметить несколько важных моментов:
- Полученные данные о поведении вошедших в систему пользователей были ожидаемы. Причина в том, что процесс входа в систему запускается после того, как покупатель нажимает на кнопку оформления заказа. Таким образом, как в исследуемой, так и в контрольной группе к оформлению заказа приступили 100% участников.
- Мы добавили срез для изучения темпов принятия АСО покупателями. Другими словами, сколько пользователей в каждой группе выбрали альтернативный способ оплаты вместо кредитной или дебетовой карты?
Всего мы провели 10 A/B-тестов, по 2 на каждую из 5 групп покупателей: без учета вошедших в систему пользователей, которые начали оформление заказа, и с учетом темпов внедрения АСО. Поскольку мы полагали, что этот эксперимент может оказать значительное влияние на доходы продавцов, мы хотели быть уверены в результатах.
Поэтому мы решили использовать значение p, равное 0,01, в качестве порога статистической значимости (до корректировки порога с учетом количества одновременных тестов).
Результаты
Спустя 2 месяца, изучив более 75 000 покупателей, мы получили результаты.
Как мы и ожидали, в исследуемой группе наблюдалось скромное (~0,86%), но статистически значимое увеличение темпов внедрения АСО.
Когда АСО отображались на странице корзины, покупатели чаще выбирали именно их, а не оплату кредитной или дебетовой картой. И это понятно. В конце концов, если бы мы показали доступные опции в начале оформления заказа, разве не больше покупателей отдали бы им предпочтение?
Что касается всех других срезов: результаты были одинаковыми для 2 групп, но наше решение использовать более строгое значение p было излишне консервативным. Даже при p=0,05 статистически значимой разницы между 2 группами не наблюдалось.
Другими словами, отображение доступных АСО на более ранних этапах оформления заказа не оказало существенного влияния на число попыток оформления заказа или показатели успешной оплаты.
Хотя отображение АСО-кнопок в начале оформления заказа увеличивает процент их применения от общего числа транзакций, это не оказало статистически значимого влияния на число участников, которые приступили к оформлению заказа или успешно оплатили покупки. Эти результаты едины для пользователей мобильных устройств и компьютеров, вошедших в систему клиентов и гостей.
Следующие шаги
Учитывая полученные результаты, мы не будем вкладывать дополнительные средства в разработку пользовательского сценария с отображением АСО на ранних этапах оформления заказа, поскольку в этом случае продавцы не получат никаких значимых преимуществ или существенного роста конверсии. На данный момент мы завершили эксперимент и рекомендуем продавцам вернуться к контрольному варианту.