Скажи что-нибудь? За кулисами шаблонных ответов

Вероятнее всего, вы сталкивались с программами, которые предлагают вам на выбор несколько вариантов слов (или фраз), которые вы можете ввести — это называется шаблонами ответов. Например, типичный набор предлагаемых ответов на электронное письмо выглядит примерно так:

Даже если вы дизайнер, который использует эти функции, вы можете не осознавать, как много работы было проведено за кулисами, чтобы создать их.

 В последние годы наша компания работала над функцией, предлагающей шаблоны ответов в группах приложений и сервисов Facebook. Некоторые функции подсказок ориентированы на помощь человеку в более быстром и эффективном наборе текста, например, проверка орфографии или автозамена. В то время как цель наших функций подсказок — вдохновить пользователя или продолжить с ним разговор.

Предлагаемые ответы имеют большую значимость: выбор человеком одного из вариантов таких ответов будет формировать дальнейший диалог между людьми, который они ведут на наших платформах. Это большая ответственность для нас, учитывая нашу миссию — сближать людей и сообщества.

Каждое предложенное слово, фраза или изображение разрабатывается командой специалистов, которые, посредством сочетания человеческой фильтрации и технологии машинного обучения, стремятся обеспечить полезность таких предложений, уместность и контекстуальное соответствие контенту. Данная команда включает специалистов из разных профессий:

• Продуктовых дизайнеров;
• Инженеров;
• Менеджеров проектов;
• Исследователей пользовательского опыта;
• Специалистов по контентной политике;
• Нас — контент-дизайнеров. 

Контент-дизайнеры в Facebook создают коммуникацию, которая появляется во всех наших продуктах. При создании предлагаемых ответов, мы руководствуемся философией Facebook — просто, понятно и по-человечески. 

В данной статье мы предоставим вам обзор процесса разработки предлагаемых ответов, а также советы для контент-дизайнеров, занимающихся аналогичными проектами.

1. Какую роль играют контент-дизайнеры?

У нас есть сотни ответов, которые могут быть полезными для пользователей, однако предложения контента должны получить одобрение специалистов компании Facebook. Именно поэтому нам нужны четкие ограничения для ответов, которые мы предлагаем.

Ключевую роль при разработке предлагаемых ответов играют контент-дизайнеры, которые создают рекомендации относительно того, какие предложения допускаются, а какие — нет. Наиболее существенное влияние, которое контент-дизайнеры оказывают на продукт, разработанный на основе технологии машинного обучения — формирование этого руководства.

Подобно тому, как Facebook применяет стандарты, помогающие оградить людей от вредоносного контента, и технологические фильтры для выявления любого неприемлемого контента, появляющегося в рекламе или результатах поиска, мы, контент-дизайнеры, предлагаем дополнительный уровень проверки того, какие типы предложений должны быть предоставлены приложением или сервисом Facebook, чтобы помочь обеспечить соответствие нашим высочайшим стандартам честности.

Благодаря участию нескольких команд, ролей и дизайнеров контента из семейства приложений и сервисов, мы уделяем приоритетное внимание созданию руководств по темам, которые могут быть вредными или оскорбительными. Цель создания таких руководств — предлагать пользователям полезный и соответствующий их нуждам контент, основываясь на том, что люди на самом деле хотят сказать и понять.

2. Как Facebook создает контент для предлагаемых ответов?

Далее представлен пошаговый обзор процесса разработки этих функций и рекомендации для практикующих специалистов в отношении того, как они могут применять дизайн контента для обеспечения лучшего пользовательского опыта.

Шаг 1. Получите совокупные данные комментариев

Все начинается с того, что команда инженеров извлекает огромный набор данных из совокупности анонимных комментариев, которые чаще всего публикуются. Этот набор данных является основой для модели машинного обучения — алгоритмической модели, которая, опираясь на шаблоны, подбирает наиболее подходящие предложения комментариев для данного фрагмента контента. Например, при рассмотрении предлагаемых ответов на публикацию о животном мы можем ввести данные, которые в целом создадут следующую модель: «Пост о животных должен вызывать такие предложения ответа, как «Мило!»»

Также, мы стараемся удалить фразы, которые в руководстве указаны как недопустимые к использованию, такие как «bblegghhh», «i hate u» или с иным неясным или неприемлемым содержанием. 

Шаг 2. Отфильтруйте данные комментариев

Затем, контент-дизайнеры удаляют предложения, которые не соответствуют рекомендациям, прописанным в руководстве.

 Мы принимаем решения, основываясь на сборнике правил и запретов, разработанном специально для наших продуктов. Данный сборник представляет собой совокупность стандартов наших продуктов и контента. Так, например, он разрешает в качестве предложений использовать некоторые общепринятые сокращения, такие как "LOL" (громко, вслух смеяться), но если они менее понятны или неуместны, например "IDGAF" (мне все равно) — их использование запрещено.

Шаг 3. Распределите комментарии по категориям

Следующий шаг — контент-дизайнеры совместно с инженерами разрабатывают систему классификации различных типов комментариев. Данная система встраивается в модель машинного обучения, что позволяет ей распознавать похожий контент и предлагать его для определенной публикации. Таким образом, мы могли бы сгруппировать ответы, такие как «Вау!» «Круто» и «Очень нравится» вместе и классифицировать их как подходящие, чтобы предлагать их в большинстве постов или историй, которые модель машинного обучения интерпретирует как "посвященные отпуску".

Шаг 4. Отметьте локацию комментариев при необходимости

После этого, мы должны убедиться, что предлагаемые ответы являются понятными и актуальными для человека, получающего предложения, учитывая следующие факторы:

• Место его нахождения в мире (в какой стране он проживает?);
• Язык, на котором он говорит.
  

Это предполагает тесное сотрудничество с нашей командой по интернационализации, чтобы поделиться нашими рекомендациями по процессу локализации. Например, безобидный в каких-то странах жест рукой эмоджи может быть оскорбительным в других, поэтому мы работаем с языковыми менеджерами, представляющими разные страны, чтобы убедиться, что мы проверяем предложения с учетом культурных особенностей.

Шаг 5. Продолжайте развивать модели машинного обучения

В связи с обновлением последних данных, алгоритм постоянно корректируется и совершенствуется, поэтому задача нашей команды разработчиков продукта  — поддерживать модель в актуальном состоянии. Наши команды:

• отслеживают отчеты пользователей, отзывы сотрудников и текущие события;
• следят за тем, чтобы модель машинного обучения учитывала необходимые обновления, включая общекорпоративные списки блокировки спорного или оскорбительного контента.

Например, если эмоджи становится спорным символом, мы можем пересмотреть его включение в набор предложений. Или, если несколько пользователей отправят сообщения о том, что предложенный ответ плохо сочетается с содержанием сообщения или истории, мы скорректируем модель машинного обучения соответствующим образом, чтобы она с меньшей вероятностью сочетала этот ответ с определенным типом публикации.

3. Рекомендации по разработке

Вот некоторые из факторов, которые мы, контент-дизайнеры, учитываем при разработке рекомендаций для предполагаемых ответов пользователей.

Аудитория

Мы разрабатываем руководство, с учетом двух основных типов аудитории:

• Комментатор — это пользователь, который выбирает предложенный ответ из предоставленных ему вариантов. Пока комментатор не выбрал шаблонный ответ, он представляет собой “голос” продукта, а когда комментатор сделал свой выбор в отношении какого-либо ответа, выбранный шаблон отражает “голос” комментатора.
  

• Получатель — это пользователь, который получает шаблонный ответ, выбранный комментатором. Когда комментатор отправит выбранный им шаблонный ответ, получатель не сможет отличить: этот ответ лично написан комментатором или предложен программой.

Искусство и текст

Очевидно, что предложенные ответы в виде художественных иллюстраций (например, стикер с мультяшным животным или человеком) созданы не комментатором, поэтому они имеют меньшую ценность, чем ответ в формате текста или эмоджи.

В некоторых случаях, иллюстрация или фотография может быть более удачной версией шаблона текстового ответа. Например, предложенный ответ “Я люблю тебя” может показаться более подходящим в качестве стикера или подписи к гифке, чем в текстовом формате.

Сленг и неформальный язык

Использование сленга может быть проблематичной задачей, поскольку всегда существует риск того, что он будет воспринят получателями как сложный, отталкивающий или потенциально оскорбительный. Более того, бывает трудно подобрать его таким образом, чтобы он был правильно воспринят всеми регионами и демографическими группами. Мы избегаем орфографических ошибок в написании сленга, даже если они широко используются (например, "woah!"), но разрешаем использовать аббревиатуры и фразы, которые хорошо прижились в языках по всему Интернету, например, "LOL".

Личные качества

Чаще всего, шаблонные ответы, подразумевающие личные качества воспринимаются пользователями оскорбительными и дискриминационными. К ним относятся:

• раса;
• этническая принадлежность;
• цвет кожи;
• национальное происхождение;
• религия;
• возраст, пол;
• сексуальная ориентация, гендерная идентичность;
• семейное положение;
• инвалидность;
• медицинское или генетическое состояние. 

Именно поэтому, как правило, мы избегаем предложенных ответов, которые должны в точности совпадать с характеристиками человека, чтобы быть релевантными (соответствующими запросу).

Неподобающие формулировки, ненормативная лексика или пошлость

Если существует хоть малейшая вероятность того, что какие-то изображения или формулировки могут быть восприняты неуместными, жуткими, странными или иным образом опасными, то лучше их не использовать.

Соображения разнообразия

Важно разработать шаблоны предложенных ответов таким образом, чтобы они не отталкивали людей. Поэтому, при их создании мы рассматриваем множество различных аспектов разнообразия, в том числе задаем себе такие вопросы, как:

• Являются ли шаблоны ответов предвзятыми по отношению к стереотипам пола или расы?

• Есть ли в них западный уклон?

• Предлагаем ли мы ссылки, которые, вероятно, поймут только молодые поколения?

• Смогут ли люди с низким уровнем цифровой и читательской грамотности понять контекст?

• Предполагаем ли мы случаи цифрового "черного лица"?

Сильные эмоции

Предполагаем ли мы или поощряем негативный диалог, используя предлагаемые ответы? Люди могут воспринимать иллюстрации негативных эмоций как более уместные, чем текст, предполагающий, например, грусть или удивление. Если Facebook предлагает вам сказать: "Что за черт?!", это может показаться весьма тревожным, то предложение использовать эмоджи 😯 может показаться не таким уж сильным эмоциональным выражением.

Текущие события

Мы заботимся о своевременности, поскольку знаем, что повторное использование может устареть на платформе с течением времени, а также стараемся учитывать, какие регионы получают эти предложенные ответы, чтобы убедиться, что они актуальны и понятны.

Процесс разработки рекомендаций является постоянным и никогда не завершается, поскольку человек и его коммуникация с другими людьми развивается каждый день, как и предлагаемое нами содержание ответа. Например, функция автозаполнения одной из платформ электронной почты недавно предложила использовать фразу "изменение климата", но все чаще принято (и правильно) говорить "климатический кризис". А такие фразы, как "Эй, ребята" или "Это безумие", которые могли показаться безобидными несколько лет назад, сегодня уже не являются разговорными или культурно приемлемыми.

По мере развития языка нам также необходимо улучшать предлагаемый контент. 

Заметьте разницу между предложенными фразами «изменение климата» и «климатический кризис».

Поскольку технологии подвержены ошибкам, мы должны принять тот факт, что не всегда будем делать все правильно. Некоторые платформы могут по-прежнему предлагать устаревшие фразы, а наиболее распространенные фразы могут казаться странными или смешными, когда их предлагает Facebook. (Вы можете увидеть множество таких примеров в этой группе Facebook, где собраны люди, которые комментируют посты, используя только предложенные ответы). И даже шаблоны предложенных ответов, которые прошли тщательную проверку, могут быть неуместными, если они используются в неправильном контексте.

Выбор одного единственного слова может в корне изменить вектор разговора, поэтому шаблоны предложенных ответов — это мощный инструмент. Более того, это одна из причин того, почему мыслить как контент-дизайнер — увлекательный процесс. 

Принято считать, что контент-дизайнеры озадачены, в основном:

• формулировкой и расположением кнопки;
• перемещением пользователя через набор экранов;
• информационной архитектурой приложения;
• структурой навигационных меток.

Однако дизайн контента, по своей сути, затрагивает всевозможные формы коммуникации, исходящие от наших продуктов.

Вне зависимости от того, пишем мы, чтобы что-то объяснить, направить кого-то куда-то или сымитировать ответ, который человек может захотеть сказать — все слова нужно подбирать с осторожностью.

4. Советы по работе над функциями предложенных ответов

Мы представили некоторые факторы, которые учитываем при составлении руководства для предлагаемых ответов пользователей. Но вам также могут пригодиться наши советы о том, как подойти к этой работе.

Представляйте повседневные сценарии

После того как мы определились с честностью и уместностью ответов, нам также необходимо подумать о разнообразии. Большинство предложенных ответов используется в повседневных разговорах, поэтому, чтобы пользователи не теряли интерес, мы хотим разнообразить ответы. Для особых случаев, таких как дни рождения, люди привыкли к шаблонным комментариям "С днем рождения!" к своим публикациям, но для других бесед, возможно, будет более уместен расширенный выбор предлагаемых ответов.

Рассмотрите наихудшие сценарии

Подумайте о стрессовых ситуациях, редких сценариях, в которых наша функция может показаться неуместной или расстроить. Например, предложение шаблонных реакций к истории о трагедии потенциально оскорбительно, независимо от того, являются ли наши предложения точными или уместными.

Обратите внимание на предлагаемые ответы других программ

Имея опыт взаимодействия с функцией предлагаемых ответов в других технических продуктах, вам будет легче понять:

• Какие ответы кажутся естественными;
• Каковы ожидания пользователей;
• Какие ответы являются неуместными и неестественными.
  

Гордитесь своей человеко-ориентированной, гуманитарной ролью в техническом пространстве

Для человека, не являющегося инженером, работа над такими продуктами, как предлагаемые ответы, которые полагаются на машинное обучение для правильной адресации (кто должен получить это предложение) и ранжирования (какие три предложения должны быть показаны), может показаться непосильной задачей. Но важно помнить, что контент-дизайнерам отводится повышенная роль в пространстве, где сложно объяснить, как что-то работает. Чем сложнее функция, тем больше должны проявляться наши чуткие, инклюзивные и всесторонние навыки мышления.

С помощью предлагаемого ответного контента мы можем обеспечить точное представление голоса пользователей, а также проложить путь к более безопасному и здоровому общению.