Посмотрите, как ведущий руководитель Instagram узнает об этике и экспериментирует с людьми

  • 29-12-2020
  • комментариев

Если есть что-то, что бесит академические типы в Кремниевой долине, так это отказ технической индустрии получить согласие перед проведением экспериментов над своими пользователями.

В большинстве случаев эксперименты технологических компаний проверяют не более серьезные вопросы, чем: «Удовлетворяют ли пользователи кроличьи ушки или слоновьи бивни?» Иногда, однако, вопросы становятся значительно серьезнее, например, в тот раз в 2012 году, когда Facebook проверил, заразны ли отрицательные эмоции.

В этом свете неприятно думать о том, как эти компании играют с нас. Неудивительно, что, когда руководитель отдела продуктов в Instagram, принадлежащем Facebook, Кевин Вейл вышел, чтобы дать прямое интервью Stanford eCorner, первый вопрос аудитории был об этике компании в отношении экспериментов. Но его интервьюер, профессор Стэнфордского университета Тина Силиг, почти сразу же вмешивается, чтобы попытаться сделать сложный вопрос мягким.

«Я не чувствовал напряжения в Instagram»

обмен происходит непосредственно перед отметкой 32 минуты, как указано выше (он должен начинаться там). Кто-то из аудитории спрашивает:

Он начинает с того, что уже задавал этот вопрос кому-то в Facebook, и ответ его не очень впечатлил. Затем он говорит: «Мне любопытно: какие рамки, руководства или кодексы поведения вы используете в Facebook или Instagram в отношении того, как вы применяете психологию поведения потребителей, чтобы тем или иным образом подтолкнуть пользователей к тому, что вы считаете подходящим», - сообщает ваши ценности и, в конечном итоге, этичны ».

« Я начну с Instagram, потому что это единственное место, где я работал », - отвечает Вейль, но сразу же задается вопросом. После паузы он продолжает: «Хороший вопрос. Я не уверен, что это всплывет ... Я имею в виду, что это своего рода абстрактный способ мышления о вещах. Мы склонны подходить к проблемам гораздо более прагматично ».

Именно тогда появляется профессор Силиг, перефразируя вопрос:« Есть ли у вас этический кодекс, который в конечном итоге влияет на то, как формируется продукт? »< / p>

Это гораздо более мягкий вопрос. «Каким образом оформляется продукт» может быть шрифт, используемый для комментариев людей, или точное расстояние между двумя круглыми полосами, обрамляющими ваш аватар. Это не тот вопрос, который задавал зритель. Он спросил, как компания пытается заставить людей делать то, что они от них хотят.

«Мы не склонны проводить абстрактные обучающие эксперименты»

Однако к его чести , Вейль действительно пытается решить реальный вопрос, несмотря на оборонительный маневр Силига. Он объясняет, что миссия Instagram - приблизить вас к людям, которые вам небезразличны, поэтому он приводит пример того, какие публикации получают приоритет при открытии приложения (он называет это «рейтингом каналов»). Следует ли уделять больше внимания знаменитостям, которыми вы одержимы, или людям, которых вы, кажется, знаете?

«Трудно понять, для чего оптимизировать», - говорит Вейль.

В конечном итоге хотя он как бы тупит.

«Думаю, я не чувствовал напряжения в Instagram, на которое, возможно, вы ссылаетесь», - сказал он.

«Мы только проводим эксперименты. которые, как мы думаем, мы отправим, - заключает он, - мы не склонны проводить абстрактные обучающие эксперименты, возможно, того типа, на который вы ссылаетесь ». Здесь Вейль должен иметь в виду эксперимент с Facebook, о котором мы упоминали выше, и действительно удивительно, что через четыре года после этой неудачи у компании, похоже, нет лучшей позиции по этому вопросу.

Как Вейль В заключение профессор Силиг не может дождаться, чтобы перейти к другому вопросу. Что странно, потому что можно было подумать, что это обсуждение заинтересует академика.

Со своей стороны, Вейль, похоже, сказал, что на карту поставлено не так уж много людей. запустить в Instagram. Они не обязательно играют с умами людей, они просто пытаются улучшить взаимодействие и производительность.

Что интересно, следующий вопрос напрямую говорит об успешном эксперименте, который Instagram провел по изменению поведения пользователей. Компания хотела, чтобы люди публиковали гораздо больше, чем они были, поэтому кража историй из Snapchat оказалась успешной. Как мы ранее сообщали, вопрос, последовавший за вопросом об этике, оказался генеральной репетицией перед тем, как Вейль расскажет о Stories на Techcrunch Disrupt в Нью-Йорке, как мы ранее сообщали.

Но действительно ли функции Instagram имеют такую ​​низкую эмоциональную значимость. ?

Ранее в этом месяце исследование Королевского общества общественного здравоохранения Великобритании назвало Instagram худшим приложением для психического здоровья молодых людей после опроса 1500 человек в возрасте от 14 до 24 лет, как сообщает CNN. сообщил. Таким образом, очевидно, что на карту поставлено что-то очень реальное.как работает Instagram.

Это не обязательно означает, что Instagram, Facebook, YouTube или другие социальные сети должны проводить эксперименты с той же этической строгостью, что и университеты. Неужели мы действительно хотим мир, в котором каждый раз, когда Facebook созывает комитет седобородых, чтобы просмотреть отчет о раскрытии информации, они будут обращаться к предварительно отобранным бета-тестерам каждый раз, когда они хотят вставить новую цифровую игрушку в свое приложение?

Это звучит скучнее, чем было бы полезно, поэтому Вейль прав: часто мы просто говорим о кроличьих ушах, а не о клыках мастодонта. Тем не менее, после протеста Facebook внесла некоторые изменения ... изменив свое пользовательское соглашение, как сообщает Techcrunch. По-видимому, теперь у него есть какой-то внутренний процесс проверки тестов, которые пересекают какой-то эмоциональный порог, но Techcrunch сообщил об отсутствии стороннего аудита. Так что ответственности по-прежнему нет. Facebook и Instagram не ответили на запрос о комментарии.

Эти приложения сейчас являются самыми мощными машинами в мире, и было бы не ужасно, если бы цифровые бароны-грабители серьезно занялись этическими вопросами, а не вяло прячется за условиями обслуживания, составленными адвокатами из искушенных исков, платили 1000 долларов в час только за то, чтобы прикрыть задницу Цукербергу.

Не имело смысла публиковать газетный контент в Интернете в виде отсканированных копий газеты и не имеет смысла втискивать этические нормы академических исследователей в цифровые продукты. Но отрасли что-то нужно, потому что сегодня этические стандарты технологических компаний не сводятся к большему, чем: если вы используете это, мы можем нанести ущерб.

комментариев

Добавить комментарий