Статьи
#krupanotes: Алан Купер о том, как стать хорошим предком и почему это важно для дизайнеров
14 марта, 2018
avatar
Катя Павлевич
Редактор в Telegraf.design
Мы любим тексты без ошибок. Если вы все же их обнаружили, выделите фрагмент и нажмите Ctrl+Enter.

10 февраля состоялась 2-я UI/UX конференция Krupa. Telegraf записал самые интересные мысли нескольких спикеров в свой конспект #KrupaNotes. Сегодня мы делимся третьей из лекций.

Я проработал в профессиональном дизайне 25 лет. Я люблю крафт, мне понравилось, что ему уделили много внимания на лекциях. Но 4 месяца назад я с женой Сью продали Cooper company. Теперь мы можем заниматься тем, что нам интересно. А мне интересны большие идеи. Я не собираюсь говорить о персонах, хотя многие из вас ждут этого. Мы поговорим о более важных вещах.

7 лет назад я с женой продали дом в Кремниевой долине, где прожили 30 лет, и переехали на ранчо. Среди кур и овечек я смог по-другому взглянуть на tech индустрию. Давайте проведем эксперимент.

Представьте, что работаете в гигантской social media корпорации. Вы решаете, что пользователи хотят постить и что видеть в своей ленте новостей. Вы создали практически идеальный механизм таргетинга для рекламы. И вдруг узнали, что Российская федерация повлияла на выборы в США, используя ваши социальные портреты. Через вашу соцсеть она распространяла послания ненависти. Вы поняли, что напрямую повлияли на уничтожение демократии Америки.

Представьте, что вы работаете над алгоритмом машинного обучения. А в итоге бот, которого вы создали, хакеры используют, чтобы распространять ненависть, расизм, мизогинию.

Или представьте, что вы работаете юристом в области защиты интеллектуальной собственности. Потому что хотите поддержать и вдохновить на открытия умных людей. Вы работали годами, чтобы дать больше прав и возможностей инноваторам защищать свои идеи. И однажды понимаете, что большинство прав приобретены патентными троллями. Теми, кто патентует идеи, но никогда не воплощают их. Они выжидают, пока кто-то другой представит идею, а потом на опережение патентуют ее, чтобы зарабатывать на роялти. Вы понимаете, что работа всей вашей жизни на самом деле предоставила права и возможности горстке жадных людей.

Или представьте, что вы эксперт в лингвистике. Вы потратили года на разработку нового алгоритма по проверке правописания. Ваша работа включает машинное обучение, искусственный интеллект. Он распространяется по всему миру на компьютерах компаний. И однажды вы обнаруживаете, что алгоритм заменяет в рецептах названия некоторых лекарств на совершенно другие медикаменты, и Duloxetine становится Fluoxetine. Есть высокая вероятность, что этого никто не заметит, и пациент пострадает из-за принятия неправильного препарата.

В этот момент вы понимаете, что ваши изобретения приносят вред невинным людям. Почему это случается? Этого можно избежать? Я расскажу о практическом оружии, которое поможет обезопасить технологии.

Мы создаем технологии с лучшими намерениями, но их побочные эффекты все чаще влияют на общество. Не думаю, что вы или ваш босс делаете это со зла, так же как и Билл Гейтс, Марк Цукерберг и другие. Они создали технологии, чтобы сделать мир лучше.  Подобно доктору Франкенштейну, который не понимал, какое чудовище создает, мы тоже не до конца понимаем механизм, который обращает технологии в зло.

В 1940-х Роберт Оппенгеймер работал над Манхэттенским проектом. Это было одним из самых масштабных научных прорывов человечества. Он создал атомную бомбу, чтобы США покончили со Второй мировой войной. Но после ее взрыва он понял, насколько ужасную вещь создал. Это был момент Оппенгеймера. Он был физиком и ученым, а стал посланцем смерти, войны и страданий.

У нас, дизайнеров и практиков, тоже бывают свои моменты осознания, когда наши наилучшие намерения извращают, продукт используется в неожиданных и злых целях.

Первые мысли: кого винить в этом? Нельзя винить технологии, потому что они приносят нам пользу и добро. Легко винить основателей, инвесторов, коллег или надоедливого босса. Но они в таком же замешательстве, как и мы.

Тони Фаделл, основатель Nest Labs, предложил клятву Гиппократа для дизайнеров, в которой бы они клялись работать этично и по зову сердца. Сэм Уолтман, президент Y Combinator, занимается написанием этической конституции, а Билл Гейтс жертвует миллионы на благотворительность.

Но виновных нет. Проблема в системе. Это Титаник технологий, который тонет и без встречи с айсбергом. Мы пытаемся найти утечку, продолжаем винить капитана, айсберг, команду, пока корабль наполняется водой.

Закон баланса работает в простых системах. В них можно легко найти виновного. Но мы создаем сложные системы. Корабль тонет не из-за огромной дыры, а из-за накопления миллионов маленьких трещин.

Системные проблемы по натуре децентрализованы, как и их решения. Мы ненамеренно создали миллионы трещин в системе. Поэтому надо прилагать усилия, чтобы не допустить их распространения. Это легче, чем предотвратить и остановить огромную дефектную систему. Ведь когда она появится, будет поздно.

Блогосфера кишит комментариями: «Как применить этику к технологиям?» Люди говорят нам быть хорошим, но не говорят, как. Для начала нам нужна ясная цель.

Для таких компаний, как Facebook, или Google, или еще тысячи таких же, первоначальная цель — это деньги. Их вторая цель — не делать зла (“don’t be evil” — мотто корпоративного кодекса поведения в Googel — прим. ред). Так не работает. «Не делать зла» звучит слишком размыто, упрощенно и тяжело применяемо в ежедневной рутине. Это всегда на втором месте. Нам нужен второй Google и Uber, которые бы помогли нам стать лучшими гражданами, а потом — заработать денег.

Я предлагаю такое решение: быть хорошим предком.

Моя цель — делать этот мир лучше для детей, ваших и моих. Я спрашиваю себя: «Что я сделал, чтобы сделать этот мир лучше, чем он был до меня?» Чтобы быть хорошим предком, нужно думать о всей системе, а не только деньгах. У нас больше нет оправданий для плохого поведения.

Политическая система предполагает, что можно либо хорошо заработать, либо быть хорошим гражданином. Это неправда. Еще Стив Джобс сказал: «Прибыль — это побочный продукт качества». Люди ведь лояльны к качеству и продуктам, предлагающим ценность.

Поэтому каждый день вместо того, чтобы говорить: «Не причиняй зла» лучше спрашивайте себя: «Как стать хорошим предком?». Быть хорошим предком — это моя цель. Сделайте же ее и своей.

25 лет назад персональные компьютеры начали захватывать мир. Мы поняли, что технологии — это трудно. Все хотели их упростить и сделать более friendly, но никто не знал как. Многие умные люди даже думали, что это невозможно. Но кто-то должен был определить, что значит “user friendly” и как это измерить. Потом разработать систематизацию для полей, обратиться к инструментам установки, наладить процесс, разработать прототипы, которые показывают все преимущества, обучить группу профессионалов. В итоге презентовать и продать продукт. Это то, чем я занимался в interaction design в 90-х. Ваше присутствие здесь доказывает, какую важную роль в итоге сыграл дизайн. Ему доверяют и он везде. Теперь важно применять этот подход к принципу «быть хорошим предком».

Со своим коллегой Ренато Вердуго (UX researcher в YouTube — прим. ред) мы разрабатываем фреймворк-инструменты, которые называем ancestor thinking.

Первый шаг в этом процессе — это awareness, осознанность. Дизайнеры должны принимать во внимание то, как их инструменты будут использоваться в реальном мире реальными юзерами.

Второй шаг — это создание системы, язык. Это позволит нам увидеть, где и кем создаются миллионы маленьких трещин в нашем корабле.

Мы вывели 3 причины, по которым появляются трещины «зла» в технологиях:

  • предположения (assumptions)
  • внешние последствия (externalities)
  • временная перспектива (time scaling)

Во время разработки продукта мы базируемся на каких-то предположениях. Если мы тщательно не проверим каждую из них, то сделаем первый шаг к тому, чтобы стать плохим предком. Кто-то делает предположения во время создания сайта для помощи жертвам катаклизма, что у пользователей будет электричество и вай-фай.  Но после катаклизма их скорей всего нет.

Кто-то предполагает, что команда белых инженеров достаточно репрезентативна для аудитории, которая пользуется сенсорным дозатором для жидкого мыла. В итоге дозатор реагирует на белую кожу, но не на темную.

Хорошие предположения также могут исчезнуть в силу времени или обстоятельств, поэтому нужно определять и детально продумывать каждое из них.

Непроверенные предположения становятся догмой.  А догма противоречит преднамеренности. Мы же должны быть точными.

Кроме того, мы должны задаваться важными вопросами. Например, какие externalities мы создаем? Externality — это то, что влияет на нас или на что влияем мы. Они ускользают из нашего внимания непреднамеренно, в силу пренебрежения или некомпетентности.

Все, что мы делаем, — часть сложной системы. Не существует вещей, который полностью от нас не зависят. К примеру, каждый понедельник ко мне приезжает грузовик и увозит мусор. Но он его не убирает в принципе, а лишь отвозит на свалку. И разбираться с этим мусором придется уже моим детям. Вот когда вы думаете: «Это не мои проблемы», вы создаете externality. И каждая из них — это очередная трещина в вашей лодке.

Машинное обучение алгоритмы или AI также создают значительные externalities, ведь отдают решения на попечение “черного ящика”. Потом мы отдаем решения на попечение неким методам алхимии для проверки и генерируем еще больше externalities. Проблема накладывается на проблему, но правда в том, что большинство людей любят передавать свою ответственность на алгоритм. Так легче.

Например, компания, разрабатывающая программное обеспечение для автоматизации процесса найма на работу, скорей всего, использует машинное обучение, чтобы оптимизировать этот процесс. Алгоритм «черного ящика» подбирает сотрудников, основываясь на предыдущем опыте найма. Проблема в том, что расовые, возрастные или гендерные предрассудки таким образом незаметно поддерживаются, и никто не поднимает этот вопрос.

Еще один вопрос, который нужно себе задать, — «Какую временную перспективу мы используем?» Какая продолжительность жизни наших продуктов? Принятых нами решений и последствий? Наши инструменты прогнозирования очень слабы, поэтому мы создаем дизайн на потребностях, существующих сейчас. Я идеальный пример в этом случае. Программное обеспечение, которое я написал в 1970-х использовало только 2 цифры для обозначения года. Казалось, что до наступления нового тысячелетия очень много времени, поэтому мне пришлось написать потом the white paper (документ, описывающий новый технологический процесс или алгоритм).

Наши социальные системы привязывают нас к мышлению только о теперешнем времени. Но нужно спрашивать себя: как этот продукт будет работать через 10 или 30 лет? Что будет с пользователями? Чтобы стать хорошим предком, надо смотреть на пожизненную перспективу своего труда.

Не смотря на то, что проблема системна, в ней виноваты отдельные люди, ведь часто они представляют систему, в которой живут. Поэтому лицо плохого предка — это лицо конкретного человека.

Вначале нам надо понять, что система требует постоянной проработки. Джон Голл в своей книге General systemantics пишет: «Поломка системы является неотъемлемым качеством любой системы». То есть, все системы дают сбой, и это не изменится. На это смогут повлиять лишь отдельные люди, которые будут работать в нужном направлении.

Систему нельзя изменить, о ней нужно задавать вопросы. Когда вы натыкаетесь на мелкие неточности, нужно задавать вопрос всем, кто над ней работает. Так можно перестроить секретный язык систем. Вы задаете вопрос о внешних силах, которые вмешиваются в систему.  «Кто остался вне системы? Какой язык у этих внешних сил? Как они могут использовать систему? Кого исключили из системы? Как они могут на нее повлиять? На кого влияет система? Какие косвенные долгосрочные последствия работы системы?»

Спросите себя о согласиях, которые требуются для системы: кто согласен с тем, что вы делаете, а кто нет? Кто об этом даже не знает? А кто игнорирует?

Спросите себя о выгоде: кто продвигается в карьере, благодаря системе? Кто зарабатывает и теряет на ней деньги? Как это влияет на экономику в целом?

Как еще можно использовать систему? Можно ли ее использовать, чтобы обмануть, украсть, чтобы доминировать над кем-то, запугивать кого-то?

Если не задавать себе эти вопросы постоянно, можно построить протекающую лодку.

В последнее время я много говорю о том, чтобы работать от обратного (working backwards). Это мой метод решения проблем.

В обычном мире трудные сложности всегда рассматриваются в привычном фреймворке, в рамках которого мы привыкли решать проблемы. Но он может оказаться слишком маленьким окном, недостаточным, чтобы рассмотреть всю проблему. В этом случае working backwards может стать эффективным решением. Он напоминает понятие латерального мышления Эдварда де Боно и идею «Пяти почему» Сакити Тоёда.

Вместо того, чтобы рассматривать проблему в ее привычной среде, вы делаете шаг назад и изучаете саму среду.

Обычно, предоставленные решения очень ограничены и не предполагают никаких инноваций. Когда ситуация заставляет выбирать между вариантами А и В, ответ обычно кроется в варианте С. Если мы не будем работать от обратного, то скорей будем пытаться победить симптомы, а не излечить болезнь. Как сейчас, мы ищем способы излечения рака, но не углубляемся в причины болезни. Мы учреждаем программы по переработке мусора, но не уменьшаем количество потребление пластика. Мы употребляем органическое мясо и зерно, но поддерживаем вредное, наполненное химикатами, агропроизводство.

Сложность работы от обратного в том, что приходится преодолевать границы наших фреймворков. И когда до этого доходит, мы заявляем: «Это не моя ответственность». Но именно так и выглядит externality.

Том Гудвин (tech журналист — прим. ред) заметил, что «в 2015 Uber, самая масштабная в мире такси-компания, не владеет ни одним транспортным средством. Facebook, самая популярная в мире медиаплощадка, не создает контента. Alibaba, самый дорогой в мире ритейлер, не владеет инвентарем. А Airbnb, самый масштабный в мире провайдер арендуемого жилья, не владеет недвижимостью». Проблема в том, что компании такси регулируются налогами на транспортные средства, ритейл — налогами на имущество, недвижимость — страховкой и налогами, а медиа ограничено в контенте, который размещает. Но в итоге все государственные регуляторы уступили место бизнесу и инновациям. Это к лучшему. Но мы должны следить за тем, чтобы они не обернулись таким же злом. Вместо того, чтобы законно регулировать механизмы, мы должны урегулировать ожидаемые результаты. Механизмы могут постоянно меняться, но исход останется тем же.

Проблемы и результаты, на которые повлияли созданные нами технологии, могут быть не нашей виной, но это наша ответственность.

Когда вы осознаете всю серьезность проблемы, когда понимаете, что весь корабль движется не в том направлении, обычно возникает две реакции. Одна из них — это отчаяние. Вторая — отрицание. Масштабы проблемы могут показаться настолько глобальными, что за ее решение не захочется взяться. Очень легко сдаться и опустить руки. Но отчаяние и отрицание — это варианты А и В. Я же за решение С — я хочу решить эту проблему.

Возможно, однажды вы столкнетесь с этическим конфликтом, когда босс попросит вас схитрить, соврать или украсть что-то. В таких ситуациях уже слишком поздно что-то предпринимать, кроме как покинуть корабль. Я оценю вашу смелость, если вы поступите именно так, но не могу просить вас об этом. Моя цель — вооружить вас инструментами, которые помогут стать хорошим предком и превратить технологии в индустрию, заботящуюся о будущих поколениях. Нет, это не восстание. Эти инструменты похожи больше на философскую беседу, чем на уличные протесты. Мы нацелены на долгоиграющий результат.

Ошибочно думать, что мы не можем изменить систему. Мы считаем, что люди, имеющие власть, должны принимать кардинальные решения. Возьмем, к примеру, СЕО Твиттера Джека Дорси. Он стоит перед дилеммой, из которой мечтает выбраться. У него есть власть забанить нацистов на Твиттере. Нам кажется, если он это сделает, то проблема с нацистами решится. Дорси понимает, что сделав это, он таким образом подтвердит, что цензура языка ненависти — это ответственность Твиттера. Не сделав этого, он негласно настаивает на том, что все мы должны играть  дружно друг с другом.

Ведь если он забанит одного нациста, то подвергнется цунами критике и жалоб на то, что он мог забанить меньше или больше людей. В этом случае для него не существует правильного решения, потому что он рассматривает вариант А и В в поисках более легкого решения. Мы же знаем, что правильный ответ в варианте С. В том, что Дорси мечется между А и В нет его вины, кроме того, что он не достаточно обдумал все возможные варианты. А ведь решение заключается как раз в том, чтобы взять время на обдумывание. Чем раньше мы это сделаем, тем больше пользы из этого вынесем.

Когда мы стоим в центре северной Америки и смотрим Миссисипи, которая разлилась на мили,то чувствуем бессилие изменить направление ее могучего течения. Но если углубится внутрь континента в горную местность, мы увидим  узкую речушку, течение которой можно изменить лишь с помощью лопаты. Точно так же мы можем изменить течение индустрии технологий. Но не одним глобальным решением, а миллионом маленьких.

Так же и Дорси не изменит Твиттер одним глобальным изменением, а лишь с помощью миллиона маленьких. Я не имею ничего против Джека. Твиттер — это только пример сложностей, с которыми мы сталкиваемся. Модерация и управление открытой платформой — это тяжело и дорого. А Дорси — предприниматель из Кремниевой долины, который хотел создать полностью автоматизированную саморегулирующуюся систему. Но работая над проектом, он проигнорировал реальное поведение и возможности анонимных авторов в соцсети. Он предположил, что уважительный публичный дискурс будет саморегулируемым. Он перенес свою ответственность на алгоритм и в итоге получил то, что имеет. Он не смог признать, как тяжело быть хорошим предком, и как важно не давать злым людям закрывать рот хорошим людям. Несмотря на то, что он СЕО компании, ему не хватило сил это изменить. У него есть власть, но не хватает воли. Даже у самого младшего специалиста без власти есть больше воли.

Власть в том, чтобы забанить нацистов на твиттере. Воля в том, что найдется один человек, который укажет Твиттеру на нехватку механизма, определяющего нацистов в системе. Воля в том, что мы задаем вопросы, ищем решения.

Это медленный постепенный процесс, но единственный, который сможет что-то изменить.

В 2016 я общался с активистом-блоггером Нилом Дэшем. Он задал риторический вопрос: «Почему мы не преподаем этику в инженерных школах?». Этика… Кажется нет ничего более скучного. Но насколько она может поменять систему. Я пообщался с инженерными университетами о ее преподавании на курсах. Мой друг, Ренато Вердуго, согласился мне помочь, и мы ввели курс по Ancestor thinking в университете Бэркли. Там мы учим студентов всем вышеупомянутым правилам. Не фокусируемся на том, как плохо созданы технологии, мы говорим о том, как создать их лучше.

Мы — мейкеры и практики. Мы проектируем и внедряем опыт взаимодействия с дизайном. Хочу, чтобы вы представили, как создаете продукты, которые не навредят, и не дискриминируют вас. У вас есть власть создать эти продукты. В итоге, мы, craft people, повлияем на мир больше, чем политики, бизнесмены. Вы тоже можете стать хорошими предками.

Читайте также:

#KrupaNotes: Павел Грозян о роли дизайнера в стартапе и разнице между дизайнерами в Украине и США

#KrupaNotes: Виталий Фридман о редизайне Smashing Magazine

 

 

Изображения: Krupa

avatar
Катя Павлевич
Редактор в Telegraf.design
Колонка

У нас есть еще кое-что для вас

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: