道德合理性检查:巨魔会做什么? “产品人员-产品经理,产品设计师,UX设计人员,UX研究人员,业务分析师,开发人员,制造商和企业家 November 11 2018 真正 漫游器农场,道德规范案例,互联网巨魔,产品道德规范,产品管理,愤怒的点击, 注意产品 介意产品有限公司 914 产品管理 3.656

道德合理性检查:巨魔会做什么?

通过 ON

上世纪90年代在美国圣经带的少年时代,您不必走远就能找到戴着带有四个简单字母的标志性手镯的人:WWJD。这是为了提醒基督教青年,要针对“耶稣会做什么?”这一问题不断评估自己的日常生活中的决定。旨在鼓励您善待他人,并善待他人。

在高科技行业工作了十多年之后,我发现人类(尤其是在线人类)并不总是像对待他人的本能一样善待他人。在互联网巨魔,机器人农场,黑帽黑客或任何数量的在网上发现自己的仇恨团体之间,感觉就像互联网每天都在变得越来越毒。在过去的几年中,产品伦理已成为会议舞台上的热门话题,这绝非偶然。

我们都需要考虑产品道德

人们很容易想到产品伦理是“那些大公司”需要考虑的事情:那些影响范围实际上可以影响世界政治,有毒的民族主义的兴起以及民主本身的事物的公司,但是我主张差不多 任何 看似无害的产品或功能可能会被滥用。

我们正处于一个人类最坏的时代正在逐渐消失的时代。我们的产品使他们真正遭受伤害。已有充分记录的例子 使用智能家居技术作为监视和滥用手段的家庭虐待者。我们的健身应用程序有 与互联网上的陌生人共享定期运行的例程对弱势人群甚至严重构成安全隐患 公开敏感军事基地的详细布局。

我个人曾经有一个过去的人在Facebook上追踪我,这不是因为我的联系人中有他们(他们很早以前就删除了,因为我不想与之进一步互动),而是因为我的电话号码仍在他们的联系人中,并且也在我的Facebook个人资料中。 脸书的“查找您的联系人”功能已从一种简单的查找您认识的人的方式转变为一种跟踪可能不会同意被跟踪的人的方式。我很幸运,我的处境比实际威胁更令人烦恼,但我保证情况并非总是如此。

评估道德边缘案例

一年多以前,我正在与一位同事Eli Montgomery讨论产品道德的概念。他说: “每当我开始考虑新产品功能时,我都会问自己,'巨魔会做什么?'” 基本上,互联网上最差的人一旦获得此功能,将如何使用它来骚扰或伤害他人?作为产品经理,我们受过培训,可以考虑产品的边缘情况。我们让我们自己思考一下,如果用户登陆到没有数据的页面上,或者名字很长,或者被烦恼并开始浏览,我们的产品将如何表现? 愤怒地点击 一个按钮。那么为什么我们花这么少的时间思考我们的产品可能如何 其实 be misused?

我曾经管理过一个名为TripCase的旅行应用程序,该应用程序可以让您跟踪您的旅行。我们讨论的一项常规功能请求是能够自动在Facebook上发布您的旅程。听起来很简单– “我要去巴黎旅行!让我与我的朋友分享!” 但是当我们的团队讨论它时,我们意识到这很容易出错。我们可能会看到一个短暂的飞跃,在这种情况下,我们的应用程序发布了某人下周要出城的信息,并向潜在的窃贼提供了他们房屋空置的确切日期。或者,用户在飞往另一个城市采访公司最大竞争对手之前忘了关闭此自动功能…他们的老板是Facebook的朋友。我们认为风险不值得“乐趣”。

Pluralsight的Mariah Hay 在#mtpcon上举了一个例子 对Pluralsight应用程序的功能请求,该请求将与雇主共享学习者的技能评估分数。尽管公司方面的要求很明确,但团队可以很容易地看到此功能,从而导致促销,加薪甚至雇用机会的偏颇,从而使产品变成武器。他们回到了制图板上,直到找到了解决公司问题的方法,而又没有用武器对付员工的产品。

这样的实现并不需要想象力的大飞跃,也不会发现无辜的可怕损失。他们所采取的一切只是承认互联网上的每个人可能没有最纯粹的意图,甚至可能认为他们做得很好,但最终却将您的产品与其他人一起使用。快速头脑风暴,您问“巨魔会做什么?”可以防止您的产品成为其他人梦night以求的舞台。

我青年时代的WWJD手镯旨在提醒我们,我们应该在生活的各个方面都表现出真诚。但是作为技术产品经理,我认为我们真正需要的是提醒我们所有用户的意图都不佳,并且总会有人希望伤害他人。我们需要的是一条可以提醒我们问自己“ WWTD”的手镯。