开发软件时如何做出道德选择–常见问题解答 “产品人员-产品经理,产品设计师,UX设计人员,UX研究人员,业务分析师,开发人员,制造商和企业家 February 02 2021 真的 道德,产品道德, 注意产品 介意产品有限公司 3645 问号 产品管理 14.58

开发软件时如何做出道德选择–常见问题解答

经过 ON

一直以来,积极从事产品开发的人们一直在问有关“道德产品开发”实践的一些问题。例如,您如何定义“道德”产品?还是谁应该领导合乎道德的产品开发?而且,您真的可以从组织内部发挥作用吗?

下面,我回答我的八个问题’m最常问的。在帖子末尾,您’我们将发现许多方法来加入这一重要的讨论并了解更多信息。一世’d想知道您的想法!

首先,让我告诉您我如何到达这里。

缺乏实践指导

像任何自重的产品经理一样,我一直认为技术是一项永续的工作,并且有很多改进的余地。我将这些改进机会中的大多数归类为小缺点或不便之处。我认为其中一些人会构成严重危害,甚至可能直接反对该技术旨在支持的理想。

在过去的20年中,我一直在寻找有关如何改进特定技术以及我们生产和交付该技术的实用指导。

在六个月的时间里,2019年,我阅读了最新的手工艺品并重读了我迄今为止在职业生涯中遇到的几乎所有内容。我惊讶地意识到: 丰富 产品开发的许多领域的指导意见表明 缺席 如何在整个软件开发过程中更可靠地做出道德选择的实践指南。很多争论,但很少有用的建议。因此,我决定将最好的建议与我自己的观察结合起来,编入一本简短的剧本中,该剧本于2020年8月出版,名为 符合道德的产品开发:在产品开发生命周期中应用的实用技术.

在书中,我建议产品负责人 里面 公司结合原则-道德产品规范-指导其决策。然后,他们需要通过确定“原则倡导者”来实现这些原则:通过与团队合作来使公司承担责任的人员,以根据该原则审核公司的产品组合。首先确定并纠正他们认为的 最坏的 因此,团队需要将道德决策实践纳入产品开发过程的每个阶段。最后,我提供有关如何 个人 可以亲自致力于这项具有挑战性的工作。

我希望这本书是产品开发团队使用它来致力于开发具有道德和包容性的产品,而不是将任何至关重要的事情留给机会。我的目标是作为参考,以提醒产品人员如何应用其他团队成功使用的技术。因此,我对技术进行了仔细的编号(本书中有20种),并概述了参考资料和实践中的示例。  公共笔记本 随时间介绍新的示例。

最后,我希望使用本书的产品开发人员(不到两小时的阅读时间)将其介绍给同事,以此作为一种建设性的方式来重新审视先前已造成危害的产品决策或致力于做出新的决策以最大程度地发挥积极的社会影响。

到目前为止,我对这本书的用法并不感到失望。世界各地的团队都赞赏实用的方法,尤其是它的简洁性,它为读者提供了将道德决策纳入其日常活动的工具。

关于产品道德的8个常见问题

本书出版以来的几个月中,我有幸与各种组织的产品人员讨论了这些做法。这些是他们的首要问题。

1.您如何定义道德产品?

  • 您如何定义 道德产品?  
  • 您为什么使用“道德”一词?
  • 我的产品团队应如何决定什么是道德的?  

我对道德产品的定义是,至少要努力避免可避免的危害并最大程度地发挥其积极的社会影响。它是一个过程的产物,从一系列原则开始,它特别包含道德决策的各个步骤。我指的是“道德”,因为应该基于一系列有意识地推导出来的原则进行有意识的决策。伦理学领域早于信息技术的兴起,并提供了一种合理的推理方法。

也就是说,这项工作的其他几个描述符也可以很好地完成工作,尤其是在您的本地环境中,比“道德”一词更可口的情况下: 负责任的, 故意的, 人道, 注意的, 甚至 道德上的想象力 似乎有效。更明确地说, 包括的, 无障碍, 和 公平的 根据您的产品及其目标也可以有效。

关于如何以及由谁来决定什么是道德的问题,本书对此进行了概述。有关更多详细信息,请参见下面的问题3。

2.如何使用预定义原则?

您会为从一套原则开始而不是“机会主义地”解决问题而争论不休。我们的团队/公司已经起草了这些原则。现在怎么办?我们如何使用它们?  

我一直在为阐明原则(即产品道德规范(PCOE))而争论不休。似乎“机会主义”(也就是“当我们解决它的时候”)似乎不起作用。在我的整个研究过程中,随着时间的推移,能够在道德上“坚持”建筑产品的公司都拥有北极星,通常是经过整理的。这些原理充当导航设备,可帮助组织就如何构建和开发产品做出许多决策。

没有PCOE的情况下开发产品就像没有产品策略的情况下开发一样:如果您从道德的角度不知道自己的发展方向,那么如何有效地实现目标,更重要的是,避免完全迷失方向?

路标说这种方式,另一种方式
在道德方面,如果您在不知所措之前就从头开始,’很可能最终会迷路(图片:Shutterstock)

在第2章中,我将讨论如何确保PCOE不只是放在架子上的问题。 这本书. 它描述了原则倡导者的工作,这些人可以创建社区并遵循实践以维护不断发展的原则:

  1. 开发一个 风险区框架,与每个原则有关
  2. 原则上审核产品
  3. 采购和部署针对特定原理的专家培训
  4. 了解在制定产品决策时如何讨论道德选择
  5. 帮助同事及早并经常使用这些原则
  6. 刷新原则

自从出版本书并与更多的团队合作以来,在起草原则的同时进行审计(第二项活动)似乎是必不可少的。当团队确定其原则时,他们发现共享违反该原则的产品功能,语言和策略的特定示例(如果存在)很有用。此外,包括“不辜负”该原则的拟议项目阐明了其宗旨。正如一位从业者所说的那样,它有助于阐明从“ A状态”到“ B状态”的路径:我们希望从这种有问题的情况走向这个问题较少的未来。

图像或a草的球
我最喜欢法学院的一句话是奥利弗·温德尔·福尔摩斯(Oliver Wendell Holmes)的话:“我不会为复杂性的另一面提供简单的图,而会为复杂性的另一面而付出一生。”原则冠军们需要装备自己,使团队在这一过程中前进。图片:Shutterstock)

3.如何改善与道德相关的决策流程?

与我的团队一起做出“与道德相关的”决定非常困难! “无商量”与“无休止地考虑”之间的平衡是什么?  

我自己以及与其他公司同行的经验表明,团队在此领域做出决策和前进的能力反映了团队的总体对话和决策文化。如果团队在共享信息,富有成效的对话以及澄清决策过程方面有实践经验 并重新访问,那么决策文化将很好地为他们服务。

如果组织的决策力量不稳固,我建议从业者要坚持下去。值得特别研究一下正在发挥作用的决策过程,以弥补其弱点:团队旨在解决的问题是否缺乏明确性?是否已确定可能的根本原因?我们是否急于解决?我们是否匆忙地预先承诺了一个解决方案?与任何力量训练计划一样,您应该尝试以新的过程制定新的决策并逐步从中获得一些较小的胜利,以免伤害自己和/或完全放弃。

a)我如何应对政治,政治意识形态和/或身份政治? 

人们会并且会不同意道德选择,因为我们的价值观各不相同。这里的工作取决于学习如何在制定和制定道德选择时进行讨论。 产品和与产品相关的政策决策 。对原则的热情是每位冠军拥有者的重要素质,但也许更重要的是,他们与不同观点的人进行富有成效的对话的能力。

举着个牌子的人说这太糟糕了,即使内向的人也在这里
对道德政策的热情很重要,但了解如何传达这种热情更重要(图片来源:Shutterstock)

我建议同事进行某种形式的当代开放思想培训,以引起人们对人们提出的不同观点的好的疑问。我建议 开放的心态是由纽约大学商业道德教授乔纳森·海特(Jonathan Haidt)和亚当·格兰特(Adam Grant)的新书推出的互动平台 再想一想:知道你不知道的力量。请记住,目标是从有问题的A状态转变为有问题的B状态。

b)我们如何权衡这项工作与其他工作?

产品经理可以扮演的最重要角色之一是带领团队完成权衡过程,确定如何为每单位工作创造最大价值。围绕案件处理“道德债务”或开展一个项目以维护诸如“使用包容性语言”之类的特定原则的核心挑战之一是难以衡量其价值。通常,很难量化应用程序满足现有客户,吸引新客户或提高组织对持续经营的兴趣的程度。

我强烈建议将拟议的工作纳入您现有的和不断发展的优先排序方法中。对于许多团队来说,这些包括投票系统和/或您保护的指定“行项目”(例如使您能够达到法规遵从性阈值或解决技术债务的项目)和/或用于对项目进行排名的公式。从那里,可以并且应该像通过实验检验的其他假设一样重新审视决策。

4.谁’负责道德产品开发?

  • 我需要首席道德官吗?
  • 我需要高管人员来支持道德产品开发吗?  
  • 我需要哪些主管?  
  • 我应该如何注册他们?  

您需要首席道德官吗? 也许(也许不是)–我碰巧会有所帮助–但是您当然需要一些行政支持。提出有关高管支持问题的产品负责人通常不是组织的最高管理人员。他们要么发现自己第一次将道德产品开发的实践引入其组织,要么自己成为产品组合一部分的领导者,并且想知道如何进一步开展工作 在整个公司,和/或以前曾尝试探寻“道德缺陷”并遇到了一些执行上的阻力,有时是因为项目与获利动机不一致,但通常是因为对谁真正应该做这项工作以及如何做感到惯性或困惑它。

我的回答是针对产品领导者的。您需要能够坚持原则的高管,在道德产品开发的挑战中指导团队成员,并有时扮演“挑战者”角色,推动团队克服挑战。您需要能够迅速吸收新信息并帮助团队做出决策的执行领导,如果没有达成共识,则在流程中要有足够的诚信以使团队希望继续参与其中。

实际上,由于工作本身会带来无数的困难,因此您需要高管们的支持和指导,而不是挑战。

  • 如果“修复”的成本超出了我们现在的支出水平,该怎么办?
  • 通过采用这种方法与其他方法相比,我们还将对下游产生什么其他后果?
  • 如果此更新仅“受益”一些而“疏远”许多呢?
  • 如果这项工作已列入我们的清单,该怎么办  并每次都继续跌至“线下”?

在遇到诸如此类的问题时,产品人员普遍认为时间就是一切。 2020年无疑为更合乎道德的产品开发带来了新的挑战和新的机遇。道德与系统种族主义相抵触,保护用户隐私或建立内容标准,这些都是企业高管的号召性号召。另一方面,保持产品正常运行优先于 任何 其他注意事项。基于所有这些,几家公司的高管分享了这一建议–即使您暂时的行政支持有限,也要从某个地方开始。如何?

澄清示例项目的简短列表

这些示例项目应该是产品团队理论上可以在今年完成的项目,并映射到他们支持的高级原则。进行一个或两个项目,这些项目的每单位工作价值都过高,以证明其可能性和价值,并聚集动力做更多的事情。有了这个建议,对于在这里找到自己的读者,我建议阅读本书的第3章和第4章,以便团队可以确定一个或两个项目,并在产品开发阶段执行该项目,并在实验中“报告”他们承担了。

建立产品道德讨论组

一个产品道德讨论小组以及一个更广泛的社区,无论是非正式的,都将使您作为组织在细节上“变得更聪明”。尝试将产品组合中的计划与组织中的其他职能(例如合规性/法律职能,市场营销/公共关系职能或企业社会责任计划,如果有)联系起来。行政支持可能会随之而来。

5.多样性,公平和包容性如何?

符合道德规范的产品开发如何与多样性,公平性和包容性(DEI)工作相关?

我相信这项工作与DEI息息相关。重叠可能很大,原因有以下三个:

  1. 特定的道德缺陷,从有偏见的AI到没有护栏的“社会特征”,常常对边缘化群体产生不成比例的影响。
  2. 技术部门的大部分内容并未反映出用户和整个社会的人口统计数据。
  3. 购买者/用户-无论是企业本身还是消费者-都对公司施加更大的压力,要求他们在所做的一切事情中(包括在软件生产方式中)推广DEI。投资者也是如此。

我鼓励从事道德产品开发和DEI的团队在适当的时候进行协作,但不要 坍塌 这两个领域,因为它们可能在双方都有其他一些目标。同样重要的是,在去年,我从同龄人,尤其是各种各样的组织中的有色人种和边缘化群体的人们那里听说,他们在日常工作和DEI工作中可能会感到筋疲力尽,无论他们是正式还是非正式地,他们被邀请为DEI做贡献。因此,我的建议是有目的地并敏感地处理重叠,并尽可能利用“同盟”。

6.您能从内部进行真正的改变吗?

当您的业务模式的一个方面与所产生的损害相关联时,您能否做出真正的改变?一则广告我唱歌-支持的商业模式?

是的。作为产品领导者,在产品体验,技术和商业环境的交汇处,您拥有他人无法获得的独特知识。您可以创造性地考虑可能违反您团队的《产品道德规范》的产品和/或中止产品的某些方面。您是否愿意以及从哪个角度出发都需要进行深入的个人询问。

7.在道德产品开发领域,谁是领导者?

您认为哪些公司或个人或行为是“最佳实践”?  

这个问题是一个陷阱!如果我回答Google或Jack Dorsey,我肯定会对你们中的某些人失去信誉。或者,如果我们讨论的时间更长,您可能会同意,这些公司采取的行动显示出一定的领导能力,但是这种做法前后矛盾,而且往往处于竞争后期。您可能还会指出,像Google或Twitter这样的公司买不起 不是 在这里投资 不是 宣传他们的工作。

如果我指的是戴尔,惠普,英特尔,IBM,LinkedIn,微软,甚至还有132家出现在 技术共和国’s list of 2020’最具道德的科技公司,您可能会说:当然,这些公司财大气粗,可以坚持这些活动并宣传自己的成功。

如果我告诉过您从未听说过的公司的成功案例,这些公司避免了可能会犯的道德失误或正在产生极其积极的影响,那么您可能会怀疑道德产品开发活动是否正在抑制其规模。而且-要成为一个完整的圈子-您可能更想了解Google!

红砖在蓝色背景上形成一个箭头
在缺乏明确的道德产品开发领导者的情况下,请他人寻求指导并运用您可以做的一切(图片:Shutterstock)

如果我告诉您公司今年夏天要进行的一系列非常具体的调整,在他们的技术环境中替换了种族不敏感的术语,例如“主/从”,“白名单/黑名单”,您可能会认为“太少,太迟了,我们在2014年做到了”。或者,您可能非常参与这样的工作,并听到包括色彩工程师在内的工程师的声音,他们宁愿采取其他行动,例如投资DEI或向Black Lives Matter捐款,而不愿更新代码,如果不能精确完成–会导致重大的技术问题。

我的观点是,没有任何公司,个人或活动集提供“最佳实践”的明确示例。但这值得我们大家从他人的“更好的实践”中学习,并将我们所能运用的应用于自己的工作中。

8.营销道德产品开发是否使价格便宜?

是吗 oy 公开庆祝胜利,即使胜利很小?我担心阿布t “洗道德”;如何避免呢?  

我认为分享我们的工作非常重要且有用,无论该工作是否涉及我们造成和纠正的伤害,我们避免的伤害,或者我们认为增加我们的积极社会影响的方式。我认为每个案例研究都是一种礼物,是一个学习知识的机会,而无需亲自进行独特的实验即可获得一些智慧。无论公司是否愿意分享这份案例,无论该动机是看起来不错还是(通常)更少,这种案例研究都是这项挑战性工作的福音。

甚至分享工作 内部地 对您的产品团队非常有帮助。在我的书中,我鼓励产品经理撰写内部新闻稿(从亚马逊借来的一种技术),以获取伦理学上所谓的阳光测试的好处:如果我知道自己的决定会最终完成,我会做同样的事情吗?在新闻中?

我对从事道德产品开发的团队的主要建议是准确讲故事,这样才能进行真正的学习。通过承认那些一直热衷于变革的非用户,用户或同事如何最终突破来在应得的信用中给予信用。呼吁提出新的发展动态,使之更容易解决棘手的问题并认识到公司或世界中促进行动的事件。如果公司高管的个人学习是一个真实的故事,请与它一起运行,就可以欣赏真实性。

至于 “洗道德” 人们指出,科技行业使用合乎道德的产品开发来吹捧行业的利益 自己-法规,这意味着不需要政府法规。作为记录,我认为行业的自我监管是不够的。我希望未来的几个月和几年能为技术开发的多个特定方面带来精心设计的监管方法。

在此期间以及以后,由于创新超越了法规,我认为对于产品人员来说,追求合乎道德的产品开发至关重要。通过对现有法律或法规框架与我们在PCOE中所做的承诺之间的关系提供清晰的声明,我们可以避免“道德操守”。我的乐观主义者认为,我们经常可以做的事情超出法律要求的最低限度,我们可以努力避免可避免的伤害,并可以扩大我们的积极社会影响。

参加道德讨论

为了我们继续学习,它’重要的是要保持对话的持续进行并分享我们所知道的。我希望你’我将与我们一起讨论本周以上的问题。这里有一些参与的方法。

加入我们的产品道德小组,2021年2月18日

这个星期四(2021年2月18日)’我将与Cennydd Bowles,Kathy Pham,Martin Eriksson和Emily Tate一起深入探讨产品会员的产品道德规范,我希望我们将像上面回答的那样解决问题。如果你’已经是会员,您’可以在仪表板上找到该事件的详细信息(事件发生后,也会在此处放置记录)。 成为Mind Product会员可以访问此活动 and more.

与Pavani一样分享您的想法

我们欢迎在Mind the Product上的来宾提交意见,尤其是那些有关重要主题(例如产品道德)的意见。如果您有要分享的信息,请随时与我们联系。向团队发送电子邮件至 [email protected].

在社区中开始讨论

分享你的问题’经常被问到,或者提出您的问题。您可以使用下面的社交媒体按钮 👇

探索更多内容