您将设置哪些KPI?
#1 楼
KPI可能很危险-衡量错误的事情很容易,或更糟的是,奖励错误的事情。一般规则是,人们会做更多得到奖励的事情。您应该考虑一些事情:
团队提出的错误,您会看到由于像素放置错误而引起的错误。修改此值以使用超过指定严重性级别的错误数量将使您放错位置的像素归类为紧急像素。
由于KPI往往会鼓励测试人员进行更彻底的检查并着重检查修正了所描述的错误,没有触及任何可能影响其统计数据的问题。
每个人的测试工作量同样是危险的:为了达到指标设定的标准,会进行不彻底测试的诱惑。 >您使用的任何度量标准都将严重依赖于上下文-测试人员与开发人员合作,对开发人员进行彻底的单元测试,确保其集成整洁,并检查他做对的事情不会在该开发人员的工作中发现许多错误。与没有精心计划和执行而又没有大量时间或资源压力的项目相比,缩短了时间表以在外部截止日期之前完成的项目将产生更多的错误,并向客户提供更多的错误。测试。谁的工作做得更好,通过一个复杂的新功能工作的测试人员一周内发现十几个严重的错误,或者通过一个复杂的新功能工作的测试人员在一周内发现一个灾难性的错误?答案都不是:两位测试人员都在寻找需要公开的信息,但是他们发现的信息有所不同,因为他们在不同的领域与不同的开发人员合作。
几乎没有人拥有让多个测试人员针对同一软件执行相同测试的资源。这意味着没有测量可以捕获性能,因为没有什么可以直接比较的。涉及的变量太多,包括测试人员要承受多少压力才能完成测试,因此可以发行该软件(不,这不是理想的选择,但这是它在许多地方的工作方式)。
否不管您使用什么度量,最好将其用作信息工具:该团队对这么多的bug进行平均测试,因此,如果我们要使用它们,则需要安排很多时间。使用指标对测试人员进行排名会给您带来比您所期望的要低的结果。
我希望此列表可以帮助您确定需要做的事情。
评论
您在此处所说的内容背后的一些想法有更广泛的应用。我希望更多考虑度量标准的人这么清楚。 +1
–卡扎尔克
13年2月21日在21:02
这是一个古老的评论,但这带来了一些见识。我在一家新公司工作,他们实际上是在尝试找出如何衡量质量检查绩效的方法。我同意您的评论,但是您认为“存在”确实是一种很好的衡量方法吗?
– Merfh
16-2-18在5:11
@Mercfh-不使用指标。衡量质量保证绩效的唯一真正方法是过时的方法,即了解团队中各个成员的工作,遇到的问题以及如何处理这些问题。测试是一项“软”技能(即,客观上没有或只有很少的最佳做事方法)在很大程度上取决于上下文:这些技巧无法很好地进行衡量。
–凯特·保罗(Kate Paulk)
16-2-19在12:40
有一种方法,但不是每个人都喜欢的,这是在测试代码中在现场发现多少缺陷?不幸的是,这可能是几年以来您所不知道的,具体取决于使用率和代码使用时间,以及测试/开发假设与最终使用产品之间的变化会导致以下问题好。
–凯文·麦坚时(Kevin McKenzie)
16年9月7日在22:39
@KevinMcKenzie-该度量标准还需要一定程度的过滤,因为从该领域报告的许多缺陷(或被视为缺陷)实际上是小的客户需求或团队信念与客户信念之间的不匹配。尝试衡量团队绩效时,均不应考虑两者。
–凯特·保罗(Kate Paulk)
16 Sep 8'在11:26
#2 楼
最好的KPI测试是您不会期望的。团队能否以令人讨厌的可预测性水平发货?产品销售吗?
生产中发现的关键问题很少吗?
是否满足预算和进度表?起着关键作用。
评论
对于“整个团队” KPI +1,将测试与我们打算提供的测试分开进行评估几乎没有意义。
– testerab
2012年7月6日19:36
因此,如果没有“其他所有东西都很好”,就不可能进行“良好的测试”吗?
–乔·斯特拉泽(Joe Strazzere)
13年2月20日在14:29
@joe ...可能...但是“最佳测试”产品(即商业失败)仍然是失败,并且通过推导,测试也使该失败变得复杂。
–布鲁斯·麦克劳德(Bruce McLeod)
13年2月21日在21:30
@布鲁斯-我大都同意。这就是为什么我总是尝试将我的“测试车”拉到一支获胜的团队。您无法测试产品是否成功。如果公司的其他成员感到吃力,那么对出色的测试工作就很难感到满意。不过,我不一定将您的列表称为“用于测试的KPI”。更像是“产品或公司的KPI”。
–乔·斯特拉泽(Joe Strazzere)
13年2月21日在21:36
@joe ...我同意。我想这就是我的意思。在我看来,意见测试是团队的一部分,如果团队成功或失败,则成功或失败是测试的一部分,并且不应单独进行衡量,从技术上讲,这不能回答问题。
–布鲁斯·麦克劳德(Bruce McLeod)
13年2月21日在22:10
#3 楼
已拒绝缺陷的百分比-确保您的质量检查人员确实了解他在做什么。
测试功能的时间-实际测试功能需要多长时间? -发布一个版本后,客户发现了多少缺陷
您的系统的可用性等级
我还要计算您的质量检查正在开启多少个增强功能-确保它们也为系统提供了新的想法/>
评论
我喜欢这样,但是我相信有人会认为质量检查的责任不是建议新功能。质量检查不太可能沉浸在应用程序的业务知识中(就最终用户而言),并且可能会提出一些建议,使测试更加便捷,而不是使工具本身更便捷。
–corsiKa♦
13年5月22日在15:19
#4 楼
对于质量检查,我能想到的两个最佳KPI是:逃逸到野外的错误的数量和严重性
测试本身的清洁度(即测试根据相关软件/模块的要求正确地进行操作)
也可以使用执行测试活动所需的时间估计偏差。
请记住-KPI是指标,而不是最终状态。它们指出了您的长处和短处,应该用来引起您的注意或作为基线的监控器。它们本身不是目标或解决方案...但是它们确实可以帮助您发现目标和解决方案。
评论
如何测量“清洁度”?
–乔·斯特拉泽(Joe Strazzere)
13年2月20日在13:20
#5 楼
最简单的KPI是,在团队获得发布后,发现缺陷的比率很高,但是随着发现的缺陷越来越少,缺陷会迅速减少。但是,您将获得可以衡量的结果,并且可以通过这些方法轻松进行游戏-即团队可以在前两天非常努力地工作,然后完全放松下来,嘿,看来您已经准备好了发布,因为他们只是没有发现错误。当然,还可以使用其他KPI,例如发布之前/之后发现的缺陷比例-但是,当然,缓慢的滞后度量。
KPI是一个好主意,但不幸的是,现实中事情并没有KPI那样简单。
评论
KPI是测试的好主意吗?真?也许您应该使您的陈述合格。
–克里斯·肯斯特(Chris Kenst)
2012年7月3日18:45
原则上/理论上,KPI是一个好主意,但实际上,它们常常很危险,因为它们会在不适当的方向上改变行为。从同样的意义上说,“理论上与实践之间没有区别,但在实践中却没有区别。”
– Sean
2012年7月3日在22:07
#6 楼
您选择的任何KPI都会与时间成本质量三角形相冲突。您只能优化三个中的两个。
因此,假设您选择了在现场发现的错误作为您的KPI。然后,您显然希望完成测试的负载,以确保其详尽无遗。问题?要达到这样的质量,这会花费时间和金钱。
作为KPI的时间少怎么办-所有测试都在3天内完成?如果您的团队做到了,那真是太棒了?不幸的是,正如您可能会预测的那样,质量可能会受到影响,或者您可能要花很多钱(成千上万的测试人员?),但这会增加成本。
您是否计数测试次数?我可以将测试用例分解成大的(断言:该软件可以工作)或按您的喜好(“页面x字段y接受值1作为输入”)。目标-人们关注KPI的程度超过了他们要衡量的水平-确保软件质量的程度。甚至那通常都是主观的。
那么,我们只接受主观性怎么样呢?对于喜欢数字的开发人员/测试人员来说,通常听起来很痛苦,但是坦率地说,有利益相关者和客户,而归根结底,这是他们对软件的看法。所以问他们。进行年度调查。让他们对软件的各个方面进行评分。是越来越差还是越来越好?有什么变化?还有更多事件要发生吗?询问客户您可以采取哪些措施来改善他们的KPI。
评论
有一些方法可以在缩短测试时间的同时保持高质量。例如,缩短繁琐的任务,例如回归测试,验证环境运行状况或通过自动化设置测试数据。当然,一开始会有一些投资,但最终您将获得更多时间进行其他测试。这样,您可以优化三角形中的三个元素:成本(减少执行繁琐任务的测试人员),时间(缩短回归时间)和质量(可以在获得的时间内发现新的错误)。
– dzieciou
2014年1月19日在7:58
#7 楼
这里有很多很好的例子。我们在我的公司中广泛使用的另一个产品Net Promoter。我为我的质量团队进行了Net Promoter调查,并使用这些信息来帮助我们改进。我向我们的利益相关者(开发人员,项目经理,领导,运营,客户支持等)发送了简短的调查: (0-10,最高为10)
-(文本框)请告诉我您为什么回答您的做法。
通过从启动子(9-10)中减去减项因子(0-6分数),可以得到NP。越高越好。这为您提供了一个需要衡量的数字,并希望随着时间的推移而有所改善。更重要的是,您可以看到利益相关者的逐字记录-寻求改进的机会,或者可以加强的大事情。
祝你好运
评论
您将这些用作KPI来衡量质量保证团队的效率吗?
–乔·斯特拉泽(Joe Strazzere)
13年5月24日在19:19
#8 楼
对于测试部门而言,唯一重要的是发布后发现的缺陷的数量和严重性。如果我们生活在一个非常适合测试人员的世界中,那将是全部所需要的。但是,更广泛的企业也有必要知道其测试部门是否具有成本效益。毕竟,您可以在一个项目上有1,000名测试人员,并释放一些无bug的东西,但是要花多少钱呢?
我发现有用的几个KPI之一是每小时的缺陷(测试)。尽管这是主观的,并且取决于Test之外的因素,但它是事情进展情况的便捷指南。
至少,这是测试负责人和管理层之间进行对话的起点,当与发布后缺陷数量一起使用时,您可以对测试的效果建立合理的印象。 />
例如
发布后的缺陷数量少/每小时缺陷少-良好的初始编码
发布后的缺陷数量少/每小时缺陷多-经过良好测试的产品
高发布后缺陷+每小时低缺陷-测试不良的产品
高发布后缺陷+每小时高缺陷-产品发布太早了
评论
我假设KPI =关键绩效指标?我的问题是,为什么要衡量效率?效率不是更相关的措施吗?唯一有效的质量度量是WTF /分钟。另一个问题是“如何使用?” :)