衡量企业应用数据库性能的6大指标

标签: Application Insight Java | 发表时间:2016-01-27 17:24 | 作者:王鹏
出处:http://news.oneapm.com/

【编者按】本文作者是 Omed Habib,在其职业生涯中花费了大量的时间不断探索一些新方法以提高大型 Web 应用的性能状况。本篇文章中,作者详细介绍了数据库的六大性能指标,帮助我们更好对数据库性能进行评估和改进。

在前一篇文章中,我们曾对 SQL 和非 SQL 进行过简要介绍。本文基于这些主题,通过回顾最重要的六个性能指标,帮助评估企业应用数据库的健康状况。

具体来说,本文包括以下内容:

  • 事务
  • 查询性能
  • 用户和查询冲突
  • 容量
  • 配置
  • NoSQL 数据库

1、事务

事务可以观察真实用户的行为:能够在应用交互时捕获实时性能。众所周知,测量事务的性能包括获取整个事务的响应时间和组成事务的各个部分的响应时间。通常我们可以用这些响应时间与满足事务需求的基线对比,来确定当前事务是否处于正常状态。

如果你只想衡量应用的某个方面,那么可以评估事务的行为。所以,尽管容器指标能够提供更丰富的信息,并且帮助你决定何时对当前环境进行自动测量,但你的事务就足以确定应用性能。无需向应用程序服务器获取 CPU 的使用情况,你更应该关心用户是否完成了事务,以及该事务是否得到了优化。

补充一个小知识点,事务是由入口点决定的,通过该入口点可以启动事务与应用进行交互。

一旦定义了事务,会在整个应用生态系统中对其性能进行测量,并将每个事务与基线进行比对。例如,我们可能会决定当事务的响应时间与基线相比,一旦慢于平均响应时间的两个标准差是否就应该判定为异常,如图1所示。

图1-基于基线评估当前事务响应时间

用于评估事务的基线与正在进行的事务活动在时间上是一致的,但事务会由每个事务执行来完善。例如,当你选定一个基线,在当前事务结束之后,将事务与平均响应时间按每天的小时数和每周的天数进行对比,所有在那段时间内执行的事务都将会被纳入下周的基线中。通过这种机制,应用程序可以随时间而变化,而无需每次都重建原始基线;你可以将其看作是一个随时间移动的窗口。

总之,事务最能反映用户体验的测量方法,所以也是衡量性能状况最重要的指标。

2、查询性能

最容易检测到查询性能是否正常的指标就是查询本身。由查询引起的问题可能会导致时间太长而无法识别所需数据或返回数据。所以不妨在查询中排查以下问题。

选择过多冗余数据

编写查询语句来返回适当的数据是远远不够的,很可能你的查询语句会返回太多列,从而导致选择行和检索数据变得异常缓慢。所以,最好是列出所需的列,而不是直接用 SELECT*。当需要在特定字段中查询时,该计划可能会确定一个覆盖索引从而加快结果返回。覆盖索引通常会包含查询中使用的所有字段。这意味着数据库可以仅从索引中产生结果,而不需要通过底层表来构建。

另外,列出结果中所需的列不仅可以减少传输的数据,还能进一步提高性能。

表之间的低效联接

联接会导致数据库将多组数据带到内存中进行比较,这会产生多个数据库读取和大量 CPU。根据表的索引,联接还可能需要扫描两个表的所有行。如果写不好两个大型表之间的联接,就需要对每个表进行完整扫描,这样的计算量将会非常大。其他会拖慢联接的因素包括联接列之间存在不同的数据类型、需要转换或加入包含 LIKE 的条件,这样就会阻止使用索引。另外,还需注意避免使用全外联接;在恰当的时候使用内部联接只返回所需数据。

索引过多或过少

如果查询优化没有可用的索引时,数据库会重新扫描表来产生查询结果,这个过程会生成大量的磁盘输入/输出(I/O)。适当的索引可以减少排序结果的需要。虽然非唯一值的索引在生成结果时,不能像唯一索引那样方便。如果键越大,索引也会变大,并通过它们创建更多的磁盘 I/O。大多数索引是为了提高数据检索的性能,但也需要明白索引本身也会影响数据的插入和更新,因为所有相关联的指标都必须更新。

太多的SQL导致争用解析资源

任何 SQL 查询在执行之前都必须被解析,在生成执行计划之前需要对语法和权限进行检查。由于解析非常耗时,数据库会保存已解析的 SQL 来重复利用,从而减少解析的耗时。因为 WHERE 语句不同,所以使用文本值的查询语句不能被共享。这将导致每个查询都会被解析并添加到共享池中,由于池的空间有限,一些已保存的查询会被舍弃。当这些查询再次出现时,则需要重新解析。

3、用户和查询冲突

数据库支持多用户,但多用户活动也可能造成冲突。

由慢查询导致的页/行锁定

为了确保查询产生精确的结果,数据库必须锁定表以防止在运行读取查询时再发生其他的插入和更新行为。如果报告或查询相当缓慢,需要修改值的用户可能需要等待至更新完成。锁提示能帮助数据库使用最小破坏性的锁。从事务数据库中分离报表也是一种可靠的解决方法。

事务锁和死锁

当两个事务被阻塞时会出现死锁,因为每一个都需要使用被另一个占用的资源。当出现一个普通锁时,事务会被阻塞直到资源被释放。但却没有解决死锁的方案。数据库会监控死锁并选择终止其中一个事务,释放资源并允许该事务继续进行,而另一个事务则回滚。

批处理操作造成资源争夺

批处理过程通常会执行批量操作,如大量的数据加载或生成复杂的分析报告。这些操作是资源密集型的,但可能影响在线用户的访问应用的性能。针对此问题最好的解决办法是确保批处理在系统使用率较低时运行,比如晚上,或用单独的数据库进行事务处理和分析报告。

4、容量

并不是所有的数据库性能问题都是数据库问题。有些问题也是硬件不合适造成的。

CPU 不足或 CPU 速度太慢

更多 CPU 可以分担服务器负载,进一步提高性能。数据库的性能不仅是数据库的原因,还受到服务器上运行其他进程的影响。因此,对数据库负载及使用进行审查也是必不可少的。由于 CPU 的利用率时时在变,在低使用率、平均使用率和峰值使用率的时间段分别检查该指标可以更好地评估增加额外的 CPU 资源是否有益。

IOPS 不足的慢磁盘

磁盘性能通常以每秒输入/输出操作(IOPS)来计。结合 I/O 大小,该指标可以衡量每秒的磁盘吞吐量是多少兆。同时,吞吐量也受磁盘的延迟影响,比如需要多久才能完成请求,这些指标主要是针对磁盘存储技术而言。传统的硬盘驱动器(HDD)有一个旋转磁盘,通常比固态硬盘(SSD)或闪存更慢。直到近期,SSD 虽然仍比 HDD 贵,但成本已经降了下来,所以在市场上也更具竞争力。

全部或错误配置的磁盘

众所周知,数据库会被大量磁盘访问,所以不正确配置的磁盘可能带来严重的性能缺陷。磁盘应该适当分区,将系统数据目录和用户数据日志分开。高度活跃的表应该区分以避免争用,通过在不同磁盘上存放数据库和索引增加并行放置,但不要将操作系统和数据库交换空间放置在同一磁盘上。

内存不足

有限或不恰当的物理内存分配会影响数据库性能。通常我们认为可用的内存更多,性能就越好。监控分页和交换,在多个非繁忙磁盘中建立多页面空间,进一步确保分页空间分配足够满足数据库要求;每个数据库供应商也可以在这个问题上提供指导。

网速慢

网络速度会影响到如何快速检索数据并返回给终端用户或调用过程。使用宽带连接到远程数据库。在某些情况下,选择 TCP/IP 协议而不是命名管道可显著提高数据库性能。

5、配置

每个数据库都需设置大量的配置项。通常情况下,默认值可能不足以满足数据库所需的性能。所以,检查所有的参数设置,包括以下问题。

缓冲区缓存太小

通过将数据存储在内核内存,缓冲区缓存可以进一步提高性能同时减少磁盘 I/O。当缓存太小时,缓存中的数据会更频繁地刷新。如果它再次被请求,就必须从磁盘重读。除了磁盘读取缓慢之外,还给 I/O 设备增添了负担从而成为瓶颈。除了给缓冲区缓存分配足够的空间,调优 SQL 查询可以帮助其更有效地利用缓冲区缓存。

没有查询缓存

查询缓存会存储数据库查询和结果集。当执行相同的查询时,数据会在缓存中被迅速检索,而不需要再次执行查询。数据会更新失效结果,所以查询缓存是唯一有效的静态数据。但在某些情况下,查询缓存却可能成为性能瓶颈。比如当锁定为更新时,巨大的缓存可能导致争用冲突。

磁盘上临时表创建导致的 I/O 争用

在执行特定的查询操作时,数据库需要创建临时表,如执行一个 GROUP BY 子句。如果可能,在内存中创建临时表。但是,在某些情况下,在内存中创建临时表并不可行,比如当数据包含 BLOB 或 TEXT 对象时。在这些情况下,会在磁盘上创建临时表。大量的磁盘 I / O 都需要创建临时表、填充记录、从表中选择所需数据并在查询完成后舍弃。为了避免影响性能,临时数据库应该从主数据库中分离出来。重写查询还可以通过创建派生表来减少对临时表的需求。使用派生表直接从另一个 SELECT 语句的结果中选择,允许将数据加到内存中而不是当前磁盘上。

6、NoSQL 数据库

NoSQL 的优势在于它处理大数据的能力非常迅速。但是在实际使用中,也应该综合参考 NoSQL 的缺点,从而决定是否适合你的用例场景。这就是为什么NoSQL通常被理解为 「不仅仅是 SQL」,说明了 NoSQL 并不总是正确的解决方案,也没必要完全取代 SQL,以下分别列举出五大主要原因。

挑剔事务

难以保持 NoSQL 条目的一致性。当访问结构化数据时,它并不能完全确保同一时间对不同表的更改都生效。如果某个过程发生崩溃,表可能会不一致。一致事务的典型代表是复式记账法。相应的信贷必须平衡每个借方,反之亦然。如果双方数据不一致则不能输入。NoSQL 则可能无法保证「收支平衡」。

复杂数据库

NoSQL 的支持者往往以高效代码、简单性和 NoSQL 的速度为傲。当数据库任务很简单时,所有这些因素都是优势。但当数据库变得复杂,NoSQL 会开始分解。此时,SQL 则比 NoSQL 更好地处理复杂需求,因为 SQL 已经成熟,有符合行业标准的接口。而每个 NoSQL 设置都有一个唯一的接口。

一致联接

当执行 SQL 的联接时,由于系统必须从不同的表中提取数据进行键对齐,所以有一个巨大的开销。而 NoSQL 似乎是一个空想,因为缺乏联接功能。所有的数据都在同一个表的一个地方。当检索数据时,它会同时提取所有的键值对。问题在于这会创建同一数据的多个副本。这些副本也必须更新,而这种情况下,NoSQL 没有功能来确保更新。

Schema设计的灵活性

由于 NoSQL 不需要 schema,所以在某些情况下也是独一无二的。在以前的数据库模型中,程序员必须考虑所有需要的列能够扩展,能够适应每行的数据条目。在 NoSQL 下,条目可以有多种字符串或者完全没有。这种灵活性允许程序员迅速增加数据。但是,也可能存在问题,比如当有多个团体在同一项目上工作时,或者新的开发团队接手一个项目时。开发人员能够自由地修改数据库,也可能会不断实现各种各样的密钥对。

资源密集型

NoSQL 数据库通常比关系数据库更加资源密集。他们需要更多的 CPU 储备和 RAM 分配。出于这个原因,大多数共享主机公司都不提供 NoSQL。你必须注册一个 VPS 或运行自己的专用服务器。另一方面,SQL 主要是在服务器上运行。初期的工作都很顺利,但随着数据库需求的增加,硬件必须扩大。单个大型服务器比多个小型服务器昂贵得多,价格呈指数增长。所以在这种企业计算场景下,使用 NoSQL 更为划算,例如那些由谷歌和 Facebook 使用的服务器。

7、总结

本文主要介绍了评估数据库状况时需要考量的六个最主要的因素:

  • 事务
  • 查询性能
  • 用户和查询冲突
  • 容量
  • 配置
  • NoSQL 数据库

(编译自: https://dzone.com/articles/top-6-database-performance-metrics-to-monitor-in-e)

OneAPM 为您提供端到端的 Java 应用性能解决方案,我们支持所有常见的 Java 框架及应用服务器,助您快速发现系统瓶颈,定位异常根本原因。分钟级部署,即刻体验, Java 监控从来没有如此简单。想阅读更多技术文章,请访问 OneAPM 官方技术博客

相关 [衡量 企业 应用] 推荐:

衡量企业应用数据库性能的6大指标

- - OneAPM 博客
【编者按】本文作者是 Omed Habib,在其职业生涯中花费了大量的时间不断探索一些新方法以提高大型 Web 应用的性能状况. 本篇文章中,作者详细介绍了数据库的六大性能指标,帮助我们更好对数据库性能进行评估和改进. 在前一篇文章中,我们曾对 SQL 和非 SQL 进行过简要介绍. 本文基于这些主题,通过回顾最重要的六个性能指标,帮助评估企业应用数据库的健康状况.

企业加速部署移动应用

- - 《商业价值》杂志
通过移动互联的应用创新,企业可以创造出更完善的客户体验. 一家股份制银行曾和IBM签订了6万台平板电脑的服务合约,在平板电脑中嵌入IBM的智能分析软件. 当银行客户经理与客户交流理财产品时,如果客户对5年期债券感兴趣,客户经理可以在平板电脑上利用智能软件及时搜索出世界上已经有的115种五年期债券,向客户展示现9%年收益和6%年收益的债券兑现率情况,帮助客户做出抉择.

企业架构-应用架构构图

- - 人月神话的BLOG
在这里要谈的是在传统的企业架构-应用架构的基础上进一步体现SOA和企业私有云平台的思想,而非传统意义上简单的原有企业各个业务系统功能架构的堆砌. 这个思想包括两个方面的内容,一个是集中化和平台化,一个是SOA服务化和业务能力组件化. 对于该构图模式考虑两种,首先第一种是充分考虑平台层独立和平台层能力的体现:.

企业应用开发与互联网应用开发区别

- - 行业应用 - ITeye博客
注:转自 http://timeson.iteye.com/blog/609045. 新形式下的企业应用特点: . 企业应用系统从封闭走向开放,由局域网转到互联网,随着涉众面的极大扩展,新的企业应用要求多浏览器支持(IE,FireFox),国际化支持,全球业务的互联互通. 这样就要求企业应用不能满足简单的表单、表格、树、菜单;而是要求有较好的用户体验,提倡富互联网应用.

Twitter也要企业平台化?希望第三方来开发企业应用

- - 微博之博
看来,微软收购企业社交网站Yammer启发了 Twitter. CEO迪克·科斯特洛最近表示,Twitter虽已成为一个强大的广告和 营销工具,但目前才刚刚开始向一个多面企业通讯平台转变. 他提示说:“我们会看到更多的CRM创新工具、更多的分析工具、更多的情感分析工具的出现,这是自然而然的事情,也是我们所期待的结果.

【转载】开发杀手级企业应用10规则

- - HTML5研究小组
卓越的企业级App要7*24小时在线,保持机警,能帮助员工抓住每一个机会. 你也许认为你和你的团队都已经拥有了个人电脑. 但是根据 Lextech Global Services(一家移动app设计与开发公司)的CEO  Alex Bratton的说法,你并没有真正拥有. Brathon说:“如果安装了合适的app,移动设备就是首要的真正的个人电脑:可以装在口袋里,7*24小时可用,最重要的是,移动设备不是为大众市场而设计的,而是为你的个人需求而设计的.

使用Windows 8分发企业应用程序

- - InfoQ cn
向用户的计算机分发正确的应用程序和链接总是一项挑战. 登录脚本总是容易出问题,而自动安装应用程序的工具通常很难使用. 人们对自己拥有的计算机和设备使用越来越多,让这个问题变得更复杂. 微软正试图使用Windows 8和自服务门户(Self-Service Portal,SSP)来解决这两个问题. 当用户使用公司的电子邮件地址和密码注册他们的计算机时,这个门户就会被激活.

R 语言企业级数据挖掘应用

- - 刘思喆@贝吉塔行星
三月底参加了中国人民大学统计学院海峡两岸数据挖掘研讨会,和大家简单聊了聊R语言在京东商城的数据挖掘应用. 本来想接着写篇博文说明一下, 一直也没腾出时间,今天补上. 在互联网企业,在分析端使用闭源的商用软件几乎是不可能的,原因很简单:成本太高,不管是使用,还是研发及维护. 但我个人觉得这可能还不是最主要的原因,对于互联网企业来说,数据虽然获取更容易,但环境更为复杂.

企业内部应用商店:机遇与困难并存

- - Tech2IPO
从iOS到Android,从BlackBerry到Windows Phone,他们各自的应用商店均已经成为其用户寻找、下载和升级应用程序的主要渠道. 而越来越多的企业员工也开始希望能在智能手机和平板电脑上办公,于是各大公司IT部门可以开始考虑了:是不是应该建立企业内部应用商店呢. 图:IBM内部应用商店iPad客户端截图.

企业部署Windows 8 Store 风格应用

- - CSDN博客推荐文章
之前我们都知道可以将应用程序发布到Windows 商店中供用户下载使用. 如果我们是企业开发人员,则我们的应用可能属于以下两种类别之一:. 1.应用内容是只与公司内个人切实相关的应用. 2.希望尽可能多的用户可以使用我们的应用,最好将该应用列在 Windows 应用商店中. 本篇博文主要针对第一种类型的应用如何部署到企业进行分析.