关于性能优化

本贴最后更新于 2471 天前,其中的信息可能已经事过境迁

文章目录:
1.为什么要做性能优化
2.性能优化之前,先定位问题
3.Nginx 和 Tomcat
4.Controller 和 Service 又做了什么
5.Memcache 和 DB 做了什么
6.听说他们久经沙场

一 为什么要做性能优化

“这破网站慢死了。”果冻咬着牙说,“这些程序员都是干嘛吃的 ?”
毛毛看着果冻笑,没说话,毕竟果冻说的破网站是“修真院自己的官网”,毕竟果冻说的这些“干嘛吃的”程序员就在他们 UE 组对面。果冻是一个萌妹子,怎么说都行,毛毛做为一个 PM,可是经常注意培宇桌子下面常备两块板砖的。

培宇有一点点脸红,果冻对培宇是一直有偏见的,毕竟当众表白被拒是谁都难以接受的。自那以后,本着“没有打击培宇的机会,就创造打击培宇的机会”的原则,果冻让培宇生生见识到了什么叫做“由爱生恨两重天”。

旁边的小马哥不干了,当场就“哐“的一下拍桌子,整个二楼的人都吓了一跳,看着小马哥。
果冻也一样吓了一跳,回过神来之后就当场发飚了:”伟江你要死吗?“

伟江本来想说”你行你上啊“,但是看了看果冻渐渐变冷的眼神,终究还是说不出口,可是气氛一度很尬啊,只好小声说了一句:”我去找老大解决去。。。。。。“

所有人:”。。。。。“
培宇笑的不行:”伟江就该这么有霸气,在果冻的淫威下终于爆发了,一怒而起,然后一溜烟的跑去找老大了~“

二 性能优化之前,先定位问题

说到性能之前,先谈量化。

说网站慢,那是普通用户的说的话。
而对程序员来讲,必须是到多少 MS。

多少 MS 才算慢?通常来说,人的眼睛对于 200MS 以上的时延是有反应的,所以一般而言,一整个页面都应该在 200MS 之内完成。
对于复杂的请求,可以再稍微慢一点,毕竟大家还能忍,能忍的程度跟网站的价值成正比。反正我看小黄片的时候是挺能忍的~

简单的用户个人信息这种请求,应该在 50MS 左右,List 的数据,差不多在 100MS 左右。这是比较正常的数据。

以上这些全是暗灭大人骂伟江的原话。

”所以你做为一个程序员,过来跟我说网站慢?你应该直接告诉我说现在哪一个请求慢,慢到多少 MS,应该达到多少 MS。“
暗灭大人一边狠狠的骂了伟江一顿,一边继续在 QQ 上教小师妹学习:“小师妹啊,我听说最近刚上映了一部电影叫做《人民的名义》,我看了看,感觉对于写代码很有帮助啊,强烈推荐给你看,这样,刚好有人买了两张电影票给我,我带你一起去学习一下吧。”

伟江赶紧的拿出手机来,两张票买后,然后截图发给老大。
暗灭大人看到截图,这才满意,跟小师妹又回了句:“稍等啊,我要开个董事会。”

“拿白板来!”老大说。

首先,果冻朝你设了一箭。你接到了果冻射过来的这支爱之箭,看了看箭上附的小纸条,写的是什么内容,按果冻的指示把她想要做的事给做完了,然后把结果又放到小纸条上,再扔回给了果冻,果冻收到箭之后,打开看完。
这是一个完整的 Http 请求过程。

然后老大在白板上这么画了一下。


这表示,对于一个网络请求来说,第一个层面,你需要知道的时间的损耗可以分解成三大部分。

第一部分前端的响应,一般包括解析和渲染,这部分的性能跟前端的代码,前端硬件有关系。
第二部分就是网络延迟,这部分的代码正常来讲是在 8~16MS 左右,是的,Http 请求就是差不多这个性能,如果是 WebSocket 几乎可以做到零延迟,有暗灭大人当年写的多人在线扫雷(http://game.ptteng.com 支持多人在线玩扫雷,一个人点错所有人完蛋的恶趣味)为证。
第三部分就是服务器端的响应,我们说的是网站慢,一般而言,也就是主要在这里,要做性能优化的地方,基本上也是看这里。

伟江听的正津津有味,突然间发现老大已经转身要走了,赶紧拿出手机来又订了一个烛光晚餐。
“老大,老大,我怎么才能知道每一段时间间隔多久呢?在哪可以看得到啊?”

“F12,Fiddle 都行啊,这种叫端到端的响应时间,服务器端的响应时间啊,要看 Nginx 的 Access.log.”老大满意的点了点头:“伟江的学习态度很好嘛,不像培宇,太笨,又不肯用心。”

“Access.log 里会记录服务器端自己的响应时间,这是后端查看性能的重要依据,也是找运维背锅的必备技能。一旦你发现服务器端的响应时间没问题,而端到端的响应有问题,那就百分百的是网络问题了,可以直接找运维同学背锅了。”

“这些是做性能优化之前必须要弄明白的,问题到底出在哪儿呢?否则怎么做性能优化?所以解决性能的问题,跟你泡妹子是一样的,要先脱掉妹子的外套,再脱掉外套里面的上衣,然后。。”

伟江擦了擦口水,说:“老大,如果确实是我们后端的问题呢,前端响应正常,网络传输也正常,就是后端响应出问题,该怎么解决?”

三 .Nginx 和 Tomcat

“为什么要在前端挂一个 Nginx,而不是直接用 Tomcat 呢?”
“你别管,总之好处多多了,不过是域名,还是跨域,还是防 Ddos 攻击,Nginx 都是利器,很好用。现在就照着来。”

Nginx 相当于是一个大的总管,所有的请求都是先到 Nginx 这里来,然后再发给后面的 Tomcat,或者是 Resin 什么的。
后面的 Tomcat 像当于是一个个漂亮女生宿舍的话:

所以 Nginx 就像当于是女生宿舍的门卫

对的。总之 Nginx 很赞,我很喜欢。Nginx 会记录有所有的出入时间。
如果 Nginx 的耗时比较长,一般而言,问题都不太会直接出在 nginx 身上,可以直接再去查 Tomcat/resin/jetty 这些女生宿舍的岗了,哦,不是,去查看这些服务器的日志响应时间了。

所以,Nginx 和 Tomcat 之间的图应该是这样的。

Tomcat 本身也会有一个日志记录,也是 Access.log,其他的叫别的什么日志无所谓了,反正从名字来看,就是进女生宿舍的时间和离开的时间--那群 Tomcat 的研发人员一定是做了很多的实地调研才能有如此神似的命名。

那么锅就继续甩给了 Tomcat。Tomcat 之后是什么呢?基本上就全部是 Java 人员写的代码了。所以我们要不要往女生宿舍里偷偷看一眼?
可是最关键的就是女生宿舍吧,哪能只偷偷看一眼就走!”伟江有点不满意。

四 .Controller 和 Service 又做了什么

说的没错,Tomcat 里的时间其实还可以再分解的更细一些。第一个接受到响应的就是 Controller,而之前说过,Controller 通常是用来控制 Service 的,你可以理解为,每一个 Service 就是一个漂亮妹子。

Controller 就是一个宿舍的宿管员。就是少林足球里的包租婆,她来负责管理这些小妹妹做什么事儿。

Controller 依次调用女生 Service1,女生 Service2,女生 Service3~然后再把结果返回给你。

所以 Tomcat 响应的时间可以分为:
1.Controller 的处理时间
2.Service 的调用时间
3.返回结果的处理时间

controller 本身的处理事情,一般都会是在开始和结束各打一条毫秒数这是所有的业务逻辑处理的总时间。调用各 Service 的时间包含网络传输和 Service 的响应时间。返回结果的时间一般都是解析成 Json 的时间。

生成 Json 的时间通常很短,很短,网络传输的时间说不好,RMI 的话,除第一次建立连接外,几乎可以忽略不计,但是一个 Controller 里调用上百次的话,速度就会慢起来。Http 无疑是最慢的,单纯建立就要花几 MS,对性能有更高要求的话,用 Thrift 和 ProtocolBuffer 等。

而我一般都喜欢用 RMI,不喜欢异构的东西,Http 又引入了额外的负担,所以比较喜欢用 Tuscany 直接调用 RMI。

所以性能优化的重点,就是要弄明白,如果一个大老爷们,比如说培宇,进了女生宿舍之后,总共花了 500 多 MS 的时间,他在包租婆那里花了多长时间?他跑到妹子 1 的床前花了多久?和妹子 1 在一起同几 MS?跑到妹子 2 的床前是多久?在妹子 2 那里花了几 MS?

这些数据都要清清楚楚,还是要用图来表明一下。

这个就是小培宇。如果他爬上每一个妹子的床之后都回来找包租婆登记一下,就是这样的。
如果他爬了一个妹子的床,然后赶紧的去爬了另一个妹子的床,这就是另一个服务调用服务的过程了。

这两种方式的优劣,我们随后再说。

如果他进去之后变成了 8 个小培宇,每个小培宇分别去上 8 个妹子的床,这就是多线程和异步。

如果他自己带了一个小黑板,啪啪啪写上自己的地址,然后就走。8 个妹子看到地址之后各自去找小培宇,这就是消息队列。

总之,先不讨论这么复杂的东西,我们就只说,培宇是一个妹子一个妹子的上。。。。。床。

那么,Controller 那里应该怎么统计时间呢?

一般而言,我们会手写一个 AOP 的 Util。并不会在 Controller 里手写 StartAt 和 EndAt。

这个 Aop 写起来很容易,正常来讲,会在代码里这么写:

如果超过了 50MS,记录日志,入参,时间。
如果不超过 50MS,不记录。

这个 50MS 依据每个人的身体情况,哦不,依据每个应用的情况来自行设置。

所以,到了这里,你就会知道了,我们把果冻射来的爱之箭,已经穿透了包租婆,到了女生宿舍,并且分解到了每一个床位的时间。

这就是一个分析和定位的过程,而通常就是在 Controller 的代码里,一般我们都叫做 WEB 工程,在这里去用 Aop 来记录第一个 Service 的响应时间。

如果我们发现了,培宇在 2 号女生那儿花费的时间特别长呢?

五.Memcache 和 DB 做了什么

“那就把培宇阉了!”伟江斩钉截铁的说。
“好的,现在就动手。” 老大满怀期待的看着他。

这得把培宇喊过来,问问他在 2 号女生那里做什么了。
写到这里我必须得说,这是公开版,公开版只能说,培宇在约 2 号女生看电影。

内部版,非公开发生的,培宇做的事情就比较多了。。

好了,先说看电影。

培宇说:乖,我们去看电影吧。
妹子说:好的,我要找找我的身份证。

这个时间发现身份证不在身边,在老家,于是妹子说,乖,你等着,我去老家把身份证拿过来。
这就叫做直接从 DB 里拿数据。

所以时间性能的损耗,就在于是:培宇和妹子说话,妹子回老家拿身份证。
大概的场景就是这样的。

培宇说:乖,我们看电影去吧。
妹子说:好啊,好啊,等我,我回老家拿身份证,然后一个月过去了。
培宇和妹子想了想,还是没办法看电影。

第二次培宇又说:乖,我们看电影吧。
妹子说;好啊,好啊,等我,我回家拿身份证,然后一个月又过去了。
培宇和妹子再见面之后,想了想,还是没办法看电影。

上一篇讲过 Dao。其实 Service 里对于 Dao 的访问时间分析,也是这么记录的。同理,如果你要用到多个 Dao,可能是先回老家拿身份证,再去商场买件衣服等等等等。

而我们统计妹子去拿身份证的时间,也是同理可以用刚刚说过的 Aop 的性能统计 Util.

这样一个 Service 处理事情的时间,就分成了本地运算和获取数据的时间。
通常本地运算的时间会比较快,而获取数据的时间会比较慢。

如果说你发现了妹子总是回老家,而且时间刚好是一个月,你怎么办?
给妹子提个醒,可不可以把身份证放到旁边的衣柜里?这样我们就可以直接从衣柜里拿身份证了啊。

这个衣柜,就叫做缓存。
而一般而言,我们的包租婆是不管妹子从哪拿身份证的,总之能接待好客人,呃,接待好培宇就行了。

所以如果要继续区分,性能问题。必须要知道,数据有没有走缓存?从缓存中的数据取出来要多久?正常情况下应该几 MS,为什么妹子花了 20 多 MS?是不是柜子前面的人比较多?还是从床到柜子中间的路坏了?柜子是在哪里放着的?

妹子回老家取身份证,会不会堵车?

这些都是需要靠日志来记录时间,也简单提醒一下,假设不是培宇一个人来呢。10000 个人同时来呢?你必须得在日志里记录一些关键信息,确保知道哪个时间是哪个老板,呃,哪个客户的。

六.听说他们久经沙场

其实性能优化有很多很多方案,不同的应用场景,解决方案是不同的。但是最根本的就是要明白,时间倒底损耗在什么地方?
对于果冻来说,就是简单的射了一支爱之箭,后面做了哪些,是不需要知道的。

可是伟江就必须得明白,培宇对每一个女生宿舍的妹子都做了什么。在保安那里花了多久,在包租婆那里花了多久,在每一个女生床上花了多久,妹子从柜子里取身份证要多久,从老家取身份证又要多久。

我们一直说的,一个程序员的真正工作的地方不在笔记本上,也不是在开发环境,也不是在测试环境,而是在线上环境,就是这个道理。
做为一个老程序员来说,对于线上有哪几台服务器,IP 是多少,内存是多大,硬盘是多大,CPU 是几核的,常用负载是多少,IO 有多少,每天增长的日志是多少,DB 里的数据库大小是多大,每天的增量是多少,系统中最慢的请求是什么,每天会访问多少次,最快的请求是什么,每天应该访问多少次,每次访问的时候正常应该是在多少 MS 内返回,一次会取多少条数据,分解到哪几个 Service,每个 Service 的不同时间请求是多少,有多少穿透 DB 的次数。

所有的这些数据都要了如指掌,这样才能够非常快的定位线上的问题。

我们不能说这样的程序员是一个水平多厉害的高手,但是他如果做到了这么一点,他就是一个久经沙场的老兵,这样才像是一个职业的工程师。

所以这篇文章的重点就在于是,简单的讲解一下时间之箭的运转,中间会有哪些环节,每个环节应该耗费多长时间。
简单说,只有先找到妹子,才会知道应该在妹子身上花多少时间,对吧?

** 技能树.IT 修真院 http://www.jnshu.com**

“我们相信人人都可以成为一个工程师,现在开始,找个师兄,带你入门,掌控自己的学习节奏,学习的路上不再迷茫”。

** 这里是技能树.IT 修真院,成千上万的师兄在这里找到了自己的学习路线,学习透明化,成长可见化,师兄 1 对 1 免费指导。**

  • 程序员

    程序员是从事程序开发、程序维护的专业人员。

    529 引用 • 3527 回帖
  • Java

    Java 是一种可以撰写跨平台应用软件的面向对象的程序设计语言,是由 Sun Microsystems 公司于 1995 年 5 月推出的。Java 技术具有卓越的通用性、高效性、平台移植性和安全性。

    3165 引用 • 8206 回帖 • 1 关注
  • 培宇
    1 引用 • 1 回帖

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...

推荐标签 标签

  • Webswing

    Webswing 是一个能将任何 Swing 应用通过纯 HTML5 运行在浏览器中的 Web 服务器,详细介绍请看 将 Java Swing 应用变成 Web 应用

    1 引用 • 15 回帖 • 633 关注
  • TensorFlow

    TensorFlow 是一个采用数据流图(data flow graphs),用于数值计算的开源软件库。节点(Nodes)在图中表示数学操作,图中的线(edges)则表示在节点间相互联系的多维数据数组,即张量(tensor)。

    20 引用 • 19 回帖 • 1 关注
  • 又拍云

    又拍云是国内领先的 CDN 服务提供商,国家工信部认证通过的“可信云”,乌云众测平台认证的“安全云”,为移动时代的创业者提供新一代的 CDN 加速服务。

    21 引用 • 37 回帖 • 506 关注
  • 思源笔记

    思源笔记是一款隐私优先的个人知识管理系统,支持完全离线使用,同时也支持端到端加密同步。

    融合块、大纲和双向链接,重构你的思维。

    18132 引用 • 66897 回帖
  • JWT

    JWT(JSON Web Token)是一种用于双方之间传递信息的简洁的、安全的表述性声明规范。JWT 作为一个开放的标准(RFC 7519),定义了一种简洁的,自包含的方法用于通信双方之间以 JSON 的形式安全的传递信息。

    20 引用 • 15 回帖 • 18 关注
  • Gitea

    Gitea 是一个开源社区驱动的轻量级代码托管解决方案,后端采用 Go 编写,采用 MIT 许可证。

    4 引用 • 16 回帖 • 7 关注
  • 持续集成

    持续集成(Continuous Integration)是一种软件开发实践,即团队开发成员经常集成他们的工作,通过每个成员每天至少集成一次,也就意味着每天可能会发生多次集成。每次集成都通过自动化的构建(包括编译,发布,自动化测试)来验证,从而尽早地发现集成错误。

    14 引用 • 7 回帖
  • NGINX

    NGINX 是一个高性能的 HTTP 和反向代理服务器,也是一个 IMAP/POP3/SMTP 代理服务器。 NGINX 是由 Igor Sysoev 为俄罗斯访问量第二的 Rambler.ru 站点开发的,第一个公开版本 0.1.0 发布于 2004 年 10 月 4 日。

    311 引用 • 546 回帖 • 57 关注
  • Kafka

    Kafka 是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是现代系统中许多功能的基础。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。

    35 引用 • 35 回帖
  • uTools

    uTools 是一个极简、插件化、跨平台的现代桌面软件。通过自由选配丰富的插件,打造你得心应手的工具集合。

    5 引用 • 13 回帖
  • Pipe

    Pipe 是一款小而美的开源博客平台。Pipe 有着非常活跃的社区,可将文章作为帖子推送到社区,来自社区的回帖将作为博客评论进行联动(具体细节请浏览 B3log 构思 - 分布式社区网络)。

    这是一种全新的网络社区体验,让热爱记录和分享的你不再感到孤单!

    131 引用 • 1114 回帖 • 153 关注
  • C

    C 语言是一门通用计算机编程语言,应用广泛。C 语言的设计目标是提供一种能以简易的方式编译、处理低级存储器、产生少量的机器码以及不需要任何运行环境支持便能运行的编程语言。

    83 引用 • 165 回帖 • 58 关注
  • CodeMirror
    1 引用 • 2 回帖 • 108 关注
  • jQuery

    jQuery 是一套跨浏览器的 JavaScript 库,强化 HTML 与 JavaScript 之间的操作。由 John Resig 在 2006 年 1 月的 BarCamp NYC 上释出第一个版本。全球约有 28% 的网站使用 jQuery,是非常受欢迎的 JavaScript 库。

    63 引用 • 134 回帖 • 744 关注
  • Eclipse

    Eclipse 是一个开放源代码的、基于 Java 的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。

    75 引用 • 258 回帖 • 625 关注
  • GitBook

    GitBook 使您的团队可以轻松编写和维护高质量的文档。 分享知识,提高团队的工作效率,让用户满意。

    3 引用 • 8 回帖 • 1 关注
  • etcd

    etcd 是一个分布式、高可用的 key-value 数据存储,专门用于在分布式系统中保存关键数据。

    5 引用 • 26 回帖 • 489 关注
  • 大数据

    大数据(big data)是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

    89 引用 • 113 回帖
  • 数据库

    据说 99% 的性能瓶颈都在数据库。

    330 引用 • 612 回帖
  • Git

    Git 是 Linux Torvalds 为了帮助管理 Linux 内核开发而开发的一个开放源码的版本控制软件。

    204 引用 • 357 回帖 • 1 关注
  • 资讯

    资讯是用户因为及时地获得它并利用它而能够在相对短的时间内给自己带来价值的信息,资讯有时效性和地域性。

    53 引用 • 85 回帖 • 3 关注
  • 京东

    京东是中国最大的自营式电商企业,2015 年第一季度在中国自营式 B2C 电商市场的占有率为 56.3%。2014 年 5 月,京东在美国纳斯达克证券交易所正式挂牌上市(股票代码:JD),是中国第一个成功赴美上市的大型综合型电商平台,与腾讯、百度等中国互联网巨头共同跻身全球前十大互联网公司排行榜。

    14 引用 • 102 回帖 • 405 关注
  • FFmpeg

    FFmpeg 是一套可以用来记录、转换数字音频、视频,并能将其转化为流的开源计算机程序。

    22 引用 • 31 回帖 • 13 关注
  • Openfire

    Openfire 是开源的、基于可拓展通讯和表示协议 (XMPP)、采用 Java 编程语言开发的实时协作服务器。Openfire 的效率很高,单台服务器可支持上万并发用户。

    6 引用 • 7 回帖 • 87 关注
  • Maven

    Maven 是基于项目对象模型(POM)、通过一小段描述信息来管理项目的构建、报告和文档的软件项目管理工具。

    185 引用 • 318 回帖 • 353 关注
  • SpaceVim

    SpaceVim 是一个社区驱动的模块化 vim/neovim 配置集合,以模块的方式组织管理插件以
    及相关配置,为不同的语言开发量身定制了相关的开发模块,该模块提供代码自动补全,
    语法检查、格式化、调试、REPL 等特性。用户仅需载入相关语言的模块即可得到一个开箱
    即用的 Vim-IDE。

    3 引用 • 31 回帖 • 66 关注
  • Latke

    Latke 是一款以 JSON 为主的 Java Web 框架。

    70 引用 • 532 回帖 • 706 关注