www.tmsmall666.cn

 　　這篇文章是一位管理人員在對(duì)linux服務(wù)器集群時(shí)對(duì)它們進(jìn)行運(yùn)行維護(hù)的一些技術(shù)經(jīng)驗(yàn)，中技特意讓大家一起學(xué)習(xí)。

　　1. 構(gòu)建專(zhuān)屬于自己的內(nèi)網(wǎng)DNS

　　2. 服務(wù)器型號(hào)的區(qū)分，為以后的統(tǒng)一化和標(biāo)準(zhǔn)化作硬件上的準(zhǔn)備，很多人忽視這一點(diǎn)，其實(shí)如果這一點(diǎn)做得好會(huì)使后面的運(yùn)維工作輕松很多，根據(jù)應(yīng)用我們主要把服務(wù)器分為3中，cpu密集型，主要用于大量計(jì)算應(yīng)用，比如p2p;內(nèi)存密集型，用于cache類(lèi)應(yīng)用，比如squid,varnish緩存服務(wù)器;磁盤(pán)密集型，用于大存儲(chǔ)類(lèi)應(yīng)用，比如視頻存儲(chǔ)服務(wù)器，hadoop日志存儲(chǔ)集群。

　　3. 服務(wù)器型號(hào)的區(qū)分，為以后的統(tǒng)一化和標(biāo)準(zhǔn)化作硬件上的準(zhǔn)備，很多人忽視這一點(diǎn)，其實(shí)如果這一點(diǎn)做得好會(huì)使后面的運(yùn)維工作輕松很多，根據(jù)應(yīng)用我們主要把服務(wù)器分為3中，cpu密集型，主要用于大量計(jì)算應(yīng)用，比如p2p;內(nèi)存密集型，用于cache類(lèi)應(yīng)用，比如squid,varnish緩存服務(wù)器;磁盤(pán)密集型，用于大存儲(chǔ)類(lèi)應(yīng)用，比如視頻存儲(chǔ)服務(wù)器，hadoop日志存儲(chǔ)集群。

　　4. 統(tǒng)一的yum源和定制化的rpm包， 并集成至yum源站，為后續(xù)的環(huán)境初始化做軟件上的準(zhǔn)備

　　5. 標(biāo)準(zhǔn)化的統(tǒng)一的命名方式(標(biāo)準(zhǔn)化基礎(chǔ))，便于使用puppet管理，并且減少操作的錯(cuò)誤，如果每個(gè)機(jī)器的hostname都為localhost，那將是一個(gè)多么可怕的事。。。在我們的生產(chǎn)環(huán)境中主要使用下面這種命名方式

　　機(jī)房-主業(yè)務(wù)-應(yīng)用程序-IP后兩位-公司域名，這樣一眼就可以看出是哪臺(tái)服務(wù)器，應(yīng)用于什么業(yè)務(wù)，報(bào)警也可以直接定位。

　　6.自動(dòng)化的配置管理和環(huán)境部署工具：puppet,puppet的模塊編寫(xiě)要盡量減少模塊直接的耦合度，并使用class繼承的方式來(lái)減少運(yùn)維的工作量，定制化的facter變量會(huì)使軟件的配置環(huán)境更加靈活，由于puppet暫時(shí)不支持群集，所以在實(shí)際應(yīng)用中需要部署多套，根據(jù)經(jīng)驗(yàn)，1500臺(tái)左右的server時(shí)puppet會(huì)出現(xiàn)性能問(wèn)題。

　　7. 強(qiáng)大有效的監(jiān)控系統(tǒng)，在生產(chǎn)環(huán)境中我們使用了zabbix proxy+zabbix master的群集結(jié)構(gòu)，zabbix可以實(shí)現(xiàn)有效的系統(tǒng)和應(yīng)用級(jí)別的監(jiān)控，應(yīng)用監(jiān)控同時(shí)也使用了ppmon來(lái)實(shí)現(xiàn)多點(diǎn)監(jiān)控。

　　選擇zabbix有一個(gè)最大的好處，就是監(jiān)控?cái)?shù)據(jù)是存放在數(shù)據(jù)庫(kù)中的，這樣就可以利用數(shù)據(jù)庫(kù)中的數(shù)據(jù)做很多操作，比如可以分析一段時(shí)間內(nèi)服務(wù)器的各個(gè)性能指標(biāo)，查看服務(wù)器的資源利用率，可以對(duì)數(shù)據(jù)進(jìn)行聚合操作，從而分析全網(wǎng)的指標(biāo)，比如總的流量，總的http code分布情況。

　　8. 統(tǒng)一的yum源和定制化的rpm包， 并集成至yum源站，為后續(xù)的環(huán)境初始化做軟件上的準(zhǔn)備

　　9.

　　9. 構(gòu)建冗余的結(jié)構(gòu)，消除單點(diǎn)，在生成環(huán)境中對(duì)于一些重要節(jié)點(diǎn)都采用keepalived-ha的方案來(lái)提高冗余度。對(duì)于resin,php等應(yīng)用服務(wù)器則在前端使用nginx做反向代理，同時(shí)nginx使用keepalived-ha

　　10. 日志收集服務(wù)器群集 和qos分析系統(tǒng)，構(gòu)建 有效的日志收集系統(tǒng)可以有效地對(duì)用戶的訪問(wèn)數(shù)據(jù)進(jìn)行整合和分析，可以快速的分析qos，對(duì)應(yīng)重要的節(jié)點(diǎn)我們采用本地分析并導(dǎo)入mongodb,最后導(dǎo)入zabbix的方式，非重要節(jié)點(diǎn)則直接將日志打包壓縮，通過(guò)ftp上傳至hadoop數(shù)據(jù)倉(cāng)庫(kù)集群中。

重慶中技互聯(lián)網(wǎng)信息咨詢有限公司 www.tmsmall666.cn