當前位置:首頁 » 網頁前端 » slb配置前端項目
擴展閱讀
webinf下怎麼引入js 2023-08-31 21:54:13
堡壘機怎麼打開web 2023-08-31 21:54:11

slb配置前端項目

發布時間: 2022-12-29 04:31:37

A. slb配置詳解

我們一起來快速認識一下,負載均衡——SLB。負載均衡SLB是將訪問流量根據轉發策略分發到後端多台雲伺服器(ECS實例)的流量分發控制服務。包含兩種含義:一是通過流量分發,擴展應用系統的服務能力;二是消除單點故障,提高應用系統的可用性。

應用場景
我們具體來看一看它的使用場景。
第一個使用場景的是用於高訪問量的業務。
當你的應用訪問量非常大,單台的伺服器已經無法承載這個訪問量的時候,就可以使用負載均衡,將流量分發到不同的伺服器上去。
第二個場景是橫向擴張系統。
當你已經使用了負載均衡,在業務有波動時可以在後端非常方便的添加和減少ECS來調整自己應用的服務能力。
第三個應用場景是消除單點故障。
當我們在使用負載均衡時,後端有多台ECS在同時工作的。一旦其中一台ECS上的應用發生了故障,那麼負載均衡會通過一個健康檢查的機制來及時的發現這個故障,並且能屏蔽對這台ECS的流量轉發,然後將用戶的請求轉發到另一台正常工作的ECS實例上。
同城的容災
阿里雲負載均衡可以實現同地域多可用區之間同地域容災,當主可用區出現故障是,可以在短時間內切換到另一備用可用區,以恢復服務能力。同時,主可用區恢復訪問時,它會自動切換到主可用區。


跨地域容災
跨地域容災通過雲解析做智能DNS,將域名解析到不同地域的負載均衡實例地址下,以實現全局負載均衡,當某個地域出現不可用時,暫停對應解析即可實現所有用戶訪問不受影響。

配置負載均衡
下面我們來演示一下負載均衡該如何去配置。
首先要做好准備工作,我們需要開通一台負載均衡實例和與負載均衡同一個地域的兩台ECS伺服器。

創建好以後,我們就可以在負載均衡的控制台看到這樣一台實例了。
接下來,我們要給這個負載均衡創建一個監聽。「監聽」可以簡單的理解為對應後端伺服器裡面的一個應用,比如一個網站我們來點擊監聽,然後點擊添加監聽。


假設我們的後端伺服器裡面有一個http的網站前端協議埠,我們可以將前後端協議埠TCP都寫成80,然後根據自己的需要來選擇調度演算法,其實就是流量的轉發方式。

下一步是健康檢查,我們可以選擇TCP方式。

健康檢查埠會默認的和後端伺服器的埠保持一致,直接確認就好了。現在,一個監聽就配置好了。
接下來要去規定這台負載均衡的後端伺服器是哪些。點擊後端伺服器,然後點擊未添加伺服器,將我們剛才創建的兩台伺服器勾選,然後批量添加就可以了。

這里有一個權重需要大家注意一下,這里的權重就是一個比例的概念,如果兩台伺服器寫的都是100,流量將會以1:1的方式被轉發到後端的兩台伺服器上。

B. 關於阿里雲SLB(負載均衡)配置HTTPS證書一些記錄

因為業務背景問題,目前應用後端的介面和前端服務是放置在不同的伺服器上,而前端頁面現在說需要加上https,但是我們的前端頁面目前請求應用後端的介面的時候使用的還是http,所以導致了,請求http的介面時候出現了異常!

如圖示:

解決的辦法就是,我們的也給需要給我們的應用介面加上對應的https支持!

之前已經給對應的介面的域名買好了對應的證書!

問題描述:

因為忘了,我們的應用介面的域名是指向了阿里雲SLB上的伺服器,所以一開始的時候是在後端進行配置相關的SSL,可是配置來配置還是無法生效!

請求的時候會說超時:

首先後端的集群的應用伺服器NGINX的配置是:

後知後覺才記得,域名的指向的是負載伺服器的IP,我們需要在負載層伺服器那裡進行配置。

於是乎打開了阿里雲的負載均衡,查看一下對應的一些配置信息,

所以嘗試了添加對應的新的監聽處理!

添加基本配置:

配置對應的監控檢查:

然後再配置對應的轉發策略:

結果:

第I一次添加的時候,我開啟了對應 <使用虛擬服務組>
導致下面的問題的提示(理論上其實應該是沒影響的,暫且沒繼續嘗試):

並且訪問對應的後端介面返回的是502:

因為對於http還是沒有什麼問題,所以排除了後端問題的可能性!

後來刪除繼續重新添加:
但是還是出現異常信息,

後來查閱各種資料,在阿里雲的官方文檔上有對應的排錯步驟:

參考資料信息:
https://help.aliyun.com/knowledge_detail/55201.html?spm=a2c4g.11186623.6.714.K0jKZY

https://help.aliyun.com/knowledge_detail/55207.html?spm=a2c4g.11186623.6.721.FWDfvM

排查步驟

PS:
檢查負載均衡狀態,是否有後端ECS健康檢查失敗的情況,如果有健康檢查失敗,解決健康檢查失敗問題。

後來覺得應該有可能是原因是健康檢查檢查引起的問題異常:

,因為默認他應該是會在對應的server下的一個默認的路徑去檢查服務的情況,由於我沒指定對應的檢查URL地址,所有在轉到80的時候就異常了!!

後來直接的關閉健康檢查!就可以了!!

C. 負載均衡進階:SLB常見問題解決方法

摘要: 在由雲棲社區和阿里雲網路團隊聯合主辦的2017阿里雲網路技術在線高峰論壇上,阿里雲技術專家添毅分享了網路產品部根據客戶和阿里雲運維的反饋提煉出的幾大最主要和最常見的在使用SLB產品中發生的問題,並為大家介紹了針對這些常見問題的相應處理方法。

摘要: 在由雲棲社區和阿里雲網路團隊聯合主辦的2017阿里雲網路技術在線高峰論壇上,阿里雲技術專家添毅分享了網路產品部根據客戶和阿里雲運維的反饋提煉出的幾大最主要和最常見的在使用SLB產品中發生的問題,並為大家介紹了針對這些常見問題的相應處理方法。想知道如何藉助SLB構建高可用系統以及健康檢查是如何實現的,本文不容錯過!

本文內容根據演講嘉賓分享視頻以及PPT整理而成。

本次的分享將會主要圍繞以下5個部分

基本概念回顧

如何構建高可用系統

選擇性能共享型還是性能保障型實例

為什麼健康檢查異常

為什麼負載不均衡

一、基本概念回顧

SLB是什麼

SLB是阿里雲推出的一款雲負載均衡服務,其主要針對於多台雲伺服器進行流量分發,能夠將業務流量分發到由多台雲伺服器所組成的後端伺服器池上去,以此來提升系統的處理能力。負載均衡所解決的問題主要包括兩點:第一點,SLB能夠消除系統的單點故障,這是因為SLB的後面是由多台雲伺服器組成的伺服器池,那麼當其中某一台伺服器出現故障的時候並不會影響整個系統的可服務性。第二點,由於後端的雲伺服器能夠橫向地進行擴展,所以也具有為海量業務提供服務的能力。那麼,為什麼要使用雲上的負載均衡呢?這是因為雲上負載均衡主要有這樣的幾個特點:高可靠、高性能、低成本、安全性、易用性。

SLB基本組件

阿里雲的SLB主要包括了三個基本組件,這里也進行簡單地介紹。第一個基本組件就是實例,每個實例都唯一地標識了雲負載均衡器,並且每個實例都對應一個VIP,VIP唯一地標識了負載均衡實例,也是負載均衡對外提供服務的地址。第二個組件是監聽,監聽是由VIP+埠號來唯一標識的,一個監聽中包含用戶定製的負載均衡策略和轉發規則。最後一個基本組件就是後端掛載的伺服器,也就是雲伺服器ECS,負責處理真正的業務請求。

二、如何構建高可用系統

多層次的高可用

如下圖所示,阿里雲的負載均衡是從四個層面上去構建高可用的。從底層往上層看,分別是應用級別的高可用、集群級別的高可用、可用區級別(AZ)的高可用以及地域級別(Region)的高可用。

應用級別的高可用主要是通過針對SLB後端的ECS實例的健康檢查來實現的。當SLB發現後端不健康的或者不能正常工作的ECS的時候,會將這些不健康的ECS從SLB的轉發路徑中剔除掉,保證業務流量能夠轉發到正常的工作伺服器當中。集群級別的高可用主要是通過集群中LVS機器間的session同步來保障任何一個用戶的業務會話都能夠在所有的LVS機器上是相互同步的,當其中某一台LVS出現故障時,可以由其他的LVS來接替出現故障的機器的工作。同時,由於會話保持的存在,用戶的業務是不會發生中斷的。對於可用區級別的高可用和地域級別的高可用,在本文的後面會進行更加詳細的介紹。

細說可用區級別容災

這里詳細地介紹一下可用區級別的容災。可用區級別容災的設計初衷是在當一個可用區出現重大災情的時候,比如整個可用區的機房發生了掉電、光纜出現了中斷、整個可用區機房中所有的物理機都無法正常工作的時候,也就是整個可用區都宕掉了的情況下,能夠由備可用區來繼續提供服務,這就是可用區級別容災的設計初衷。可用區級別的容災並不是說某一個可用區中的某一個實例或者是某幾個實例出現了故障就會發生可用區的切換,實例自動從可用區A切換到可用區B,這是一個比較常見的誤區。而針對於這樣的誤區,阿里雲也建議用戶在構建可用區級別的高可用的時候採取以下兩個步驟:

首先,建議用戶在SLB實例的後端盡可能地去掛載多個可用區的ECS實例。SLB能夠支持跨可用區地掛載ECS雲伺服器,這樣可以避免某個可用區的ECS都出現故障的情況下,還有其他可用區的ECS能夠接替工作,雖然跨可用區掛在ECS會存在大約2毫秒左右的延遲,但是卻能夠大大地提升服務的可用性。

第二步就是針對於一些特別重要的業務,建議在不同的可用區分別地去購買SLB的實例。比如在可用區A和可用區B各自購買一個SLB實例,在此基礎之上再使用全球負載均衡GSLB來進行實例間的調度。

跨地域容災的實現

跨地域容災這一部分與上面介紹的可用區級別容災的第二步非常相似,也是藉助於GSLB產品實現的,GSLB即 智能DNS實現了針對於後端的健康檢查、路由調度的優化功能,能夠實現在地域之間的負載均衡實例的調度。關於這部分的更詳細的內容請參考:全球負載均衡跨地域容災解決方案(https://promotion.aliyun.com/ntms/act/globalslb.html)。

三、選擇性能共享型還是性能保障型實例

共享型vs保障型-WHY保障型

在如今這個共享經濟的時代,像滴滴打車這樣的模式是非常火的。但是即便是有了滴滴打車,但是還有人會去買車,這是因為會出現如下兩個大家可能曾經都碰到過的場景:

早晚高峰叫不到車?雨雪天氣路邊凍成狗?還大幅提價?

假期想遠離塵囂,找個僻靜曠野放空自我,叫個滴滴?也許有去,但保證無回!

所以說共享和保障都是客戶的需求。出於對於類似需求的考慮,阿里雲的負載均衡也推出了性能保障型實例。以前所推出的SLB共享型實例是因為性能指標沒有辦法實現隔離,因為所有的共享型實例都處於同一個大共享資源池中,所以在高峰期的時候就會出現資源的爭搶,這樣就無法滿足對於性能具有剛性需求的大客戶的訴求。除此之外,還有一些體量特別大的超級用戶,他們對於性能的要求會是非常高的,但是由於共享型實例無法做到性能隔離,也支持不了大顆粒度的性能指標,所以也無法完成這樣的工作。因此,阿里雲推出了性能保障型的負載均衡實例。

超強性能

保障型實例的性能規格如上圖所示,其並發連接數最大可以達到500萬,每秒的新建鏈接數(CPS)可以達到50萬,針對於七層負載均衡系統的QPS可以達到10萬。除此之外,性能保障型實例還具有以下的特點:

超強HTTPS性能。 性能保障型實例針對於七層系統,特別是HTTPS的業務進行了優化,實現了高性能硬加解卡,並且能夠實現使HTTPS的業務單實例可達10萬QPS。

超大並發連接數。 性能保障型實例的單實例的並發連接數可達500萬,所以其可承載物聯網場景的下海量連接,可以支撐共享自行車、智能手錶等存在特別大量長連接的場景。

共享型實例平滑升級。 原有的共享型實例可以平滑升級至性能保障型實例,而無需更換VIP。

完善的業務監控系統。 在推出性能保障型實例之後,因為每個實例都有相應的性能規格和性能指標,所以阿里雲也為用戶提供了完整的業務指標監控系統,並支持電話、簡訊、釘釘企業群等方式的告警。

性能規格

上圖所展現的是阿里雲SLB性能保障型實例的規格參數。圖中的最後兩行規格7、8默認在控制台上是無法購買的,目前只針對企業級用戶,而且需通過客戶經理申請後,通過白名單開放。

如何選擇規格

對於保障型實例而言,主要有如下幾個性能指標:

最大連接數:一個實例可承載的最大連接數。

新建連接數:CPS表示一個實例每秒可以新建的鏈接數。

每秒查詢數:QPS表示一個實例7層的像HTTP或者HTTPS系統的吞吐量。

通常一個4層SLB的性能好壞由最大連接數和新建連接數來衡量,它們表示了一個SLB系統的並發能力和處理突發連接的能力。通常一個7層SLB的性能好壞主要由QPS決定,QPS表示了一個7層系統的吞吐量。這里需要注意的是QPS是7層獨有概念。雖然每個規格都定義了三個性能指標,但是這並不代表這三個性能指標在任何一個性能場景下或者任何一個時刻都能夠同時達到最大值,這里存在一個性能指標的短木板原則。比如在某一個應用系統中,QPS已經達到指標上限,但最大連接數還遠遠沒有達到上限,這時不論怎樣加大客戶端數量,最大連接數都會因為QPS達到上限,而無法達到最大值。

對於規格的選擇而言,需要通過之前提到的業務監控系統來獲取相關指標。如果用戶十分了解自己業務的相關指標,也就是對於高峰期的並發連接數會達到多少以及QPS會達到多少都有非常清晰的了解,也可以直接在控制台上選購。但是如果用戶並不清楚自己的相關業務指標,可以在初期選購按量付費的較高規格的實例,並且在一個業務周期內監控流量的峰值,在峰值確定好之後再通過變配的方式改變到比較合適的實例規格。目前性能保障型實例還處於公測階段,所以現在還沒有對於實例收取規格費用,也就是說在這個階段無論用戶選擇最小規格還是最大規格,實際上都只需要花費IP配置費和帶寬費就可以了,這樣也比較便於用戶去熟悉和使用阿里雲的性能保障型實例。

監控和告警

前面也有所提及,在負載均衡的控制台上面能夠直接地顯示出相應的一些性能指標,但是在這里只能夠實現對於性能指標的監控,卻無法進行告警。如果用戶需要進行監控告警,可以在阿里雲所提供的雲監控控制台進行操作。雲監控平台可以監控阿里雲中的所有產品並且實現業務告警的定製,並且可以選擇包括簡訊郵件、電話、企業釘釘群等方式進行業務的實時告警。

四、為什麼健康檢查異常

健康檢查機制

接下來分享在負載均衡的日常使用中出現的問題,特別是很多用戶都存在疑問的健康檢查部分的問題。

阿里雲的負載均衡一共可以支持四種協議,四層的負載均衡系統主要包括了TCP、HTTP以及UDP協議,而七層的系統則包括了HTTP和HTTPS,而由於目前HTTP和HTTPS都是使用的普通的HTTP方式,所以其實也可以歸結為三類協議。對於TCP而言,健康檢查的過程是通過發送ACK這種TCP的探測報文去探測埠是否仍然存活;對於HTTP而言,則主要使用的是HEAD的請求方式來檢查目標的頁面是否正常;UDP部分則主要借鑒了SMP協議的原理。

健康檢查部分主要會涉及到幾個指標,這些指標需要用戶在控制台上進行設置,上圖中給出了一些默認的建議值,比如響應的超時時間,也就是在每一次進行健康檢查的時候,如果超過一定時間健康檢查還沒有回應就認為這次的健康檢查是失敗的;還有健康檢查間隔,也就是兩次健康檢查之間通常需要間隔2秒鍾;而所謂的不健康閥值和健康閥值就是在網路環境中往往會由於網路的抖動以及其他的因素導致偶爾的一次健康檢查失敗了,但是這時候並不能認為服務是真的失敗了,所以需要設置一個閥值,比如3次就指的是當3次健康檢查都失敗的時候才會認為後端的服務是存在問題的,然後將其從轉發路徑中摘除掉。同樣的,當服務從不健康變為健康的時候,也需要進行連續的幾次探測,當確定處於穩定的健康狀態之後再將其加入到SLB的後端中去。

為啥會失敗(TCP)

TCP的健康檢查也經常會出現一些失敗的情況,這里也為大家提供了簡單的故障排查順序供參考。當出現健康檢查失敗的時候,首先可以檢查一下後端的伺服器是否已經啟動。如果後端伺服器的負載是比較高的,也可能會因為沒有CPU時間去處理健檢查的回應,這樣就有可能導致健康檢查失敗。除此之外,因為對於阿里雲的負載均衡而言,健康檢查使用的都是私網地址實現的,所以如果根本沒有監聽到私網地址或者私網地址本身存在故障也會導致健康檢查的失敗。還有伺服器上可能存在防火牆,將監聽埠屏蔽掉了,導致健康檢查並未通過。此外還可能存在一些配置方面的問題,比如提供服務的埠和做健康檢查的埠不一致也可能存在健康檢查失敗。

針對於TCP的健康檢查而言,很多用戶會經常看到自己的後端伺服器上日誌上面有很多10或者16這些網段的訪問,並且訪問流量還比較大,這是因為之前所提到的健康檢查具有一定的間隔時間,比如2秒或者3秒一次。這時候一些用戶可能就會認為健康檢查會影響伺服器的性能,佔了很多的伺服器的連接數。其實可以從上圖中左側的報文交互情況看到,當SLB對於雲伺服器發起健康檢查的時候首先會發一個SYN的請求,如果伺服器埠是存活的,那麼它會回應一個ACK,這個時候SLB端就會緊接著發送RST報文。也就是說實際上連接是並沒有建立的,所以也不會佔用後端伺服器的連接數的資源,並且對於性能的影響也是極為有限的。

為啥會失敗(HTTP)

HTTP常見的健康檢查失敗原因大概會有這樣的三點:最常見的情況就是有些用戶把伺服器的HEAD請求方式禁掉了,因為默認在使用瀏覽器或者手機等請求一個頁面的時候使用的都是GET方式,有時候可能需要上傳數據則會使用POST方式,雖然很多伺服器都支持HEAD請求方式,但是有些伺服器可能會處於安全或者其他復雜因素的考慮將HEAD請求禁掉。所以在這里建議客戶將伺服器的HEAD請求方式打開,因為阿里雲負載均衡七層健康檢查方案就是使用的HEAD方案。另外一種常見情況就是頁面訪問本身上就存在問題,這樣的情況下健康檢查也是無法通過的。最後一種常見情況就是期望結果配置錯誤,針對於七層的健康檢查是通過使用HEAD請求方式去請求頁面,頁面返回碼可能會是200、300或者400以及500等,用戶可以在健康檢查的配置中設定預期的正常情況下的返回碼值,當健康檢查返回碼值與預期值不一致就會判定健康檢查是失敗的。

為啥會失敗(UDP)

這里介紹一下UDP健康檢查的原理。首先,健康檢查通過SLB向後端發送UDP報文探測來獲取狀態信息。SLB會周期性地給後端ECS發送UDP報文,如果UDP埠的業務處於正常情況,則沒有任何回應。而當服務出現問題,比如指定的UDP服務埠處於不可達的情況或者無服務的狀態的時候,會回復ICMP的不可達報文。這里也會存在一個問題就是如果後端伺服器已經變成了網路中的孤島,比如出現了整個伺服器的掉電、關機情況這樣完全不能工作的狀態,這時候的ICMP不可達報文是永遠不可能收到的,因為後端的伺服器無法收到SLB發來的UDP探測報文,那麼在這種情況下,可能會出現誤認為後端健康的情況,但是實際上這個服務可能已經宕掉了。為了應對這種情況,健康檢查還提供用戶自定義UDP應答報文來實現精確的UDP健康檢查,也就是由用戶自定義指定一個字元串,當後端的雲伺服器收到UDP健康檢查的探測的時候,也回應指定的字元串,之後SLB對於這個字元串進行對比和校驗,如果匹配成功則認為服務一定是健康的,這樣就可以實現非常精確的健康檢查。

而UDP的健康檢查失敗也有很多原因,比如在協議棧裡面有可能會有ICMP限速保護。當頻率達到一定速率的時候,ICMP會被協議棧限制,後端無法回應ICMP不可達報文,進而導致SLB收不到ICMP的報文,出現健康檢查的失敗情況。所以這部分是需要注意的,如果可能盡量將速率限制放大一些。

其他問題

健康檢查時好時壞的可能原因如下:

HTTP類型健康檢查目標URI響應慢。比如本身是動態頁面,會涉及到大量的計算才能夠渲染完成並返回到前端,這樣肯定就會導致健康檢查響應比較慢。如果伺服器負載過高同樣也會出現這樣的問題。

未全部放開對SLB健康檢查源地址的限制導致分布式健康檢查失敗。因為阿里雲的伺服器都是分布式的部署,健康檢查也會是分布式的探測,LVS等機器在後端有不同的源去針對某一個雲伺服器進行探測的,所以如果沒有將這些源地址都放開,實際上也會影響健康檢查的效率,因為對於這么多機器而言,只要有一台機器檢測到是正常的那麼就是正常的。

還可能出現直接訪問正常,但是健康檢查失敗的情況。造成這樣情況的可能原因如下:

防火牆限制。

目的埠不一致。

檢查方法不同,可能使用瀏覽器看頁面是沒問題的,但是健康檢查卻不行,這就是因為剛才所提到的HEAD方法沒有開啟。或者七層的健康檢查配置了URL按照域名轉發,但是在瀏覽器上直接訪問則是使用域名去做的,而健康檢查是使用IP地址做的,這樣也可能出現轉發和預期結果的不同。

檢查頻率不同,ICMP限速。

五、為什麼負載不均衡

調度演算法與會話保持

首先介紹一下負載均衡的調度演算法。阿里雲的負載均衡支持三種演算法,第一種演算法是單純的輪詢(RR),也就是將業務的請求依次地分發到後端的伺服器。第二種演算法是加權輪詢(WRR),也就是在處理調度的時候會根據針對於每一台後端伺服器設置權重來進行轉發。這里之所以設置權重是因為後端伺服器的處理能力可能是不同的,如果使用相同的權重進行輪詢可能就會把後端處理能力比較弱的伺服器擠爆,所以需要針對於伺服器的處理能力設置一些權重。第三種演算法是針對於加權最小連接數的輪詢(WLC),也就是除了根據每台後端伺服器設定的權重值來進行輪詢,同時還考慮後端伺服器的實際負載,也就是連接數。當權重值相同時,當前連接數越小的後端伺服器被輪詢到的次數也越高,這樣就能夠保證負載盡量地均衡。如果不考慮這一點就會造成某些伺服器連接數已經很高了但是流量依然還往上面分發,而另外一些伺服器卻一直處於空閑狀態。

會話保持指的是來自同一用戶請求始終保持分發到同一台後端的雲伺服器上。對於同一用戶而言,使用的是四層的負載均衡和使用七層的負載均衡在理解上是不一樣的。如果是四層負載均衡,則會使用源IP地址標識同一用戶,所以如果在可能會有很多辦公電腦的大型企業中,這些電腦在企業內部是通過區域網的IP進行通信的,在訪問公網的時候都是通過NAT網關處理的,所以在走到Internet的時候,源地址通常會是一個或者很有限的幾個。在這種情況下,如果是四層的負載均衡就會把裡面所有的請求都視為來自同一個用戶的,這種情況下如果開啟了會話保持,就會發生問題。而七層的負載均衡是根據用戶瀏覽器中的Cookie來進行唯一識別的,對於剛才的案例在大型企業裡面因為內網訪問公網的源地址都是一樣的,導致沒有辦法識別到底是不是同一個用戶,此時建議使用七層的負載均衡方案解決,因為Cookie是每個瀏覽器都唯一的。會話的保持時間是可以在控制台上配置的,四層的負載均衡方案最大可達1小時,而七層的方案最大可達24小時。

為何不均衡

最後分享一下不均衡的常見情況。有時候會需要新加一個伺服器進來,這時候往往到新加進來的伺服器上的連接會很少,這是因為可能會存在以下原因:

存在會話保持的情況下,會話保持會讓請求停留在原有的伺服器上,這樣到新加進來的伺服器上的連接自然會少一些。

權重設置不一致,如果在權重的設置上存在區別,而新加進來的伺服器的權重如果很低,連接也過不去。

應用屬於長連接類型,因為需要在TCP上復用,如果客戶端不主動斷開連接,後續所有的請求都會繼續復用當前伺服器上的連接,只有新建連接才有可能到新的伺服器上。

而有時候在業務量或者新建連接較少時,也會出現負載不均衡的問題。這是因為每個Core都是獨立的調度單元,因此可能存在將某個Client的多條業務經過不同core的調度後全部轉發到一台ECS上的情況,同時由於業務量較少,因此出現了不均衡。建議使用輪詢演算法解決,在RR輪詢演算法中加入了擾亂因子,可以更加有效的打散SLB到後端的轉發路徑。

原文鏈接

D. 阿里雲slb+nginx配置curl無法獲取url問題小記

最近在做伺服器遷移, 之前是直接使用阿里雲的slb. 隨著業務的發展以及穩定性要求, 決定對伺服器進行升級, 同時對業務進行拆分, 經過多種考慮最後使用slb+nginx路由方案.

前端使用slb的tcp監聽, 開啟會話保持. ecs上配置nginx進行二次轉發.

瀏覽器訪問一切正常, 也沒有用戶報任何使用問題.

就這樣無風無雨的過了一天, 第二天業務人員報微信支付數據異常, 轉賬成功, 轉賬標識顯示失敗.

開發人員開始進行排查, 發現伺服器可以正常接收微信回調, 不過伺服器間調用出現異常.

後台日誌顯示: java.net.ConnectException: Connection timed out

我開始查看nginx日誌, 發現沒有找到請求日誌, 懷疑是nginx問題, 使用curl請求ecs, 返回值正常, 使用curl請求外網域名, curl無反饋, 看來問題出現在阿里雲的slb上面.

去網上搜了搜, 還真有人遇到同樣的問題, 只是標題是不是很一致.

解決方案是將slb的tcp監聽改為http監聽.

以下為阿里雲給出的理由:

https://help.aliyun.com/document_detail/27680.html?spm=5176.doc27671.6.240.6lfhRY

注意: 當負載均衡從4層更換到7層之後, 雖然開啟了獲取真實ip, 程序獲取真實ip還需要做一些特別的設置, 阿里雲官方文檔有詳細描述:  負載均衡 7 層 HTTP 模式獲取來訪客戶端真實 IP 的方法(IIS/Apache/Nginx/Tomcat)

附參考網址:  阿里雲SLB負載均衡https協議的一點小問題

E. slb配置里的公網slb和內網slb有什麼區別

內網 目前阿里雲的伺服器內網間是千兆共享的帶寬,沒有特殊限制。由於是共享網路,因此無法保證帶寬速度是不變的。 如果您需要兩台同地域的 ECS 實例傳輸數據,一般建議使用內網連接。同時,RDS、SLB、以及 OSS 相關的內網速度也都是千兆共享的環境。這些產品間也都可以使用內網相互連接使用。 目前只要是相同地域下,SLB 、RDS 、OSS 同 ECS 之間 都是可以直接內網互通連接使用的。 對於內網中的 ECS 實例: 只有同一賬號、同一地域的實例,默認才會內網互通。 同一賬號、同一區域、不同可用區之間內網也互通,即使內網IP地址不是同一網段,也可以正常內網連接。 如果是不同賬號間、相同地域下,可以通過安全組實現內網互通,詳情請參見 安全組應用案例。 實例的內網 IP 地址不能進行修改、更換。 實例的內網、外網不支持VIP(虛擬IP)配置。 內網 DNS 地址 經常遇到客戶修改了伺服器DNS配置,再想改回默認卻忘記了地址。下面是阿里雲線上個地域內網DNS地址,供參數設置使用: 華北 1: 10.202.72.116 10.202.72.118 華東 1: 10.143.22.116 10.143.22.118 華東 2: 100.100.2.136 100.100.2.138 香港: 10.143.22.116 10.143.22.118 美西: 10.143.22.116 10.143.22.118 華北 2: 10.202.72.116 10.202.72.118 華南 1: 100.100.2.138 100.100.2.136 亞太 100.100.2.136 100.100.2.138

F. clickhouse SLB 服務搭建

目前我們公司後台使用clickhouse,來做數據的離線分析;配置為四台集群(shard)
通過springboot+clickhouse-jdbc完成服務與clickhouse jdbc的連接;使用的是clickhouse官方,BalancedClickhouseDataSource(urls,properties),做到四台服務之間的負載均衡;網上很多資料都表示
這個包雖然可以做到一定程度的負載均衡,但是無法做到故障轉移;按照大家的推薦,我本地是nginx搭建clickhouse-jdbc 負載均衡的服務

安裝nginx ,參考地址: http://nginx.org/en/linux_packages.html

雖然BalancedClickhouseDataSource在一定程度上能做到負載均衡;如果不能做到故障轉移,會很大程度上失去負載均衡的好處;本文通過實踐,完成了clickhouse jdbc slb 的伺服器搭建,為更好的使用clickhouse提供了幫助