sponsored links

“敏捷版”全鏈路壓測

簡介: PTS 結合 10 多年來阿里的全鏈路壓測的經驗,讓阿里雲的使用者可以如同享用滿漢全席般的享用全套標準的全鏈路壓測,也可以根據自己的需求,選擇最適合自己的方式。

作者:子矜

客戶的故事

全鏈路壓測被譽為大促備戰的 “核武器” ,如果之前有關注過阿里雙 11 相關的技術總結,對 “全鏈路壓測” 一定不會陌生,這個詞的出場率幾乎 100%。從對雙 11 穩定性的價值來看,用 “核武器” 來形容全鏈路壓測毫不為過。

在某知名電商大促中,該電商平臺也想用全鏈路壓測來為自己的大促提前排除風險。但是他遇到幾個困難:

  1. 全鏈路壓測是一個需要多角色參與的活動:業務方,測試,運維,研發,資料庫,都需要參與進來。然而能夠像阿里具備成熟的組織體系,可以強有力的推動各種不同的角色,都是需要較長時間來積累的。
  2. 全鏈路壓測,常常涉及到框架的改造:而該電商平臺的業務複雜,做結構梳理與業務改造並不現實。

那這個知名電商平臺,有什麼辦法可以在 1 個星期之內,不進行業務改造,不改變業務部署,就能夠用上全鏈路壓測呢?

接下來的內容,我們會從全鏈路壓測的原理開始,並引入基於同樣原理的 “敏捷版” 全鏈路壓測,讓該知名電商平臺能夠在 2 周之內就能用上全鏈路壓測的方案。

全鏈路壓測

首先,我們來看看阿里的全鏈路壓測,到底解決了什麼問題:

全鏈路壓測實際上解決的問題是:在線上的壓測。線上壓測,能夠最快、最直接的發現線上的問題。然而,線上壓測會帶來資料汙染的問題:如何把壓測資料和真實資料區分開來,是壓測裡至關重要的一點。那麼,阿里是怎麼做的呢?我們一起來看下圖:

“敏捷版”全鏈路壓測

阿里的全鏈路壓測具有一套成熟又複雜的系統:壓測的梳理、構建、準備、傳送。然而,這套體系對於一個雲上的使用者是需要長期建設得到的。那我們如何能夠讓使用者快速,敏捷的享受這套技術呢?

在這裡,PTS 把整個流程進行沉澱,都以標準化的輸出來提供給雲上的使用者。使用者可以直接享用一整套的全鏈路壓測體系,也可以在壓測的關鍵環節:例如場景梳理、請求構建、壓測環境、壓測等步驟中,根據自己的需求來定製自己想要的壓測效果。

場景梳理

業務場景,即對應的是壓測的輸入請求。這是壓測第一步,也是最重要的一步。最常見的是把涉及到業務的 URL 進行梳理,彙總。例如下圖就是一個常見的場景彙總:

然而,這是不夠的。當若干個 URL 彙總成一個場景之後,URL 之間的比例、時間間隔,也是影響業務場景的關鍵。用常見的場景打一個比方:一個使用者的下單,可能背後蘊含著 10 個使用者登入,每個使用者平均瀏覽了 4 個商品,每個商品中平均被瀏覽了 5 個評價,最後一個使用者在 10 點大促開始的時候,購買了一個商品。

這些 URL 之間的關係、時間點,需要人員有豐富的業務知識才能梳理清楚。為此,PTS 提供服務端流量錄製的功能,方便使用者來錄製流量,並且輕鬆的得到其中不同維度的比例關係:

如上圖所示,使用者可以清晰的得到 URL 之間的比例關係、使用者 URL 之間的時間行為等等。基於這個梳理好的資料模型,使用者可以在這個基礎上進行裁剪。

測試資料構造

接下來,就是構造使用者資料了。這一步涉及的角色最多,也最為繁瑣。整個資料構造由三個步驟構成,如下圖所示:

“敏捷版”全鏈路壓測

首先是資料發現。通常,我們可以透過人工業務梳理,得到該業務所涉及到的所有表,並進行分析。PTS 為免除這個煩惱,和DMS打通,提供表結構預覽,讓測試人員方便的看清楚和場景相關聯的結構,大大的提升效率。

“敏捷版”全鏈路壓測

如果還是覺得太複雜,PTS將提供資料錄製工具,安裝了這個 agent 之後,該業務所涉及的表,都會被完整的記錄下來:

“敏捷版”全鏈路壓測

有了這些工具,測試人員就可以無須 DBA 的協助,輕鬆的得到場景關聯的表資訊了。

資料閉包

有了這些資料表,並且在這基礎之上分析出來資料閉包後,我們可以開始製作壓測資料了。通常,我們製作影子表的方式有三種:

  1. 影子庫 – 全量的進行影子庫對映。該方法的優勢是簡單,劣勢是消耗資源多;
  2. 影子表 – 將表閉包裡的表,透過一定規則,進行名字關聯。該方法的優勢是節省資源,劣勢是需要對錶進行充分梳理,並且一一對應;
  3. 不新建表,在同一張表內,將影子資料進行大位移偏移。這個將在後面的敏捷版內進行介紹。

“敏捷版”全鏈路壓測

這三種方式可以根據需求組合使用。

資料匯入/混擾

有了這些前提之後,我們可以利用 DMS 來資料匯入,進行資料製作了。

“敏捷版”全鏈路壓測

到這裡,我們完成了全鏈路壓測中最複雜的兩個步驟:壓測場景梳理、壓測資料製作。

接下來我們透過資料加工,把這兩個元素最終加工為壓測資料。

資料加工

此時,我們對壓測資料做最後一個步驟,進行資料加工。即我們把業務場景、壓測資料,按照我們的業務模型進行最後的調整與加工:

到這裡,我們可以看到,全鏈路壓測的壓測請求,都已經成型了。接下來,我們可以開始設計壓測流量在壓測物件中的行為了。

測試環境

壓測可以在模擬環境、線上環境中進行。不同的環境,選取資料,製造資料都有不同的考量。如下圖所示:

“敏捷版”全鏈路壓測

簡單的說,測試環境關注的是單個元件:例如微服務、介面、但協議(SQL,Redis)等壓測;預發環境(通常是VPC環境)則關注鏈路整合;生產環境則最逼近真實場景。在這裡,我們只討論線上生產環境。

傳統全鏈路壓測

下圖簡單的詮釋了傳統全鏈路壓測的運作方式;

“敏捷版”全鏈路壓測

我們看到,傳統的全鏈路壓測,主要透過流量打標,來區分壓測流量和真實流量,做到這一點,需要保證這個壓測標能夠被層層的透傳下去。而當流量到了 “寫” 的這層,部署好的 agent 根據壓測標,來決定 “寫” 的行為,是寫到真實的資料庫呢?還是寫到影子區域?道理很簡單,但是實施的時候還是會碰到不少的難點。其中,主要涉及的問題是:

  1. 如果應用使用到的框架不標準,則需要進行適配;
  2. 推動開發安裝 agent 的流程複雜;
  3. 驗證 agent 的覆蓋面複雜。

敏捷版的全鏈路壓測

如果我們不想要改造業務,也不想要掛載 agent,我們能如何去做到這一點呢?

我們來看一下抽樣測試的原理。在測試的時候,通常有一種手段,即透過選取幾個特定的真實使用者資料來進行測試,來驗證程式的正確性;如果我們把這些真實使用者資料,變成假使用者,那麼需要滿足下面這個關鍵條件:假使用者以及假使用者在這個業務場景下涉及到的業務資料,以及業務場景下相關的資料,都能夠被識別出來。

例如,我們模擬一個假使用者,購買某個假商品,這裡的使用者,商品,都能夠有一個特定的特徵,這個假使用者生成的瀏覽記錄、購買記錄,在資料庫的表現中都有該使用者的 ID;在這個前提下,我們是能夠把髒資料從真實資料中識別出來的;

“敏捷版”全鏈路壓測

這種壓測,需要盤點出以下兩點:

  1. 完整的找出業務涉及到的資料表 – 參考上一章節裡面的PTS SQL錄製功能;
  2. 製作影子資料 – 和傳統全鏈路壓測不一樣,這裡我們選取的是第三種方式,即在一張表裡做大位移,而不是製作影子表或者影子庫。壓測結束後,根據影子資料的特徵,巡檢資料庫並且進行清理;

這種方式,是基於使用者對業務有清晰的瞭解,製作出來的壓測資料有明顯的壓測標識(比正常資料大的多的偏移量),所有涉及的寫壓測,都帶有這些偏移量;這樣,所有壓測產生的資料,都能夠被識別出來。壓測結束之後,根據這個資料特徵,來清理壓測資料;

流量引擎的選擇

為了更好的模擬使用者的行為,我們常常會使用壓測地域的定製。但是把壓測引擎部署到全國各地是不現實的;而PTS 可以方便的讓使用者選擇地域的發起,如下圖所示:

“敏捷版”全鏈路壓測

總結

PTS 結合 10 多年來阿里的全鏈路壓測的經驗,讓阿里雲的使用者可以如同享用滿漢全席般的享用全套標準的全鏈路壓測,也可以根據自己的需求,選擇最適合自己的方式。

原文連結:301 Moved Permanently

本文為阿里雲原創內容,未經允許不得轉載。

分類: 國際
時間: 2021-11-22

相關文章

1990年,美國24歲女孩慘死自家餐廳,華人神探李昌鈺硬核推理破案

1990年,美國24歲女孩慘死自家餐廳,華人神探李昌鈺硬核推理破案
1990年,美國一家餐廳的老闆,在晚上突然接到安保公司的電話,安保公司說他家餐廳的警鈴在晚上閉店後沒有按時開啟,提醒他前往餐廳檢查一下情況. 圖丨案件被害人瑪麗 結果,當這位老闆趕到餐廳後,看到了他這 ...

1986年,美國美女空姐神秘失蹤,神探李昌鈺抽絲剝繭破解無屍謎案

1986年,美國美女空姐神秘失蹤,神探李昌鈺抽絲剝繭破解無屍謎案
1986年11月30日,前美國中央情報局(CIA)特工理查德,突然向美國康涅狄格州警方報案,稱其妻子已經離奇失蹤一週多,請求當地警方幫助尋找妻子. 鑑於報案人的特殊身份,以及案件的特殊性質,當地警方沒 ...

1993年美國一女教師被滅門,警方毫無頭緒,李昌鈺硬核推理鎖真兇

1993年美國一女教師被滅門,警方毫無頭緒,李昌鈺硬核推理鎖真兇
1993年,美國發生一起離奇滅門慘案,一位單身女教師和她的兩個女兒在家中被人殘忍殺害,兇手不但在每個人身上捅了幾十刀,還在完事後用被子將倒在走廊的三人遺體蓋住. 而這種殺人手法,與當地兩年前的一樁懸案 ...

聞名世界的“神探”李昌鈺:連美國總統都不怕,就害怕自己老媽

聞名世界的“神探”李昌鈺:連美國總統都不怕,就害怕自己老媽
小時候怕黑怕疼,總覺得等自己長大了就天不怕地不怕了,但隨著年齡的增加,還是會有害怕的東西,甚至有些是伴隨一生的,難以改變. 就像是大名鼎鼎的神探李昌鈺博士,他這一輩子什麼都不怕,連美國總統也不畏懼,但 ...

美國當代“福爾摩斯”李昌鈺,細節“怪物”,偵破震驚全美姦殺案

美國當代“福爾摩斯”李昌鈺,細節“怪物”,偵破震驚全美姦殺案
上個世紀80年代,在美國的康涅狄格州的尼安迪克鎮發生了一起離奇命案.一名懷孕婦女慘死家中臥室之內,在臥室裡還散落著各種情趣內衣和情趣用品.警方順藤摸瓜,一度將此案定性為姦殺案,但是卻發現疑點重重,難以 ...

美國情侶房車旅行失蹤案!女方屍體找到,網友擔心男友已自殺

美國情侶房車旅行失蹤案!女方屍體找到,網友擔心男友已自殺
美國情侶房車旅行失蹤案調查昨天有了重大進展. 週日,警方在布里傑-蒂頓國家森林一個偏僻的區域發現了一具屍體. 發現屍體的地方就在展溪野營地(Spread Creek Campground)附近, 根據 ...

美國無限制部署生物實驗室,俄羅斯公開表示擔憂,中國早就出手了

美國無限制部署生物實驗室,俄羅斯公開表示擔憂,中國早就出手了
美國無限制部署生物實驗室,俄羅斯公開表示擔憂,中國早就出手了! 9月6日,根據環球網的訊息,俄羅斯聯邦偵察委員會副主席亞歷山大·費多羅夫公開表示,對美國無限制地在俄羅斯邊境及周邊國家部署生物實驗室的行 ...

美國女孩神秘失聯,男友卻閉口不談下落,如今連他也失蹤了

美國女孩神秘失聯,男友卻閉口不談下落,如今連他也失蹤了
話說前幾天,我們報道了一宗最近在美國引起轟動的旅行失蹤案. 兩個月前,22歲紐約女子蓋比和23歲的男友布萊恩一起開著房車出發去旅遊,然而兩個人的旅遊,最終卻只有一個人回來了. 女友蓋比下落不明,而男友 ...

美國女孩9年前失蹤疑案:塑膠花三姐妹,隱藏在娃娃臉下的罪惡

美國女孩9年前失蹤疑案:塑膠花三姐妹,隱藏在娃娃臉下的罪惡
三位朝氣蓬勃的花季少女深夜一起外出,其中一位從此消失得無影無蹤.是同行少女所為還是另有其人?數年的閨蜜情誼為何突然消失?嫉妒心的背後,又潛藏著怎樣的危機?案情的撲朔迷離讓,讓警方無從下手,只好認定女孩 ...

美國芝加哥發生大規模槍擊案 致5人重傷
來源:中國新聞網 中新社紐約9月19日電 美國第三大城市芝加哥19日發生一起大規模槍擊案,造成5人重傷.兩名嫌犯作案後駕車逃逸. 據<芝加哥太陽報>報道,當地警方通報,19日凌晨3時5分許 ...

美國明尼蘇達州發生槍擊案 1人死亡 14人受傷
據美國全國廣播公司當地時間10日報道,明尼蘇達州首府城市聖保羅發生槍擊案,已造成1人死亡.14人受傷.(央視記者 劉旭)

美國一郵局突發槍擊案 已致3人死亡
海外網10月13日電 當地時間12日,美國田納西州一處郵局內發生槍擊案,目前已導致3人被殺身亡.當地警方稱,美國聯邦調查局已經介入調查.(海外網 張霓) 來源:海外網

清朝奇案:活人變白骨,縣令查案,案情波折,驚天陰謀正浮出水面

清朝奇案:活人變白骨,縣令查案,案情波折,驚天陰謀正浮出水面
點選右上角關注我,帶你看匪夷所思的古代奇案與民間故事. 清朝道光年間,閩粵交界的江城縣發生了一樁令人談之色變的恐怖案件."德興酒樓"的李掌櫃前一天晚上還好端端地上床就寢,第二天早上 ...

從“肯尼迪強姦案”,看美國MeToo運動究竟彆扭在哪兒

從“肯尼迪強姦案”,看美國MeToo運動究竟彆扭在哪兒
一個社會的任何族群,都無權為了自己在某方面的絕對安全,讓另一個族群處於絕對風險中. 本文首發海邊的西塞羅",作者授權推送 1 1991年,美國曾經發生過一起震動一時的"肯尼迪強姦案 ...

肯尼迪總統外甥被控強姦,請華人神探李昌鈺出山,其用一手帕偵破

肯尼迪總統外甥被控強姦,請華人神探李昌鈺出山,其用一手帕偵破
1991年,美國佛羅里達州警方接到了一起報案,一位名叫帕特西婭的女子剛剛參與了一場棕櫚海灘附近的聚會,在聚會結束的時候,她遭到了一位男伴的性侵. 從表面上來看,這只是一起尋常的刑事案件,可當警方得知對 ...

精心設局殺害妻子,丈夫成功騙過神探李昌鈺,卻栽在兩個孩子手上

精心設局殺害妻子,丈夫成功騙過神探李昌鈺,卻栽在兩個孩子手上
作為美國曆史最悠久的13州之一的康涅狄格州,一直以來都以"人均收入最高"成為美國上層社會趨之若鶩的居住地.也正是由此,康涅狄格州一直以來帶給人們的都是一種繁榮.安寧之感. 可是,在 ...

震驚全美的姦殺案:兇手巧妙騙過神探李昌鈺,卻栽在了小女孩手中

震驚全美的姦殺案:兇手巧妙騙過神探李昌鈺,卻栽在了小女孩手中
20世紀80年代,美國康涅狄格州的尼安蒂克小鎮發生了一起離奇的死亡事件. 一名已婚中年婦女,渾身赤裸的慘死在床上,屋內一片狼藉,周邊散落著許多情趣內衣和情趣用品. 警方一度以為是過火的成人遊戲而釀成的 ...

珍貴老照片:美國的人類動物園、1米長的蝗蟲、睡衣派對的女孩們

珍貴老照片:美國的人類動物園、1米長的蝗蟲、睡衣派對的女孩們
1951年的米蘭,新推出的計程車,這樣的車身小巧,即使是女人也可以輕鬆駕馭,不過缺點就是除了司機以外就只能乘坐一人. 1963年,印度貧民窟的街頭,站著許多等待生意的站街女.為了生活她們不得不出賣自己 ...

美國人口販賣調查:5歲女童被推入色情業,兒童販賣案近年激增5倍

美國人口販賣調查:5歲女童被推入色情業,兒童販賣案近年激增5倍
據聯合國報告顯示 全球人口販賣案件中 兒童成為受害者的比例不斷上升 美國肯塔基州是兒童販運案高發地 這些遭到販賣的孩子 都去了哪裡? 又是誰在販賣和牟利? 請看美國人口販賣調查系列-- <肯塔基 ...

15歲女孩遭遇險境,最終實現完美自救,讓潛藏多年的真兇原形畢露

15歲女孩遭遇險境,最終實現完美自救,讓潛藏多年的真兇原形畢露
低調的"老實人" 眾目睽睽之下 誘拐青春美少女 15歲女孩虎口逃生 實現完美自救 一場心理博弈終由正義勝出 沉默的捕食者 大家好,這裡是奇聞觀察室 我是長風 在美國連續發生了這樣的 ...