本發(fā)明涉及軌道交通控制系統(tǒng)測試校驗(yàn),尤其是涉及一種測試記錄自動(dòng)校驗(yàn)方法。
背景技術(shù):
1、隨著智能化發(fā)展,城市軌道交通對于地鐵信號系統(tǒng)的靈活度,可靠度要求日益增高,列車自主運(yùn)行系統(tǒng)tacs(train?autonomous?control?system)便應(yīng)運(yùn)而生,作為城市軌道交通的新一代產(chǎn)品,其架構(gòu)精簡,性能極高,對于城市軌道交通來說是更可靠,更高效,更靈活的選擇。系統(tǒng)級測試工作作為對該產(chǎn)品質(zhì)量保證的重要一環(huán),其測試結(jié)果的準(zhǔn)確性可靠性便顯得至關(guān)重要。
2、在列車自主運(yùn)行系統(tǒng)tacs系統(tǒng)級測試過程中,完成對本輪測試項(xiàng)的測試工作后,會(huì)得到一系列的測試記錄,例如,影響分析(impact?analysis)中缺陷的驗(yàn)證結(jié)果,測試用例的驗(yàn)證結(jié)果,測試問題與研發(fā)分析確認(rèn)結(jié)果等等,我們需要從這些紛繁的記錄中,快速而準(zhǔn)確的進(jìn)行校驗(yàn),并提取出我們最終需要的測試結(jié)果。并且隨著持續(xù)集成越來越深入,測試的周期會(huì)越來越快,每一版采取人工核對并得出最終測試結(jié)果的方式就顯得十分耗時(shí),效率低下。并且在較大版本或者大基線升級情況下,該版測試一版至少會(huì)包含幾十個(gè)缺陷,上百條用例,所牽扯到的測試問題一般也有上百條,將這些測試記錄全部采用人工審核確認(rèn),并最終得出測試結(jié)論的方式,不僅效率低下,還更容易出現(xiàn)誤判,遺漏,影響測試通過率以及后續(xù)的文檔工作。
技術(shù)實(shí)現(xiàn)思路
1、本發(fā)明的目的是克服上述現(xiàn)有技術(shù)存在的缺陷而提供一種測試記錄自動(dòng)校驗(yàn)并自動(dòng)得出測試結(jié)果的方法、裝置及存儲(chǔ)介質(zhì)。
2、本發(fā)明的目的可以通過以下技術(shù)方案來實(shí)現(xiàn):
3、作為本發(fā)明的第一方面,提供一種測試記錄自動(dòng)校驗(yàn)方法,步驟包括:
4、獲取待校驗(yàn)的測試記錄,包括測試用例修改列表、產(chǎn)品問題記錄列表、測試用例初步結(jié)果列表以及系統(tǒng)級測試影響分析文件;
5、對于測試記錄進(jìn)行互相校驗(yàn),互相校驗(yàn)完成后核查測試用例初步結(jié)果列表里的系統(tǒng)級測試用例結(jié)果;其中,所述的互相校驗(yàn)包括:產(chǎn)品問題記錄列表中需要修改用例的項(xiàng)點(diǎn)是否正確關(guān)聯(lián)到用例修改列表上;需要提交缺陷的項(xiàng)點(diǎn)是否正確關(guān)聯(lián)到測試用例初步結(jié)果列表上;系統(tǒng)級測試影響分析文件中列出的所有缺陷是否正確都進(jìn)行了驗(yàn)證并得到了結(jié)果以及缺陷是否已根據(jù)正確結(jié)果進(jìn)行流轉(zhuǎn);
6、將互相校驗(yàn)結(jié)果更新到系統(tǒng)級測試報(bào)告的本輪測試表單中。
7、作為優(yōu)選技術(shù)方案,校驗(yàn)所述產(chǎn)品問題記錄列表中需要修改用例的項(xiàng)點(diǎn)是否正確關(guān)聯(lián)到用例修改列表上,具體為:校驗(yàn)所述的產(chǎn)品問題記錄列表的最終判定結(jié)果中包含需要修改用例的項(xiàng)是否已計(jì)入用例修改列表,并且對用例修改列表中計(jì)入的內(nèi)容格式進(jìn)行核查,步驟如下:
8、在測試用例修改列表中記錄用例名稱,記載具體修改內(nèi)容,并標(biāo)注from?issuelist?xxx;所記錄的用例名稱與產(chǎn)品問題記錄列表的用例名稱保持一致;
9、在對產(chǎn)品問題記錄列表篩選本版基線后,在產(chǎn)品問題記錄列表的問題最終狀態(tài)列的最終判定結(jié)果中檢查到內(nèi)容有是否包含需要修改用例;
10、當(dāng)包含需要修改用例,在測試用例修改列表里檢索對應(yīng)需要修改用例;
11、如果有對應(yīng)需要修改用例,則通過;
12、如沒有對應(yīng)需要修改用例,則列出需要修改用例的產(chǎn)品問題記錄列表的id號以及對應(yīng)的相關(guān)測試責(zé)任人名稱。
13、作為優(yōu)選技術(shù)方案,所述在測試用例修改列表里檢索對應(yīng)需要修改用例的檢索依據(jù)包括:是否有該用例號;是否有from?issue?list字樣以及id號是否與產(chǎn)品問題記錄列表的id號對應(yīng);
14、作為優(yōu)選技術(shù)方案,所述需要修改用例的項(xiàng)是否已計(jì)入用例修改列表校驗(yàn)完畢后,得到列出產(chǎn)品問題記錄列表的最終判定結(jié)果中狀態(tài)為需要修改用例但未添加到用例修改列表的名單的第一結(jié)果文件,所述的第一結(jié)果文件包括:產(chǎn)品問題記錄列表的id編號、對應(yīng)用例號、提交人以及報(bào)錯(cuò)原因。
15、作為優(yōu)選技術(shù)方案,校驗(yàn)所述需要提交缺陷的項(xiàng)點(diǎn)是否正確關(guān)聯(lián)到測試用例初步結(jié)果列表上,具體為:
16、對于產(chǎn)品問題記錄列表的最終判定結(jié)果中包含需要提交缺陷的項(xiàng),即最終判定結(jié)果中狀態(tài)包含open,是問題,需要提交cr;
17、在對產(chǎn)品問題記錄列表篩選本版基線后,在產(chǎn)品問題記錄列表的最終判定結(jié)果檢查內(nèi)容有包含open,以及所列缺陷號是否包含缺陷號不正確和未填寫缺陷編號的情況;
18、校驗(yàn)產(chǎn)品問題記錄列表里的open項(xiàng)的缺陷是否已關(guān)聯(lián)到測試用例初步結(jié)果列表,即產(chǎn)品問題記錄列表里的缺陷編號關(guān)聯(lián)到測試用例初步結(jié)果列表上。
19、作為優(yōu)選技術(shù)方案,所述需要提交缺陷的項(xiàng)點(diǎn)都已正確的關(guān)聯(lián)到測試用例初步結(jié)果列表上校驗(yàn)完畢后,得到第二結(jié)果文件,內(nèi)容包括:
20、產(chǎn)品問題記錄列表的最終判定結(jié)果中狀態(tài)為open,但無缺陷號跟蹤的名單;列出產(chǎn)品問題記錄列表的id編號和提交人以及報(bào)錯(cuò)原因;
21、產(chǎn)品問題記錄列表的最終判定結(jié)果中狀態(tài)為open,但所填缺陷號沒有根據(jù)用例號,在測試用例初步結(jié)果列表中對應(yīng)的用例關(guān)聯(lián)該缺陷的情況;列出產(chǎn)品問題記錄列表的id編號、對應(yīng)用例號和提交人以及報(bào)錯(cuò)原因。
22、作為優(yōu)選技術(shù)方案,校驗(yàn)所述影響分析文件中列出的所有缺陷是否正確都進(jìn)行了驗(yàn)證并得到了結(jié)果,具體為:
23、在測試用例初步結(jié)果列表的impact?analysis?cr?sheet中記錄影響分析相關(guān)缺陷的驗(yàn)證結(jié)果,核查影響分析里缺陷驗(yàn)證通過/不通過的結(jié)果;
24、按照測試用例編號,在測試用例初步結(jié)果列表中找出對應(yīng)用例,對于所找出的用例按照格式更新結(jié)果。
25、作為優(yōu)選技術(shù)方案,所述校驗(yàn)完畢后,得到第三結(jié)果文件,內(nèi)容包括:
26、檢查k2_cr_analysis?sheet里cr在測試用例初步結(jié)果列表的impact?analysiscr?sheet里的結(jié)果,并校驗(yàn)該cr在影響分析里的所有用例是否都在測試用例初步結(jié)果列表的系統(tǒng)級確認(rèn)測試用例rtd/系統(tǒng)級集成測試用例itd中關(guān)聯(lián);
27、如果沒有關(guān)聯(lián)或者關(guān)聯(lián)錯(cuò)誤,列出cr編號、用例號和報(bào)錯(cuò)原因:兩者不匹配以及負(fù)責(zé)人。
28、作為優(yōu)選技術(shù)方案,校驗(yàn)所述cr在影響分析里的所有用例是否都在測試用例初步結(jié)果列表的系統(tǒng)級確認(rèn)測試用例rtd/系統(tǒng)級集成測試用例itd中關(guān)聯(lián)時(shí)文字描述不合規(guī)也被判定為錯(cuò)誤。
29、作為優(yōu)選技術(shù)方案,所述的第三結(jié)果文件中b列是未關(guān)聯(lián)該cr的用例,c列是cr結(jié)果錯(cuò)誤的用例,d列是用例內(nèi)填寫cr結(jié)果、e列是impact?analysis?cr?sheet內(nèi)的cr結(jié)果。
30、作為優(yōu)選技術(shù)方案,校驗(yàn)所述缺陷是否已根據(jù)正確結(jié)果在cq庫上進(jìn)行流轉(zhuǎn),具體為:
31、根據(jù)本輪影響分析相關(guān)缺陷的驗(yàn)證結(jié)果進(jìn)行缺陷流轉(zhuǎn)之后核查:cq庫中缺陷的最終狀態(tài)是否和測試用例初步結(jié)果列表結(jié)果一致;
32、校驗(yàn)檢驗(yàn)缺陷流轉(zhuǎn)的結(jié)果:爬取影響分析里所有的缺陷的結(jié)果,即狀態(tài)包括:submitted/recorded/analysed/safety_analysed/assigned/realised/validate_failed/validated/closed/rejected;
33、正確驗(yàn)證的缺陷結(jié)果,即測試用例初步結(jié)果列表的impact?analysis?cr?sheet中找到結(jié)果,狀態(tài)為closed/validate_failed;
34、對于狀態(tài)不對的缺陷,列出submitter字段,即找到責(zé)任人。
35、作為優(yōu)選技術(shù)方案,缺陷是否已進(jìn)行正確流轉(zhuǎn)校驗(yàn)完畢后,得到第四結(jié)果文件,包括:
36、如果影響分析里所有的缺陷結(jié)果是否cq庫上的缺陷狀態(tài)不一致,列出缺陷號、cq庫中狀態(tài)、影響分析的結(jié)果以及提交人。
37、作為優(yōu)選技術(shù)方案,所述核查測試用例初步結(jié)果列表里的系統(tǒng)級測試用例結(jié)果,具體為:
38、核查測試用例初步結(jié)果列表的結(jié)果是否需要更改的檢查原則包括:
39、ko:檢查試用例初步結(jié)果列表的缺陷后面無括號/缺陷后面括號里有驗(yàn)證失敗字樣,即為ko;
40、ok:檢查試用例初步結(jié)果列表r列無缺陷/缺陷后括號結(jié)果都是驗(yàn)證通過/缺陷后面有closed字樣/缺陷后面有rejected字樣,為ok;
41、na:因?yàn)檠邪l(fā)限制na,結(jié)論不動(dòng),保證試用例初步結(jié)果列表的限制缺陷在開放;因?yàn)楫a(chǎn)品不適配,結(jié)論不動(dòng);
42、nt:nt的結(jié)論不動(dòng),檢查試用例初步結(jié)果列表r列的cr,不能出現(xiàn)無缺陷或缺陷后面都是驗(yàn)證通過。
43、14.根據(jù)權(quán)利要求13所述的一種測試記錄自動(dòng)校驗(yàn)方法,其特征在于,所述校驗(yàn)完畢后,得到第五結(jié)果文件,列出測試用例初步結(jié)果列表結(jié)論不對的用例號、當(dāng)前結(jié)果、判斷結(jié)果、缺陷結(jié)果匯總(試用例初步結(jié)果列表r列結(jié)果)、提交人以及備注。
44、作為本發(fā)明的第二方面,提供一種測試記錄自動(dòng)校驗(yàn)裝置,包括存儲(chǔ)器、處理器,以及存儲(chǔ)于所述存儲(chǔ)器中的程序,所述處理器執(zhí)行所述程序時(shí)實(shí)現(xiàn)如上所述的測試記錄自動(dòng)校驗(yàn)方法。
45、作為本發(fā)明的第三方面,提供一種存儲(chǔ)介質(zhì),其上存儲(chǔ)有程序,所述程序被執(zhí)行時(shí)實(shí)現(xiàn)如上所述的測試記錄自動(dòng)校驗(yàn)方法。
46、與現(xiàn)有技術(shù)相比,本發(fā)明具有以下有益效果:
47、1)本發(fā)明可以對測試過程中產(chǎn)生的所有文件的結(jié)果進(jìn)行校驗(yàn),保證測試的各個(gè)環(huán)節(jié),例如影響分析缺陷測試,系統(tǒng)級測試用例的測試,用例修改,缺陷提交等各個(gè)環(huán)節(jié)進(jìn)行互相校驗(yàn),避免了中間環(huán)節(jié)出錯(cuò)導(dǎo)致的最終用來作為系統(tǒng)級測試報(bào)告輸入的test?record文件出錯(cuò),大大的降低了由于人為疏忽帶來的錯(cuò)誤,從而降低返工率,省下人力成本。
48、2)通過本發(fā)明提出的校驗(yàn)流程及體系之后,更有利于多人協(xié)作的測試工作,多人共同填寫的測試文件,能夠以結(jié)果為導(dǎo)向進(jìn)行交叉校驗(yàn),保證了結(jié)果的正確性,更能節(jié)省人為疏忽帶來的溝通成本。
49、3)本發(fā)明具有通用性,可用于所有使用tacs平臺(tái)基線系統(tǒng)級測試工作的結(jié)果校驗(yàn);
50、4)針對不太成熟穩(wěn)定的產(chǎn)品線,該校驗(yàn)方式邏輯設(shè)計(jì)更全面,不僅考慮了對測試用例的測試結(jié)果,還考慮到了用例可能設(shè)計(jì)錯(cuò)誤的情況,從而根據(jù)多方校驗(yàn),能夠得出正確的測試結(jié)果,避免出現(xiàn)對測試結(jié)果的誤判,遺漏,從而影響測試通過率以及后續(xù)的文檔工作。