本發(fā)明涉及業(yè)務系統開發(fā),更具體地說,本發(fā)明涉及基于大數據分析的業(yè)務系統開發(fā)管理系統。
背景技術:
1、隨著信息技術的飛速發(fā)展,業(yè)務系統的開發(fā)與管理日益成為企業(yè)運營的關鍵環(huán)節(jié),在當前數字化轉型的大背景下,如何高效、準確地管理和優(yōu)化業(yè)務系統,成為各行業(yè)共同面臨的挑戰(zhàn),特別是在軟件開發(fā)、運維部署及數據可視化等領域,技術創(chuàng)新與管理模式的優(yōu)化成為推動業(yè)務發(fā)展的重要驅動力。
2、現有的業(yè)務系統開發(fā)管理系統通常遵循一套固定的運行流程,這些系統通常包括數據采集、數據存儲、數據處理和數據分析等環(huán)節(jié),它們通過自動化工具和手動操作相結合的方式,收集業(yè)務系統的各類數據,包括代碼提交記錄、開發(fā)流程指標、運維日志等,隨后,這些數據被存儲到數據庫中,并經過一系列的處理和分析,以支持對業(yè)務系統的監(jiān)控和管理,然而,這種傳統模式在數據處理的實時性、準確性和智能化方面存在明顯不足。
3、盡管現有的業(yè)務系統開發(fā)管理系統在一定程度上提高了管理效率,但在實際應用中仍存在諸多不足。首先,數據采集的實時性和全面性不夠,往往無法覆蓋業(yè)務系統的所有關鍵數據點,導致分析結果存在偏差,其次,數據分析方法較為單一,缺乏對大數據的深入挖掘和分析能力,難以發(fā)現潛在的問題和風險,此外,現有系統在異常檢測和預警方面也存在明顯短板,無法及時響應和處理業(yè)務系統的異常情況,這些問題嚴重制約了業(yè)務系統的高效運行和持續(xù)發(fā)展,迫切需要一種更為先進、智能的管理系統來加以解決。
技術實現思路
1、為了克服現有技術的上述缺陷,本發(fā)明的實施例提供基于大數據分析的業(yè)務系統開發(fā)管理系統,通過以下方案,以解決上述背景技術中提出的問題。
2、為實現上述目的,本發(fā)明提供如下技術方案:基于大數據分析的業(yè)務系統開發(fā)管理系統,包括系統運行數據庫、系統中央處理模塊和用戶信息端,還包括數據采集時間確定模塊、開發(fā)數據錄入模塊、開發(fā)數據分析模塊、異常分析模塊以及管理模塊;
3、所述數據采集時間確定模塊用于確定開發(fā)數據采集模塊的數據采集時間點,按照相同時間間隔的方式確定開發(fā)數據采集模塊的數據采集時間點,依次標記為1、2……n;
4、所述開發(fā)數據錄入模塊用于采集目標業(yè)務系統在各時間點的代碼基礎設施數據、開發(fā)流程數據、可視化工具數據以及運維及部署細節(jié)數據,并將采集到的數據傳輸到開發(fā)數據分析模塊;
5、所述開發(fā)數據分析模塊用于對開發(fā)數據錄入模塊傳輸的數據進行分析,并將分析結果傳輸到異常分析模塊;
6、所述異常分析模塊用于對開發(fā)數據分析模塊傳輸的數據進行綜合分析,并根據分析結果判斷目標業(yè)務系統的異常狀態(tài),并將目標業(yè)務系統的異常狀態(tài)傳輸到管理模塊;
7、所述管理模塊用于根據目標業(yè)務系統的異常狀態(tài)發(fā)出管理指令。
8、優(yōu)選的,所述系統運行數據庫是包括業(yè)務系統開發(fā)管理系統的所有數據文本,且實時收集各模塊輸出的信息文本,所述系統中央處理模塊用于中控各模塊輸出的信息文本指令,所述用戶信息端為接收業(yè)務系統開發(fā)管理系統的信息輸出設備。
9、優(yōu)選的,所述數據采集時間確定模塊通過cron作業(yè)在linux系統中實現時間點的自動確定,在每個預定的時間點,系統將自動觸發(fā)數據采集過程,通過開發(fā)數據錄入模塊執(zhí)行具體的數據采集任務,并允許在系統運行時根據需要調整時間間隔或臨時添加或刪除數據采集時間點。
10、優(yōu)選的,所述開發(fā)數據錄入模塊包括數據采集單元和第一數據傳輸單元,數據采集單元用于采集目標業(yè)務系統在各時間點的代碼基礎設施數據、開發(fā)流程數據、可視化工具數據以及運維及部署細節(jié)數據,第一數據傳輸單元用于將數據采集單元采集的數據傳輸到開發(fā)數據分析模塊。
11、優(yōu)選的,所述代碼基礎設施數據包括開發(fā)任務的代碼提交數量變化率、代碼編譯的中間產物數量、代碼庫快照時間差異以及代碼中魔數出現頻率,分別標記為cr、cb、cs以及cm,開發(fā)流程數據包括需求變更頻率、pull?request反饋延遲時間、開發(fā)人員間的代碼合并沖突數以及任務切片程度,分別標記為rc、rp、rm以及rt,可視化工具數據包括圖形界面響應延時、可視化工具的交互錯誤次數、單元測試結果的可視化完整性以及代碼審查過程中的可視化參與度,分別標記為gr、ge、gt以及gv,運維及部署細節(jié)數據包括配置文件的修訂次數、服務啟動時的日志條目數量、自動化腳本執(zhí)行的成功率以及系統重啟后的穩(wěn)定時間,分別標記為fc、fl、fs以及fr。
12、優(yōu)選的,所述數據采集單元通過版本控制系統git的提交歷史,統計每個開發(fā)任務的代碼提交數量,并結合jira計算任務間變化率采集開發(fā)任務的代碼提交數量變化率,通過在編譯過程中啟用日志記錄,統計生成的中間產物文件的數量,可以通過構建工具maven的日志解析來獲取代碼編譯的中間產物數量,通過定期對代碼庫進行快照,計算相鄰快照之間的時間差異,使用腳本結合ci工具jenkins實現定期快照和差異計算獲取代碼庫快照時間差異,使用靜態(tài)代碼分析工具sonarqube掃描代碼,統計魔數在代碼中直接使用的具體數值而非常量出現的頻率獲取魔數出現頻率。
13、優(yōu)選的,所述數據采集單元通過需求管理系統jira的變更日志,統計需求變更頻率,通過代碼托管平臺gitlab的api,獲取每個pull?request的創(chuàng)建時間和首次評論時間,計算兩者之間的時間差獲取pull?request反饋延遲時間,通過版本控制系統的合并日志統計合并過程中發(fā)生的沖突次數獲取開發(fā)人員間的代碼合并沖突數,通過項目管理工具jira的任務劃分情況獲取任務切片程度,具體方法為統計開發(fā)任務的復雜度并計算平均任務粒度,任務粒度可以通過任務的子任務數量衡量。
14、優(yōu)選的,所述數據采集單元通過性能測試工具selenium模擬用戶操作并記錄界面響應時間獲取圖形界面響應延時,通過在可視化工具中加入錯誤日志功能,統計用戶進行的操作中發(fā)生的錯誤次數獲取可視化工具的交互錯誤次數,通過檢查測試報告生成工具junit的輸出,統計所有單元測試結果是否完整展示,并計算完整性比例獲取單元測試結果的可視化完整性,代碼審查過程中的可視化參與度通過代碼審查工具crucible的活動日志獲取,統計每次代碼審查中可視化工具的使用情況及參與度,具體為評論中附帶的圖形數量。
15、優(yōu)選的,所述數據采集單元通過版本控制系統git統計配置文件的提交歷史,計算配置文件的修訂次數,通過在服務啟動腳本中加入日志統計功能,記錄從啟動命令執(zhí)行開始到服務完全啟動之間生成的日志條目數量獲取服務啟動時的日志條目數量,通過在自動化腳本執(zhí)行后記錄執(zhí)行結果,通過ci/cd工具jenkins獲取并統計成功率獲取自動化腳本執(zhí)行的成功率,通過記錄系統重啟完成時間和系統達到穩(wěn)定狀態(tài),具體為無異常日志和無高負載所需的時間,通過腳本結合監(jiān)控工具grafana獲取系統重啟后的穩(wěn)定時間。
16、優(yōu)選的,所述開發(fā)數據分析模塊包括第一接收單元、數據分析單元以及第二數據傳輸單元,第一接收單元用于接收第一數據傳輸單元傳輸的數據,并對數據進行預處理,具體包括數據清洗、數據集成以及數據變換,數據分析單元用于建立代碼基礎設施數據分析模型、開發(fā)流程數據分析模型、可視化工具數據分析模型以及運維及部署細節(jié)數據分析模型,用于對第一接收單元預處理后的數據進行分析,第二數據傳輸單元用于將數據分析單元的分析結果傳輸到異常分析模塊。
17、優(yōu)選的,所述代碼基礎設施數據分析模型用于對開發(fā)數據錄入模塊傳輸的代碼基礎設施數據進行分析,具體表示為:
18、,
19、kci表示第i時間點的代碼動態(tài)評估值,cri表示第i時間點的開發(fā)任務的代碼提交數量變化率,cbi表示第i時間點的代碼編譯的中間產物數量,csi表示第i時間點的代碼庫快照時間差異,cmi表示第i時間點的代碼中魔數出現頻率,n表示時間點數量。
20、優(yōu)選的,所述開發(fā)流程數據分析模型用于對開發(fā)數據錄入模塊傳輸的開發(fā)流程數據進行分析,具體表示為:
21、,
22、kri表示第i時間點的開發(fā)流程效率值,rci表示第i時間點的需求變更頻率,rpi表示第i時間點的pull?request反饋延遲時間,rmi表示第i時間點的開發(fā)人員間的代碼合并沖突數,rti表示第i時間點的任務切片程度,n表示時間點數量。
23、優(yōu)選的,所述可視化工具數據分析模型用于對開發(fā)數據錄入模塊傳輸的可視化工具數據進行分析,具體表示為:
24、,
25、kgi表示第i時間點的交互可視化效能評估值,gri表示第i時間點的圖形界面響應延時,gei表示第i時間點的可視化工具的交互錯誤次數,gti表示第i時間點的單元測試結果的可視化完整性,gvi表示第i時間點的代碼審查過程中的可視化參與度,n表示時間點數量。
26、優(yōu)選的,所述運維及部署細節(jié)數據分析模型用于對開發(fā)數據錄入模塊傳輸的運維及部署細節(jié)數據進行分析,具體表示為:
27、,
28、kfi表示第i時間點的運維效能值,fci表示第i時間點的配置文件的修訂次數,fli表示第i時間點的服務啟動時的日志條目數量,fsi表示第i時間點的自動化腳本執(zhí)行的成功率,fri表示第i時間點的系統重啟后的穩(wěn)定時間,n表示時間點數量。
29、優(yōu)選的,所述異常分析模塊包括第二接收單元、綜合分析單元、異常判斷單元以及第三傳輸單元,第二接收單元用于接收第二傳輸單元傳輸的數據,綜合分析單元用于建立綜合分析模型,將第二傳輸單元傳輸的數據導入綜合分析模型,計算出目標業(yè)務系統的綜合異常指數,異常判斷單元用于根據綜合異常指數閾值對目標業(yè)務系統的異常狀態(tài)進行判斷,第三傳輸單元用于將目標業(yè)務系統的異常狀態(tài)傳輸到管理模塊。
30、優(yōu)選的,所述綜合分析模型具體表示為:
31、,η表示目標業(yè)務系統的綜合異常指數,kci′表示標準化后的第i時間點的代碼動態(tài)評估值,kri′表示標準化后的第i時間點的開發(fā)流程效率值,kgi′表示標準化后的第i時間點的交互可視化效能評估值,kfi′表示標準化后的第i時間點的運維效能值,w1表示代碼基礎設施數據的權重,w2表示開發(fā)流程數據的權重,w3表示可視化工具數據的權重,w4表示運維及部署細節(jié)數據的權重。
32、優(yōu)選的,所述綜合分析模型中的標準化方法為min-max標準化方法,所述w1、w2、w3以及w4通過實驗數據擬合得出,且w1+w2+w3+w4=1。
33、優(yōu)選的,所述綜合異常指數閾值包括第一閾值和第二閾值,分別標記為tnormal和twarning,且tnormal<twarning,當η≤tnormal時,將目標業(yè)務系統的狀態(tài)標記為正常,當tnormal<η≤twarning時,將目標業(yè)務系統的狀態(tài)標記為警戒,當twarning<η時,將目標業(yè)務系統的狀態(tài)標記為異常。
34、優(yōu)選的,所述管理模塊包括第三接收單元、第一控制單元、第二控制單元以及第三控制單元,第三接收單元用于接收第三傳輸單元傳輸的信息,第一控制單元用于針對正常狀態(tài)發(fā)出控制指令,第二控制單元用于針對警戒狀態(tài)發(fā)出控制指令,第三控制單元用于針對異常狀態(tài)發(fā)出控制指令。
35、優(yōu)選的,所述第一控制單元在目標業(yè)務系統的狀態(tài)為正常時保持對業(yè)務數據的獲取和分析,并記錄目標業(yè)務系統正常狀態(tài)日志。
36、優(yōu)選的,所述第二控制單元在目標業(yè)務系統的狀態(tài)為警戒時進行每日兩次的廣覆蓋健康檢查,預定額外計算和網絡資源,準備擴展,并發(fā)送黃色預警信號至管理人員。
37、優(yōu)選的,所述第三控制單元在目標業(yè)務系統的狀態(tài)為異常時成立應急響應小組,在15分鐘內開始故障排查,全部系統流量限制,暫停非關鍵功能,激活冗余備份系統,進行業(yè)務切換,每小時進行健康檢查至狀態(tài)恢復。
38、本發(fā)明的技術效果和優(yōu)點:
39、本發(fā)明通過數據采集時間確定模塊確定開發(fā)數據采集的時間點,確保了數據采集的規(guī)范性和一致性,按照相同時間間隔的方式標記數據采集時間點,為后續(xù)的數據分析和異常檢測提供了精確的時間維度;通過開發(fā)數據錄入模塊采集目標業(yè)務系統在各個時間點的多維度數據,包括代碼基礎設施數據、開發(fā)流程數據、可視化工具數據以及運維及部署細節(jié)數據,這些數據為后續(xù)的開發(fā)數據分析提供了豐富的數據源,有助于全面了解業(yè)務系統的開發(fā)狀態(tài)和運行效率;通過開發(fā)數據分析模塊對開發(fā)數據錄入模塊傳輸的數據進行預處理和深入分析,建立了多個數據分析模型,能夠量化評估業(yè)務系統的開發(fā)效率和效能,為異常檢測和管理決策提供了科學依據;通過異常分析模塊對開發(fā)數據分析模塊傳輸的數據進行綜合分析,計算目標業(yè)務系統的綜合異常指數,并根據設定的閾值判斷業(yè)務系統的異常狀態(tài),能夠及時發(fā)現和預警潛在的問題,為管理模塊發(fā)出相應的管理指令提供了重要的依據;通過管理模塊根據異常分析模塊傳輸的目標業(yè)務系統的異常狀態(tài),發(fā)出相應的管理指令,能夠針對不同狀態(tài)采取相應的控制措施,確保業(yè)務系統的穩(wěn)定運行和高效開發(fā),在異常情況下,管理模塊能夠迅速啟動應急響應機制,降低系統風險并盡快恢復系統狀態(tài)。