數(shù)據(jù)采集設(shè)計(jì)會議紀(jì)要

時間：2022-07-06 03:37:53 會議紀(jì)要我要投稿

相關(guān)推薦

　　主要思路

數(shù)據(jù)采集設(shè)計(jì)會議紀(jì)要

　　1. 數(shù)據(jù)的分析整理主要放在客戶端實(shí)現(xiàn)，以減少服務(wù)端的壓力;

　　2. 服務(wù)端主要以組裝和轉(zhuǎn)存實(shí)現(xiàn)為主。

　　服務(wù)端：

　　1. 處理步驟

　　(1)Socket監(jiān)聽端口

　　(2)接收數(shù)據(jù)

　　(3)處理數(shù)據(jù)

　　2. 主要問題

　　(1)多線程

　　每個數(shù)據(jù)傳輸啟動一個線程，做好線程管理;

　　要考慮穩(wěn)定性，避免內(nèi)存泄露。

　　(2)大數(shù)據(jù)量數(shù)據(jù)庫更新

　　通過塊提交提高數(shù)據(jù)庫轉(zhuǎn)存性能，縮短轉(zhuǎn)存時間;

　　考慮如何避免庫鎖。

　　客戶端：

　　1. 設(shè)備數(shù)據(jù)傳輸

　　(1)設(shè)備數(shù)據(jù)文件內(nèi)容變化判斷

　　設(shè)備數(shù)據(jù)的分析處理很費(fèi)時間，每次傳輸數(shù)據(jù)時都要對設(shè)備數(shù)據(jù)文件進(jìn)行分析壓力很大。考慮到設(shè)備數(shù)據(jù)變化的概率很小，但有的廠家不管設(shè)備數(shù)據(jù)變沒變，都要生成新的設(shè)備數(shù)據(jù)文件，所以要開發(fā)一個文件變化快速比較功能;

　　方法有：一是特征碼比較;二是轉(zhuǎn)換成ASCII比較;三是轉(zhuǎn)換成二進(jìn)制或十六進(jìn)制比較;四是轉(zhuǎn)換成MD5碼比較。

　　2. 實(shí)時數(shù)據(jù)傳輸

　　(1)字典表

　　客戶端取得字典表，進(jìn)行數(shù)據(jù)分析。

　　(2)數(shù)據(jù)比較

　　通過數(shù)據(jù)庫臨時表，比較得出新增和修改的數(shù)據(jù)。

　　3. 數(shù)據(jù)傳輸過程中，數(shù)據(jù)丟失驗(yàn)證

　　下一步計(jì)劃：

　　1. 數(shù)采開發(fā)周期一個半月;

　　2. 進(jìn)行設(shè)計(jì)評審;

　　3. 數(shù)采客戶端DotNet實(shí)現(xiàn)，xxx負(fù)責(zé);

　　4. 數(shù)采服務(wù)端Java實(shí)現(xiàn)，xxx負(fù)責(zé)。