数据中台


Z文件采集入库流程

<h2>数据源</h2> <ul> <li> <h5>来源</h5> <p>CMACast</p> </li> <li> <h5>获取方式</h5> <p>IP:117.85.62.55 目录: /public/ftpsurfdata/OBS_DOM_AWS/CMA /public/ftpsurfdata/OBS_DOM_AWS/DOM/CMA</p> </li> </ul> <h2>入库流程</h2> <ul> <li> <h5>小时数据入库流程</h5> <ol> <li>定时任务响应(2分钟执行1次);</li> <li>遍历数据目录下所有文件,逐个解析;</li> <li>解析成功:数据写入rds的业务表(surf_chn_mul_hor、surf_chn_pre_min)中,数据写入mysql的备份表(surf_chn_mul_hor_yyyyMM,surf_chn_pre_min_yyyyMM)中,从目录删除原始文件;</li> <li>解析失败:原始文件存入/obs/surf_obs_zfile/yyyyMM/dd异常目录中;</li> <li>结束。</li> </ol> </li> <li> <h5>分钟数据入库流程</h5> <ol> <li>定时任务响应(2分钟执行1次);</li> <li>遍历数据目录下所有文件,逐个解析;</li> <li>解析成功:数据写入rds的业务表(surf_chn_mul_min、surf_chn_pre_min)中,数据写入mysql的备份表(surf_chn_mul_min_yyyyMM,surf_chn_pre_min_yyyyMM)中,从目录删除原始文件;</li> <li>解析失败:原始文件存入/obs/surf_obs_zfile/yyyyMM/dd异常目录中;</li> <li>结束。</li> </ol> </li> </ul> <hr /> <ul> <li>撰写人:王雪阳</li> </ul>

页面列表

ITEM_HTML