DOI:10.3969/j.issn.1006-6403.2015.12.0014G数据信息采集部署方案研究[王哲]摘要数据采集分析是保证移动互联网业务安全及迅速发展的基础,分析了4G核心网数据采集系统架构,并结合通信网络的运营体系,给出了部署建议。关键词:4G核心网 数据采集 大数据王哲广东省电信有限公司,高级工程师,通信与电子工程博士,长期从事通信网技术发展和规划建设工作。运营与应用1 引言近年来,随着移动及光纤宽带通信技术演进,互联网业务应用迅速扩张,其中移动互联网的网络和业务发展更为迅猛。移动互联网中的内容来源丰富庞杂,为了进一步提升网络信息安全、监测网络及业务运行状态、拓展各类大数据应用,运营商可通过网络的数据采集系统进行数据信息采集,并向网络与信息安全系统、网络及业务状态感知分析系统、大数据分析等系统提供基础数据信息。4G网络数据信息采集系统实现了针对4G移动互联网的访问、认证和流量信息采集,能够满足上网日志留存系统的数据提供需求,同时为今后其他相关系统提供统一的数据输入,进而完善业务网络的QoS机制,以及策略控制机制,为智能管道的部署提供了良好网络能力支撑,最终为用户带来更好的用户体验,提升用户粘着度。本文针对以上问题,就4G数据信息采集系统部署架构展开阐述,并结合运营经验,对解决方案进行了分析探讨。2 系统架构及场景2.1 系统架构数据信息流量采集平台部署要遵循架构标准开放、性能安全可靠、系统易用可扩充等要求。系统部署上,采集设备旁路并接在4G 网络上,通过分光方式获取IP 链路上的用户互联网访问数据,进行数据解析、生成和存储相关记录,记录以文件接口、实时消息接口方式发送给外部需求系统,同时还能够根据运营需要镜像/复制相关接口原始报文给外部需求系统。4G数据信息采集系统总体架构图1所示。数据信息采集设备由分流器、数据解析及相关存储设备构成,向大数据分析系统、网络状态感知分析系统、安全管理系统等平台提供用户注册、上网行为记录或镜像/复制原始报文。系统主要模块功能介绍如下:(1)分流器:集中收集各分光点的数据报文,根据预先设置的工作模式,将数据报文均衡的分布到各数据解24G数据信息采集部署方案研究INTERNET数据信息采集系统EPC核心网分流器数据解析及存储镜像/复制接口FTP接口实时接口大数据分析等系统③采集 S1-U、S1-MME、S11 等接口,获取接口的原始数据流,镜像/复制给外部的需求系统,如信令分析系统、恶意代码分析系统、专用数据处理模块等(2)4G接入归属地时,采集点部署方案4G 网络数据信息采集设备在LTE 接入,归属地采集时的位置图3所示。SGI网络状态感知分析系统安全管理系统eNodeB-ePCRF-分光采集点INTERNET图1 4G数据信息采集系统架构析设备或模块进行报文解析;同时也能够基于IP 地址、端口等方式镜像/复制接口的原始报文给外部的需求系统。(2)数据解析及存储:对数据报文进行DPI 解析,按用户的分业务使用生成相应的记录,多个记录组成记录文件,并存放在存储设备上。存储设备可以各数据解析设备或模块共享,也可以各数据解析设备或模块单独绑定使用;同时也能够基于接口协议判别进行接口原始报文的镜像/复制,输出给外部的需求系统。S1-US8GTP-UPGW/SGWHSS数据信息采集系统S8GTP-CPGWSAE-GWSGWS11GTP-CS6aDIAMETERMME运营分光采集点eNodeB-2.2 4G主要采集场景根据用户数据接入4G网络情况,主要分为以下几种采集情况:(1)4G 接入拜访地,采集点部署方案:4G 网络数据信息采集设备在LTE 接入,拜访地采集时的位置图2所示。INTERNETS1-MME与应用图3 接入归属地采数据采集点部署①采集 PGW 的S8 GTP-C 、SGI 接口,获取用户信息和互联网访问信息②镜像/复制哪些接口的原始数据流根据运营需求而定,比如对Gx接口的镜像/复制给外部需求系统PGWHSSSGIS8GTP-U3 系统部署方案数据信息采集系统为安全容灾考虑4G核心网应部署在两个机房,4G数据采集分析系统与4G核心网同机房部署,以便于数据PGWSAE-GWSGWS1-US11GTP-CS8GTP-CS6aDIAMETER采集,因此需要在两个机房部署对应的流量采集设备以及服务器等分析处理设备,同时两机房间交换机需要部署链路互联,便于系统内部数据处理和交换。典型场景下4G分光采集点MMEeNodeB-S1-MME数据信息采集系统组网如图4所示。图2 接入拜访地采数据采集点部署①采集 SAE-GW 的S11、S8 、SGI 接口,获取用户信息和互联网访问信息②采集 MME 的S1-MME、S11 和S6a 接口,获取用户的登录注册信息4 总结本文分析了4G网络数据采集方案,给出4G不同接入场景下的采集案例,并结合实际运营网络组网技术发展方向及安全性要求,给出部署建议,对今后数据采集有较(下转第12页)2015.12·广东通信技术3》2运营与应用ACM SIGGRAPH'04,2004卢风顺,宋君强,银福康,张理论.CPU/GPU协同并行计算研究综述,计算机科学,Vol.38,No.3,2011.33456 CUDA.http://www.nvidia.cn/object/cuda-cn.html.2015-5-4OpenCL.维基百科DirectCompute 百度百科Shane Cook 著,苏统华,李东,李松泽,魏通译,CUDA并行程序设计 GPU编程指南,机械工业出版社,2014年1月第一版789天河一号, 维基百科BOINC,维基百科石林.GPU通用计算虚拟化方法研究,[博士学位论文].长沙:湖南大学,201210Gupta V,Gavrilovska A,Schwan K,et al.Gvim:Gpu-accelerated vitual machines [C]//Proc of ACM Workshop on System-level Virtualization for high Performace of GPU-based accelerators in high performance clusters [c]// Proc of Interantional Conference on High Performance Computing and Simulation,2010:224-23112Giunta G,Montella R,Agrillo G,et al.A GPGPU transparent virtualization component for high performance computing clouds [C]//Proc of EuroPar Conference on Parallel Processing,2010:379-39113张云洲,袁家斌,吕相文.面向多任务的GPU通用计算虚拟化技术研究, 计算机工程与科学,Vol.35,No.11,Nov 201314张舒,褚艳利.GPU高性能运算之CUDA[M].北京:中国水利水电出版社,200915丑文龙,梅魁志,高增辉,李博良.ARM GPU的多任务调度设计与实现. 西安交通大学学报,2014.1216http://www.chinacloud.cn/show.aspx?id=16042&cid=18.2015-5-417http://it.sohu.com/20140115/n393573632.shtml.2015-5-418http://cloud.yesky.com/12/34978512.shtml.2015-5-4(收稿日期:2015-11-18)运营与应用Computing,2009:17-2411Duato J,Pena A,Silla F,et al.rCUDA: Reducing the number (上接第03页)强实践及指导意义。大数据分析系统IP网络网络状态感知分析系统233GPP TS 29.002Mobile Application Part (MAP) specification3GPP TS 23.401General Packet Radio Service (GPRS) enhancements for Evolved Universal Terrestrial Radio Access Network (E-UTRAN) access安全管理系统汇聚路由器4分流设备链路分光数据信息采集服务器SAE-SAE-GW-2GW-3HSGW3GPP TS 23402 Architecture enhancements for non-3GPP accesses分流设备链路分光数据信息采集服务器HSS/3GPPAAAHSS/3GSAE-SAE-PPGW-2GW-3AAAPCRFHSGW53GPP TS 24301 Non-Access-Stratum (NAS) protocol for Evolved Packet System (EPS); Stage 3机房14G核心网网元PCRF石井机楼机房24G核心网网元63GPP TS 24302 Access to the 3GPP Evolved Packet Core (EPC) via non-3GPP access networks; Stage 3图4 信息采集系统组网部署方案73GPP2 A.S0022 Interoperability Specification (IOS) for Evolved High Rate Packet Data (eHRPD) Radio Access 参考文献13GPP TS 23.003Numbering, addressing and identificationNetwork Interfaces and Interworking with Enhanced Universal Terrestrial Radio Access Network (E-UTRAN)(收稿日期:2015-12-03)12