探索深藏大地的“秘密”，云计算助力遥感卫星“落地”

从前的人们很难想象,有朝一日我们能够利用遥感卫星从太空窥探深藏大地的“秘密”。

6月初,大理州剑川县的剑湖单看像一片月牙,给人一种圆润的美感。加上被旁笔直的阡陌、错落的村庄以及绿油油的田野包围,剑湖又好似一个正在孕育中的“宝宝”。

8月中旬,一片呈螺旋性旋转的巨大云团以每秒数十米的强风速呈逆时针方向旋转的同时,又以每小时数十公里的运行速度向我国沿海城市袭来……

这些遥感卫星不仅能生动形象地展示祖国的秀丽河山还能监测台风。当然,遥感卫星的作用远不止于此:天气预报、国防建设、城市规划、森林火灾监测、洪涝灾害监测等也是遥感卫星的重要应用领域,国内某卫星单位几十年如一日的做着这些事情,为我国的经济建设和社会发展作出了重要贡献。

国内某卫星单位成立于1991年,承担着我国对地观测卫星数据处理、存档、分发和服务设施建设与运行管理。例如,在矿产勘察工作中,该单位通过遥感图像数据收集、数据预处理、信息提取、遥感异常圈定和遥感地质编图等处理步骤,实现矿场资源预测评价。

经过多年发展,该单位的卫星系统已经从过去单一类型的卫星转变为现在的陆地观测和高分系列卫星,业务范围也从过去只专注于国内需求,转向国内和国际。迄今为止,该单位运行管理着资源系列、环境减灾系列、高分系列等十余颗卫星;有将近3000个法人单位,1万多个注册用户。截至目前,该单位分发的数据量已超过1000万件,已经成为国家陆地、气象、海洋三大卫星数据中心之一。

海量数据的存储、检索、分发是难题

遥感卫星收集的影像数据,需要在地面进行集中处理和分发。2005年,该单位的数据处理系统主要有三个,即:CBERS卫星实验系统用户服务分系统、CBERS-02B卫星用户服务分系统和全国陆地观测卫星数据分发分系统。海量的数据需要高效的地面数据处理系统。2011年,该单位在资源三号卫星和资源02C卫星地面系统建设时,将上述所有分系统数据进行了整合,建成了统一对外服务的数据分发服务分系统。

以往的影像数据是对历史真实、客观的记录,随着时间推移会越来越珍贵,需要永久留存,而多颗卫星同时运作,需要存档的数据就会越来越多。据统计,2015年9月,该单位卫星的在线数据存储达到了10拍,这些卫星每天还会产生超过10太的数据需要存储。

当前对地观测卫星的主要特点表现在高空间分辨率、高光谱分辨率、回访周期短、影像条带宽、立体成像能力和多种成像模式等方面,越来越多的不同平台搭载的观测传感器使得人们可以获得近乎连续高维度数据,这种信息采集的爆炸式增长给分发服务系统带来了巨大的压力,该系统逐渐暴露出了效率和服务等各种问题,而且随着新型载荷不断发展,对分发服务的服务模式也提出了更多要求。

为了更好地开展对海量数据的大数据分析与挖掘,该单位想在私有云上使用搜索引擎和数据库等应用。部署的时候,IT团队发现,这些应用与原有的虚拟化环境并不能很好的兼容,要解决这个问题需要对现有的虚拟化云平台以及裸机平台进行统一的资源管理,营造一个随时、随需的申请和使用存储、计算资源的云实施环境。

基于Animbus打造“即申即用”的云环境

为此,该单位早前就采用了九州云Animbus平台,该平台基于OpenStack、Ceph、外接EMC商业存储为其构建了一个内部OpenStack私有云平台。私有云平台对现有的网络交换机、X86服务器、Isilon存储等硬件资源进行了集成,软件层面则提供前台门户、虚机定制、流程审批、分布式存储和对象存储等功能。具体如下图所示:

私有云平台的搭建,一方面实现了异构资源统一纳管,兼顾传统网络和云网络的无缝对接、平滑过渡和统一管理,帮助该单位减小了云平台的运维难度;另一方面,该单位已经形成了基于专线、电子政务网和互联网“三网合一”的不同层次、多类用户的数据分发体系,该平台的使用也实现了资源实时推送管理分发,为信息共享提供了数据保障。具体效果如下:

专线:与国土资源部、环境保护部、水利部、住建部、减灾委、交通部等国家部委建设了21条专线,实现了数据的自动推送服务;

电子政务网:覆盖范围扩展到京内85家部委行业用户以及京外31个省、自治区、直辖市和新疆建设兵团;

互联网:所有互联网连接的用户都可通过互联网方便快捷地获得数据。

扩容升级,让遥感卫星数据更好地“落地”

然而随着时间的推移,遥感卫星存储的数据越来越多,该单位用户的需求也越来越多元化,原有的资源和性能已经无法满足业务增长的需要,分发系统的扩容已经迫在眉睫。为了使遥感卫星数据能够高效、便捷、稳定的为广大互联网用户和其他企业用户提供更好的服务,2019年,该单位联合九州云对分发服务系统云服务进行了升级改造,具体包括分发服务分系统虚拟化平台、Hadoop分布式计算集群和在线数据分布式云存储系统。

九州云对上述需求进行了综合考虑后,决定采用软件定义数据中心技术,充分利用该单位原有的硬件计算、存储和网络设备进行分别扩展,保证灵活、高效的同时,又不被存储和网络厂商锁定。

在硬件的利旧上,保留原有分发系统、内网、外网以及安全等设备,原有设备连接到华三的千兆核心交换上,九州云虚拟化平台,包括服务器和集中存储连接到四个万兆交换机上。华三核心交换机和新的万兆交换机通过万兆线路连接。

这样一来,既保留了原有的功能,又保障了新增功能的网络带宽。同时多线路冗余也为系统提供了更高级别的系统高可用性,九州云从底层网络架构到上层应用都做了相应的规划,全面保障业务的持久性。

在网络规划中,九州云充分利用千兆/万兆/4万兆的通信速率,提供尽可能低的收敛比,保障流畅的虚机间通信和服务访问。连接示意图如下:

在升级扩展过程中,为保障业务的连续性,该单位使用九州云Animbus 云平台统一纳管新旧业务,建立统一的主机、集群、虚拟机、存储、网路和数据监控管理平台。同时传统业务和数据也将转移至新集群,完成全面的业务整合升级。此外,九州云还利用 Animbus Ironic组件,将裸机资源也一并进行管理,结合VMware纳管功能,建设统一的综合云平台,方便客户在一个平台上管控多种资源。

在大数据分析业务方面,九州云使用了Sahara组件,Sahara旨在帮助客户能够在Openstack平台上创建和管理Hadoop以及其他计算框架集群,实现类似AWS的EMR服务。该单位只需要提供简单的参数,如版本信息、集群拓扑、节点硬件信息等,利用Sahara服务能够在数分钟时间内快速地部署Hadoop、Spark、Storm集群。

助力客户服务全球

此番,九州云联合该单位共同突破了多项技术难关,实现了多项技术管理创新。升级扩容完成之后,该单位的私有云平台支持一键创建Hadoop分布式计算集群,将Hadoop部署在虚拟化环境中,实现了可靠的和性能优化的虚拟化Hadoop集群。在Hadoop集群基础之上,能开发基于Spack的用户查询条件统计分析功能,从而统计出用户查询位置信息的频度数据和每天查询订购的峰值信息。

在分发系统中,由于对象存储是最为关键的一部分,九州云对整个云存储系统架构做了特别规划:系统采用双存储策略,使用9台服务器和一套ECM Isilon存储搭建了一个Ceph分布式存储集群,配置存储策略使EMC Isilon和基于服务器的分布式存储方案两者共存于同一个存储集群之中,各节点通过2个H3C交换机,2个Mellonix万兆交换机相连,交换机系统内部互联。

存储系统采用完全对称、面向资源的分布式系统架构设计无中心节点,所有部分都可扩展,避免了因单点失效而扩散并影响整个系统运转。通信方式采用非阻塞式I/O模式,提高了系统吞吐和响应能力,以满足实际使用中的性能问题。云存储提供了标准API、认证服务、账户服务、对象服务和审计服务,全面覆盖了整个对象存储的使用、管理和监控。

九州云通过对该单位已有硬件资源进行体系结构设计、硬件资源分配和网络设计,保证了其云存储环境正常运行的同时,完成了容量超400T的在线数据分布式云存储系统的扩容。对内,给该单位提供了对象存储的标准API操作接口;对外,该单位的用户可以通过分发服务系统下载近期产品数据。

一直以来,该单位都积极贯彻落实国家关于陆地观测卫星发展的战略部署,该单位的主任曾表示,农、林、水、土、城、环、灾等各应用行业都离不开卫星数据的支持。接下来,在该单位联合九州云打造的私有云平台基础上,前者将为全国用户提供三千余万卫星数据产品,广泛应用于我国农业、林业、水利、国土资源、城市规划、环境保护、灾害监测和国防建设等众多领域,创造出更多的经济效益和社会价值。

如今,我国的遥感服务早已走出国门,成为“全球民用陆地观测卫星在轨数量最多的国家级遥感卫星数据中心”是该单位的发展目标。未来,该单位将继续扩大国际层面的合作,为其他有需要的国家提供遥感数据服务。