协同存储,为边缘计算创造更大价值

news/2024/5/19 14:03:54 标签: 边缘计算, 云计算

01 数据的爆发为存储带来持续挑战

在5G时代下,视频和图片因其强大的信息承载力,已经成为数据内容的主要载体和信息传播的主要方式。而5G的大带宽、低时延、广连接的特性激活了云游戏、物联网、视频监控等场景应用,从消费互联网到产业互联网的延伸,更加促进了终端应用和数据的爆发。

这些终端和数据具有位置分散、规模大、以及价值密度相对较低等特点,典型的如:视频监控录像/截图、云游戏录像、海量临时日志文件等。一方面,我们需要提供就近、低延迟的数据接入与存储能力,另一方面,我们需要在边缘进行数据的精细化管理,与计算相结合,分析其中的关键片段以及其结构化信息。

这样的场景和需求对计算和存储的方式带来了严峻挑战和根本性变化。

 

02 基于边缘云构建位置无感的协同存储服务

用户在使用对象存储时,针对海量数据,提出了大流量、就近、低延迟的要求,边缘云在这些方面具备天然优势,但边缘云的对象存储在使用方式和体验上存在明显不足。相较于传统中心云的region化使用方式,边缘云的单点规模较小,并且节点数多了几个量级。

如果每个边缘云节点独立进行对象存储服务,无异于将复杂的逻辑交给用户,用户使用时将面临节点资源管理、资源读写调度、单节点可用性运维等诸多复杂问题。这会对用户业务带来巨大的挑战,任何节点状态的变化,都可能带来业务的感知,处理不好甚至会对业务造成严重影响。

以摄像头数据上云为例,传统的方式,用户需要感知终端设备的地理位置,并且需要去维护海量终端设备和云上地址的对应关系,一旦出现单点故障,用户需要做大量的动作来进行调度和迁移。

 传统的数据上云架构

而理想的架构中,用户无需关心具体的云上位置,希望与云只有一个交互面,就能实现全网设备的就近、低延迟接入,并且无需关心云上单节点的负载、水位、异常等情况。

理想的数据上云架构

边缘计算孵化了位置无感的协同存储(EOS)服务,通过中心管控和多个边缘节点进行协同,将分布在各地边缘节点的物理存储资源,组成一个逻辑统一的对象存储资源池。用户无需关心读写位置和单节点可用性带来的运维和调度问题,即可得到与使用公有云对象存储一致的接口体验,以及由数量众多的边缘存储资源整合而带来的大容量、高弹性的存储资源池。

 

03 协同存储核心模块

 

协同存储采用了典型的云边协同架构,其核心包含中心管控与边缘节点两部分,其中,中心管控包含以下管理模块:

1.元数据管理:汇聚全网的元数据进行统一管理,与文件读写调度、文件生命周期等联动;

2.资源调度:负责逻辑存储桶与物理存储桶的映射关系管理,根据节点状态、水位进行全局资源动态规划;

3.读写调度:根据用户地理位置、所需资源量、文件分布等因素进行全局文件读写调度;

4.多点数据协同:对节点数据进行跨节点复制或数据迁移,提高整体服务可用性;

边缘节点包含以下管理模块:

1.节点网关:提供节点文件读写服务,如存储协议兼容、http/ https访问支持、动态配置、跨域管理、流控、日志监控等。

2.边缘管控

  • 与中心管控协同完成完整的管控逻辑,同时在节点范围内具备一定的边缘自治能力;
  • 负责节点内存储管理、跨节点数据复制/迁移等操作;
  • 负责节点内多引擎容灾。

3.存储引擎:提供基础的存储能力(文件读写等)以及文件容灾能力(EC、三副本等)。

04协同存储的关键技术

 

基于边缘节点构建的位置无感分布式协同存储,关键技术在于以下几点:

1.节点统一纳管与调度

 对用户而言,和边缘云只有一个交互面,协同存储将多个物理节点抽象为一个逻辑节点,通过全网资源的统一纳管,进行多维度的协同调度,过程中会综合地理位置、节点带宽、存储空间、设备亲和性等众多因素,从而实现服务的高可用以及数据的就近存取,同时,协同存储提供了灵活的接入和调度策略供业务按需使用(全国、区域、运营商、单节点、自定义节点范围)。

2.文件读写调度

协同存储物理文件存储在边缘节点,存储空间、文件元信息等汇聚到中心,进行统一的管理和检索。

使用方式上,文件写入和读取均可采用302调度方式,写入统一域名,协同存储经过地理位置、节点水位等综合调度后,将请求跳转到真实的物理节点进行读写,用户无需关心终端所在位置,即可快速就近、低延迟接入。

3.实时的节点状态和容量监测

协同存储会对单个节点进行实时状态与水位检测,当单点不可写时,会自动将请求迁移到其他节点,完成服务无感漂移和切换,单点恢复后快速复制同步。

4.跨节点多副本

为了应对节点割接、容灾等场景,协同存储提供了跨节点多副本的冗余能力,将数据进行节点间错峰同步。当单点不可用时,协同存储会进行流量的快速转移,同时也可以在访问量大时进行多节点读负载均衡,整个过程用户无感知。

 

5.边缘统一的存储访问网关

在整体架构上,协同存储通过边缘统一网关进行异构资源的适配,不管是从API、SDK还是授权体系,完全兼容现有的使用方式,这对于海量的数据源来说,只需要简单配置,便可以快速将数据上传到协同存储,从而确保给用户云边一体化的使用体验,同时去除了Region概念,直接采用了统一的域名接入和管理方式,真正实现了只上一朵云、只存一朵云。

目前协同存储已经在众多场景下落地,典型的如监控设备的截图/录像上传、车载场景的数据就近写入等。未来,我们将与边缘算力进行更加紧密结合,助力网、算、存一体化的边缘计算体系发展。协同存储的演进,必将为边缘更多场景的落地提供有力支撑,为边缘计算带来更多的可能性。


http://www.niftyadmin.cn/n/151640.html

相关文章

STL初识

1. STL的诞生长久以来,软件界一直希望建立一种可重复利用的东西C的面向对象和泛型编程思想,目的就是复用性的提升大多情况下,数据结构和算法都未能有一套标准,导致被迫从事大量重复工作为了建立数据结构和算法的一套标准诞生了STL2.STL基本概…

安卓数据丢失拯救工具:9个最好的安卓数据恢复软件

我们的电话随身携带。我们抓住他们拍一张快速照片,发送一条消息,并保持娱乐。有时我们对它们过于冒险,将它们掉在混凝土上或水中,安装我们不应该拥有的软件,然后将它们留在电影院或公园长椅上。 如果您要在任何地方丢…

Rabbitmq 学习

定义 RabbitMQ 是实现 AMQP(高级消息队列协议)的消息中间件的一种,最初起源于金融系统,用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。 RabbitMQ 主要是为了实现系统之间的双向解耦而实…

Word自动化办公 python-docx

Word自动化办公 python-docx 目录 文章目录**Word自动化办公 python-docx****1.字体大小参照****2.python-docx 模块****3.读取和保存word****4.查询段落****5.增减段落****5.1.文档末尾添加段落****5.2.添加带有样式的段落****5.3.修改已有段落样式:****5.4.在某一…

Flask的学习笔记1

1、Flask轻量级的后端框架。 1)flask路由;(匹配URL) 2)request对象;abort函数; 3)模板:前端中要用的一些东西; 4)flask数据库;fla…

C语言/动态内存管理函数

C程序运行时,内存将被划分为三个区域,而动态开辟的内存区间位于堆区。 文章目录 前言 一、内存划分 二、malloc函数 三、calloc函数 四、realloc函数 五、free函数 总结 前言 在使用C语言编写程序时,使用动态内存是不可避免的&#x…

Http请求-RestTemplate

概述 RestTemplate是从 Spring3.0 开始支持的一个 HTTP 请求工具,它提供了常见的REST请求方案的模版,例如 GET 请求、POST 请求、PUT 请求、DELETE 请求以及一些通用的请求执行方法 exchange 以及 execute。 getForObject:Retrieves a repr…

CCI:大数据量化告诉你,这个指标大家都用错了!

授人以鱼,不如授人以渔。本专栏不做任何直接投资建议,仅做量化技术研究和探讨! 强烈推荐看到最后,实战告诉你为什么CCI最流行的用法是错误的! 作为散户,我们能获取的只有公开信息,这使得我们天然就落后于机构、大户和内幕狗。 那么我们可以利用公开信息来提升投资表现…