我要投搞

标签云

收藏小站

爱尚经典语录、名言、句子、散文、日志、唯美图片

当前位置:多盈娱乐注册 > 多带图灵机 >

Edge Intelligence:边缘计算与人工智能的结合

归档日期:08-11       文本归类:多带图灵机      文章编辑:爱尚语录

  边缘智能的研究仍处于起步阶段,计算机系统和人工智能社区都迫切需要一个专门的地方来交流边缘智能的最新进展。为了这个目的,本文对边缘智能的最新研究成果进行了全面调查。首先回顾了在网络边缘运行的人工智能应用程序的背景和动机,然后提供了一个在网络边缘的深度学习模型训练/推理的总体架构、框架和出现的关键技术,最终,讨论了在边缘智能上未来的研究机遇。

  边缘节点的大小可以不同,从信用卡大小的计算机到带有多个服务器机架的微型数据中心,边缘计算强调的最重要特征是物理上接近信息生成源。从本质上讲,与传统的基于云的计算方式相比,在计算和信息生成源的物理接近性带来了几个好处,包括低延迟、能量高效、隐私保护、带宽占用减少、及时性和环境敏感性。

  卷积神经网络(CNN):CNN通常应用于计算机视觉方向,给定一系列来自真实世界的图像或视频,在CNN的利用下,AI系统学会去自动提取这些输入的特征来完成一个特定任务,如图像分类、人脸识别、图像语义分割。

  循环神经网络(RNN):对于顺序性输入数据,RNNs被提出来解决时间序列问题。RNN的输入由当前输入和先前样本组成。一个RNN的每个神经元拥有一个内存来保存先前样本计算信息。RNN的训练过程基于随时间的反向传播方法(BPTT),长短期记忆(LSTM)是RNNs的一个扩展版本。LSTM的每个神经元被称作记忆单元,其包括一个乘法遗忘门、输入门和输出门。这些门被用来控制对记忆单元的访问。这些门是不同的神经网络,用来决定哪些信息在这个记忆门中被允许。由于其具有处理输入长度不固定的数据优势,循环神经网络已经被广泛应用于自然语言处理。

  生成对抗网络(GAN):GANs有两个主要成分组成,被命名为生成网络和鉴别网络。生成器主要负责在从真实数据的训练集中学习数据分布后,来生成新数据。鉴别器则主要负责将真实数据和从生成器中生成的虚假数据进行分类。GAN通常被应用于图像生成、转换、组合、分辨和其他应用程序中。

  深度强化学习(DRL):DRL由DNNs和强化学习(RL)组成,DRL的目标在于建立一个智能agent,来执行有效的策略去最大化带有控制动作的长期任务奖赏。DRL的典型应用是去解决不同的调度问题,例如游戏中的决策问题,视频传输的比例选择等。在DRL方法中,强化学习从来自环境的状态函数中寻找动作的最优策略,DNN则负责表示大量状态并近似动作值,来评估得到状态下的动作质量。奖赏是一个函数,用来表示预定义环境和一个动作性能的距离。通过连续的学习,DRL模型的agent可以被用来处理不同的任务。

  边缘智能的动机和好处:(1)网络边缘产生的数据需要AI来完全释放它们的潜能;(2)边缘计算能够蓬勃发展具有更丰富的数据和应用场景的人工智能;(3)人工智能普遍化需要边缘计算作为关键基础设施;(4)边缘计算可以通过人工智能应用来推广。

  边缘智能的范围:我们认为边缘智能应该是充分利用终端设备、边缘节点和云数据中心层次结构中可用数据和资源的范例,从而优化DNN模型的整体训练和推理性能。这表明边缘智能并不一定意味着DNN模型完全在边缘训练或推理,而是可以通过数据卸载以cloud-edge-device协作的方式来工作。

  边缘智能的等级:根据数据卸载的数量和路径长度,我们将边缘智能分成6个等级。云智能(完全在云中训练和推理DNN模型)、Level-1(Cloud-Edge协作推理和Cloud训练)、Level-2(In-Edge协作推理和Cloud训练)、Level-3(On-Device推理和Cloud训练)、Level-4(Cloud-Edge协作训练和推理)、Level-5(In-Edge训练和推理)、Level-6(On-Device训练和推理)。当边缘智能的等级越高,数据卸载的数量和路径长度会减少,其传输延迟也会相应减少,数据隐私性增加,网络带宽成本减少。然而,这是通过增加计算延迟和能耗的代价来实现的。

  架构:在边缘的分布式DNN训练架构可以被分成三个模块,集中式,分散式,混合式(Cloud-Edge-Device)。(1)集中式:DNN模型在Cloud数据中心训练;(2)分散式:每个计算节点使用它的本地数据在本地训练它自己的DNN模型,并通过共享本地训练更新来获得全局DNN模型;(3)混合式:结合了集中式和分散式模块,边缘服务器可以通过分散式更新来训练DNN模型,或者使用云数据中心来集中式训练。

  关键性能指标:(1)Training Loss(训练损失):表示训练好的DNN模型与训练数据的匹配度;(2)Convergence(收敛):衡量一个分散方法是否以及多快能收敛到这样的共识;(3)Privacy(隐私性):是否实行隐私保护取决于原始数据是否被卸载到边缘;(4)Communication Cost(通信成本):其被原始输入数据大小、传输方式和可用带宽所影响;(5)Latency(延迟):由计算延迟和通信延迟组成,计算延迟依赖于边缘节点的性能,通信延迟可能因传输的原始或中间数据大小以及网络连接带宽而异;(6)Energy Efficiency(能源效率):其主要被目标训练模型和使用设备的资源所影响。

  支持技术:(1)Federated Learning(联邦学习):优化隐私问题,通过聚合本地计算更新来在服务器上训练共享模型;(2)Aggregation Frequency Control(聚合频率控制):在给定资源预算下,确定本地更新和全局参数聚合之间的最佳权衡;(3)Gradient Compression(梯度压缩):梯度量化(通过量化梯度向量的每一个元素到一个有限位低精度值)和梯度稀疏化(通过仅传输梯度向量的一些值);(4)DNN Splitting(DNN划分):选择一个划分点来尽可能减少延迟;(5)Knowledge Transfer Learning(知识迁移学习):首先基于一个基础的数据集和任务来训练一个基础网络,然后在一个目标数据集和任务中将学到的特征迁移到第二个目标网络进行训练;(6)Gossip Training(流言训练):多设备间随机流言通信,它是完全异步和分散的。

  已有系统和框架的总结:与以云为基础框架的DNN训练相比,以边缘为基础框架的DNN训练更关注于保护用户的隐私和更快地训练一个可用的深度学习模型。

  架构:我们进一步定义了几个主要的云集中推理架构,包括:(1)Edge-based(DNN模型推理在边缘服务器完成,预测结果将返回到设备中);(2)Device-based(移动设备从边缘服务器获取DNN模型,并在本地执行模型推理);(3)Edge-device(设备执行DNN模型到一个特定层后将中间数据发送到边缘服务器,边缘服务器将执行剩余层并将预测结果发送到设备上);(4)Edge-cloud(设备主要负责输入数据收集,DNN模型则在边缘和云上执行)。

  关键性能指标:(1)Latency(延迟):整个推理过程中所占时间,包括预处理、模型推理、数据传输和后处理;(2)Accuracy(精度):从推理中获得的正确预测输入样本数量和总输入样本数量的比值;(3)Energy(能量):能量效率被DNN模型大小和边缘设备资源所影响;(4)Privacy(隐私):其依赖于处理原始数据的方式;(5)Communication overhead(通信开销):其依赖于DNN推理方式和可用带宽;(6)Memory Footprint(内存占用):其主要被原始DNN模型大小和加载大量DNN参数的方法所影响。

  支持技术:(1)Model Compression(模型压缩):权重剪枝和量化,来减少内存和计算;(2)Model Partition(模型划分):计算卸载到边缘服务器或移动设备,延迟和能量优化;(3)Model Early-Exit(模型前期退出):部分DNNs模型推理;(4)Edge Caching(边缘缓存):对相同任务先前结果重用的快速响应;(5)Input Filtering(输入过滤):输入差异检测;(6)Model Selection(模型选择):输入优化和精度感知;(7)Support for Multi-Tenancy(多租用支持):多个基于DNN的任务调度和资源高效性;(8)Application-specific Optimization(特殊应用程序优化):对特定的基于DNN的应用程序进行优化。

  已有系统和框架的总结:为了使一般边缘智能系统的整体性能最大化,综合的可用技术和不同优化方法应当以协作的方式工作,以提供丰富的设计灵活性。

  编程及软件平台:当越来越多AI驱动的计算密集型移动和物联网应用程序出现后,边缘智能作为一个服务(EIaaS)可以成为一个普遍范式,具有强大边缘AI功能的EI平台将会被发展和部署。EIaaS更多关注于如何在资源限制型和隐私敏感型的边缘计算环境中执行模型训练和推理任务。另外,应该进一步研究轻量级虚拟化和计算技术,如容器和函数计算,以便在资源受限的边缘环境中高效部署和迁移EI服务。

  资源友好型边缘AI模型设计:大部分基于AI模型的深度学习都是高度资源紧张型的,这意味着丰富的硬件资源所支持的强大计算能力是这些AI模型性能的重要提升。因此,有很多研究利用模型压缩技术(如权重剪枝)来调整AI模型的大小,使它们对边缘部署更加资源友好。

  计算感知网络技术:非常需要计算感知性的先进网络解决方案,以便于计算结果和数据能够有效地跨不同边缘节点被共享。计算感知的通信技术开始获得关注,例如梯度编码在分布式学习中缓解离散效应,分布式随机梯度下降的空中计算,这些都对于边缘AI模型训练加速是有用的。

  智能服务和资源管理:设计高效的服务发现协议是非常重要的,这样用户可以识别和定位相关的EI服务提供者,从而及时满足他们的需求。另外,为了充分利用跨边缘节点和设备的分散资源,将复杂的边缘AI模型划分成小的的子任务和有效地在边缘节点和设备中卸载这些任务,以实现协同执行是关键的。

  近日,阿里云IoT边缘计算产品LinkEdge正式公测。LinkEdge将阿里云的计算能力扩展至边缘,在离设备最近的位置执行计算,提供安全可靠、低延时、低成本、易扩展的本地计算服务,能够大大提升处理效...博文来自:199it

  来源:中国电子技术标准化研究院、阿里云摘要:《边缘云计算技术与标准化白皮书》近期发布,定义了边缘云计算的概念和标准等。中心云和边缘云相互配合,实现中心-边缘协同、全网算力......博文来自:人工智能学家

  文章目录边缘计算简介边缘计算的起源嵌入式系统与边缘计算3.1嵌入式系统概述3.2嵌入式系统的发展历史3.3嵌入式系统应用到边缘计算3.4嵌入式硬件的要求3.5边缘计算环境下嵌入式系统与人工智能观点与看...博文来自:徐奕的专栏

  总的来说:有一台设备作为边缘计算中心的终端,各种设备的数据通过不同的协议传输到这台设备上,根据云端的配置情况对数据进行处理,执行指定的动作,然后把各种设备的数据以及计算结果上传到云端官方文档:http...博文来自:马儿不吃草

  华为KubeEdge在边缘计算的实践摘要1介绍2相关工作3架构和设计3.1KubeBus3.1.1EdgeNodeVPN3.1.2将边缘节点VPN与容器网络连接3.1.3多租户管理/数据平面和服务发布...博文来自:小小呆的博客

  区块链和边缘计算——物联网的新形态?相信最近不少读者都听过这样的一个命题:区块链与边缘计算的结合。初次接触这个命题的读者,可能会有这些疑问:边缘计算是什么?和区块链怎么结合?两者结合有什么不足?将对哪...博文来自:圆方圆学院的博客

  Edge Computing – EDGE 2018,国际边缘计算会议论文集。

  Artificial Intelligence:A Modern Approach人工智能:一种现代方法【第三版 英文版】

  创建强大的人工智能是对游戏开发人员的最大挑战之一,但一个商业游戏的成功往往是取决于人工智能上的优劣。在本书中,伊恩·米灵顿为如何改善游戏中人工智能的水平引入了丰富的专业经验。他通过真实的游戏的例子来描述人工智能,并通过详细的案例学习来探究...

  点击篮字关注我们    目前,市场上存在的边缘计算相关概念包括雾计算、边缘计算、多接入边缘计算/移动边缘计算、移动云计算等概念。这是边缘计算的第三篇,主要讲的内容......博文来自:大数据和云计算技术

  第四课开始,我们开始学习卷积神经网络。1.1计算机视觉(computervision)深度学习在计算机视觉方面的应用非常振奋人心,一方面是该应用使许多不可能变成了可能,另一方面是深度学习在计算机视觉方...博文来自:kkkkkiko的博客

  作者DeepakBoppana译者ZhiyongLiu编辑NatalieAI前线导读:今天,科技发展如盛壮之时的骐骥,一日而驰千里。物联网方兴未艾,智能边缘计算就这样以迅雷不及掩耳之势到来了。有...博文来自:weixin_33832340的博客

  前言:2017年12月21日,在葡萄牙里斯本举行的3GPPRAN第78次全会上,来自通信全产业链企业的近300位代表,一致通过了5G-NR的首发版标准,亲历和见证了无线蜂窝通信产业发展的历史性时刻。5...博文来自:威客方案

  2019 年边缘计算备受产业关注,一度引起了资本市场的投资热潮,很多人把 2019 年称作边缘计算的元年。理性来看,造成如此火爆局势难免有一些炒作因素在推波助澜,毕竟边缘计算的概念存世也已多年。当然,毋庸置疑的是,工业互联网的大力推动、 ...

  澳大利亚国立大学的Marcus Hutter在本书中介绍了一种通用人工智能(即强人工智能)理论的数学模型“AIXI”。虽然这一模型是图灵机无法计算的,但从中我们可以得到一些关于如何开发真正可以运行的通用人工智能算法的启发。

  互联网是什么?可以在上面卖东西,催生出全球最大规模的购物节……人工智能是什么?是一台可以轻松赢下人类顶尖棋手的电脑……物联网是什么?是一张目前为止全球最大的网,它包罗万象,大到电信基站,小到智能手机,...博文

  自古以来,人类就想根据认识水平和当时的技术条件,用机器来代替人的一些体力劳动,从而提高征服自然的能力。公元850年,古希腊就有制造机器人帮助人们劳动的神线多年,也有歌舞机器人传...博文来自:weixin_43092451的博客

  用AI赋能Predix边缘计算平台随着越来越多的智能终端设备联网,同时由于高昂的传输成本和较高的响应延时等问题,高德纳(Gartner)公司预计到2022年,工业企业中75%的数据将会在云端外产生并且...博文来自:PredixCN的博客

  持有BTM的相信最近都乐开了花。主网上线、矿池支持、交易所不断增加等利好连番轰炸,币价也连番上涨。除此之外,我觉得有个信息需要重点解读,就是边缘计算。这个概念与BTM人工智能挖矿算法Tensority...博文来自:weixin_33755554的博客

  这里主要讲如何得到一幅图像的边缘直方图边缘直方图描述符是MPEG-7中的一个纹理描述符,常用与图像检索。大致过程:图像划分---gt;计算子图边缘直方图---gt;归一化---&a...博文来自:saw009的博客

  五年之后的无人驾驶汽车,你并不会希望云端的数据来踩刹车。当众多行业向数字化迈进,我们的存储、计算都越来越依赖于云端,云端成为构筑信息社会的枢纽。不过,一股来自产业界和学术界的合力,也正在尝试在云计算产...博文来自:Enweitech Software Works

  Edge边缘服务器SRS的Edge提供访问时回源机制,在CDN/VDN等流众多的应用场景中有重大意义,forward/ingest方案会造成大量带宽浪费。同时,SRS的Edge能对接所有的RTMP源站...博文来自:的博客

  导读      以下是一批边缘计算学习资料,其中一些是由OpenStack Superuser推荐的,不可错过!2017年,边缘计算是云计算领域最热门的话题之一。在SDxCentral的报告中,87%...博文来自:开源云中文社区

  云计算与边缘计算区别大了,统统告诉你!如今,几乎每个围绕数字化转型或物联网(IoT)的每一次行业对话,都倾向于讨论应用程序的托管位置。有些人可能会说,“云计算通常被认为是一个很好的选择,只需将所有数据...博文来自:金色的小蜜蜂

  大数据云计算物联网人工智能四者的联系,是一个ppt文档,描述了四者的两两之间的联系,图文并茂

  的本质与未来》作者: [英]玛格丽特·博登(Margaret A. Boden)译者: 孙诗惠

  ·人工智能并不是一个新鲜的概念,自提出到现在已经有半个多世纪的时间,期间经过了跌宕起伏的发展历程。 ·作者从专业的角度,深入浅出,梳理了人工智能发展的历程,其经历的不同阶段概况,如今最前沿的发展现状以及面临的困境,并探讨了其未来发展的可能...

  sre集群的方式有两种一种是forword类型的。一种是edge-origin类型的。后者比前者要复杂的多。就从比较难的开始分析。有实现edge,首先得在配置文件中做配置。配置方式如下这个配置里配置了...博文来自:ddr77的专栏

  3月28日,在2018云栖大会·深圳峰会上,阿里云宣布2018年将战略投入到边缘计算技术领域,并推出了首个IOT边缘计算产品LinkEdge,将阿里云在云计算、大数据、人工智能的优势拓宽到更靠近端的边...博文来自:weixin_34265814的博客

  目录一、贝叶斯网络朴素贝叶斯分类器二、决策树算法(ID-3)三、感知机算法(简单的神经网络)补充概念:Boostingk-近邻Boostingk-近邻(决定待分样本所属类别)一、贝...博文来自:雲的博客

  librahfacebook:[reply][/reply] 网络模型是已经训练好的,采用的Faster-RCNN模型,你可以参考一下网上的结构类型,行人密度计数是根据所绘制的计数区域来计算一段时间内所经过的人数统计,另外的一些程序是作为实验测试比对的。

  :[reply]librahfacebook[/reply] 您好,我研究了一下您的程序,您的图像预处理用了灰度处理,背景建模是基于自适应混合高斯背景建模的背景减除法,用了Faster-RCNN和Meanshift对行人进行识别标记追踪,里面用的网络是已经训练好的吗?卷积用了几层?然后借助卡尔曼滤波预测,提高跟踪精度;多对象目标跟踪器实现对多个目标进行跟踪,这个行人密度计数是通过追踪进出选择区域的行人来进行计数的吗? 问题有点儿多,感谢您!

  librahfacebook:[reply][/reply] 没有,所用到的有目标识别算法以及分类算法,从视频帧中将多个行人进行标记来计算人流量密度

  :您好,请问这个程序里有用到人群密度估计算法吗?如果用到用的是什么呀?因为我看好像大部分是在检测追踪。谢谢!

本文链接:http://cakesbyrita.net/duodaitulingji/1156.html