日日摸日日碰夜夜爽无码 单个神经元也能完了DNN功能,图像分类任务准确率可达98%,登上Nature子刊
国产精品2020观看久久 首页 国产精品2020观看久久 中文字幕久久久久久精 久久亚洲日韩看片无码 人人色人好色人人操
  • 首页
  • 国产精品2020观看久久
  • 中文字幕久久久久久精
  • 久久亚洲日韩看片无码
  • 人人色人好色人人操
  • conew_1.jpg
    conew_2.jpg
    conew_3.jpg
    conew_4.jpg
    conew_5.jpg
    conew_6.jpg
    日日摸日日碰夜夜爽无码 单个神经元也能完了DNN功能,图像分类任务准确率可达98%,登上Nature子刊
    发布日期:2022-04-30 08:32    点击次数:113

    人工神经聚集的至极是一个神经元?

    ——没准儿还真有可能。

    现时,最先进的 AI 系统通过创建多层神经聚集来效法人类大脑,旨在将尽可能多的神经元塞进尽可能小的空间。

    可惜,这么的瞎想需要消费大量的电力等资源,而产生的输出搁置与宏大且"节能"的人脑比起来小巫见大巫。

    最近,柏林工业大学的询查小组提供了一个新思绪:把随心大小的深度神经聚集折叠成单神经元,这个神经元具有多个延时反映回路。

    对于询查遵守的论文发布于 Nature 子刊。

    这个"单个神经元的 AI 大脑"倡导的建议,无疑给神经聚集的发展指明了一个新地点。

    底下就来望望这是一项奈何的询查吧!

    具体设施

    询查团队瞎想了一种多层前馈深度学习神经聚集的透顶时分折叠的设施(Fit-DNN)。

    Fit-DNN 的出身主要受到" folded- in-time "倡导的启发,即:使用单一的蔓延环路竖立和输入数据的时分复用来模拟环形拓扑结构。

    传统的深度神经聚集由多层神经元构成,夙昔馈结构耦合。

    红星资本局注意到,近日,信用中国披露了一则无锡英皇集生物科技有限公司(下称"英皇集科技")的行政处罚信息。

    此外,全国地表水优良水质断面比例为 84.9%,同比上升 1.5 个百分点;劣Ⅴ类水质断面比例为 1.2%,均达到年度水质目标要求。

    截止 2 月 21 日,北交所上市公司家数达到 84 家,总股本 123.49 亿股,总市值 2304.08 亿元,成交金额达 13.16 亿元。如果加上已经通过审核但尚未上市的威贸电子、泓禧科技、凯德石英和路斯股份,北交所上市公司即将扩容至 88 家。

    从昨晚开始,瑶山乡又迎来了新一轮的大雪纷飞,今早起来一看,三四十亩蔬菜基地又已经被白雪覆盖。

    这是一位 17 年乳癌患者对杭州桐君堂国医馆的王绪鳌主任中医师的评价。

    本次雪碧全新的商标设计,简洁大方,更具辨识度,帮助消费者更快区分不同系列产品,满足不同需求,其中值得一提的是:雪碧无糖系列将全部使用标志性的黑色商标。

    2021 年末 , 全省常住人口为 6540 万人,与 2020 年末常住人口 6468 万人相比,增加 72 万人。

    实习生 孙奕慧 摄

    要是用一个神经元来完了传统 DNN 的功能,需要保留各层的逻辑限定,同期找到一种设施来限定化层内的操作。

    这只可通过在时分上分割夙昔同期进行的经过来完了:单个神经元在正确的时分接收正确的输入,国产超碰人人爽人人做按序模拟每一层的各个神经元。

    传统的相邻层之间的连合,革新成单个神经元在不同时代的连合,即:层间连合变成了蔓延连合。

    在不同时代对统一神经元进行不同的加权,权重由反向传播算法细目。

    这雷同于单个来宾通过快速切换座位并说出每个部分,来模拟大型餐桌上的对话。

    Fit-DNN 的中枢由一个具有多个蔓延和调制反映的单一神经元构成,上图展示了其结构:

    标着字母 f 的玄色圆代表神经元,它在 t 时的信号为 x ( t ) ;这个信号是数据 J ( t ) 、偏移量 b ( t ) 和反映信号之和。

    可诊疗的元素用方块示意:数据信号由输入向量 u 产生,蓝色方块中的矩阵包含输入权重。偏置扫数产生灰色方块中的偏置信号。每个反映环路完了一个蔓延和一个时分调制,来产生反映信号。

    终末,使用输出权重矩阵从信号 x ( t ) 中赢得输出。

    小心,为了赢得数据信号 J ( t ) 和输出,需要进行稳健的预处理或操作后处理。

    与传统多层层经聚集的等效性

    单神经元的 Fit-DNN 在功能上真是可以等同于多层神经聚集吗?

    如下图所示,Fit-DNN 可以将具有多个蔓延环的单个神经元的动态性攻击为 DNN。

    图 a 展示了信号 x ( t ) 的时分演化可以分为长度为 T 的时分拆开,每个拆开模拟一个荫藏层;实线上的斑点示意节点,θ 代表节点隔离值。

    图 b 示意原始的时分轨迹被切割成长度为 T 的区间,在各区间内,久久亚洲日韩看片无码节点凭证其聚集位置被象征。

    图 c 由图 b 的旋转所得,在此基础上增多了一个输入和一个输出层。

    这些连合是由节点之间的动态依赖干系决定的,这些依赖干系可以凭证 θ 的值精准瞎想。

    当节点隔离值 θ 较大时,聚集节点之间将酿锻炼悉的多层 DNN 时局。

    不外,当节点隔离值 θ 较小时,每个节点的景象都依赖于前一个节点,而不是透顶独处。这些稀少的 "惯性 "连合在图 c 顶用玄色箭头示意。

    天然询查者们用 D = 2N - 1 蔓延环路规复了一个全连合的 DNN,但模拟测试标明,这并不透顶合适要求。

    内容上,用更少的蔓延环路就可以赢得充足的性能。在这种情况下,Fit-DNN 将完了一种特别类型的稀零 DNNs。

    可见,在一定条件下,Fit-DNN 可以透顶规复一个莫得卷积层的样式 DNN,此时,它的性能与多层 DNN 通常。

    单神经元的 Fit-DNN 将前馈多层神经聚集的拓扑复杂性,通过蔓延环结构折叠到时域。

    这个蔓延系统自己就领有一个无穷大的相空间,因此,惟有有一个带反映的神经元就足以折叠通盘聚集。

    Fit-DNN 的瞎想机视觉功能测试

    询查人员使用 Fit-DNN 进行图像降噪,即:从噪声版块中重建原始图像。

    他们把强度为 1 的高斯噪声加入 Fashion-MNIST 数据集的图像中,并将高斯噪声视为值在 0(白色)和 1(玄色)之间的向量。

    然后截断阈值 0 和 1 处剪切所得的向量条件,以赢得有噪声的灰度图像。

    如上图所示,a 行包含来自 Fashion-MNIST 数据集的原始图像;b 行为带有稀少高斯噪声的通常图像,这些噪声图像动作磨练系统的输入数据。c 行示意赢得的原始图像的重建搁置。

    可见,Fit-DNN 的图像规复效果可以。

    不外 Fit-DNN 信得过的问题是,时分轮回的单个神经元是否能产生与数十亿个神经元通常的输出。

    为了证明 Fit-DNN 和时分景象下的瞎想能力,询查人员选了五个图像分类任务:MNIST40、Fashion-MNIST41、CIFAR-10、CIFAR-100,以及 SVHN。

    践诺对比了荫藏层的节点数不同期(N=50,100,200,400),Fit-DNN 在上述任务中的阐扬。

    甩腕示意,对于相对浅易的 MNIST 和 Fashion-MNIST 任务,单个神经元取得了很高的准确率。

    但对于更具挑战性的 CIFAR-10、CIFAR-100 和 SVHN 任务,单个神经元的准确率较低。

    值得小心的是,这里的 Fit-DNN 只使用了权重矩阵可用对角线的一半。要是增多节点的个数 N,将有用地进步性能。

    询查团队

    论文的通信作家是 Serhiy Yanchuk,他在柏林工业大学先后担任过询查员、客座阐明,当今任德国最大国度基金处置组织 DFG 项运筹帷幄首席询查员。

    Ingo Fischer 是论文的共同作家之一。他取得了菲利普斯 · 马尔堡大学赢得半导体物理限制博士学位,后在欧洲多国的大学中担任工程和物理学的博士后询查员、助理阐明和全职阐明。

    经典的多层神经聚集,如火爆人人的 GPT-3,当今已有 750 亿个参数,比其前身 GPT-2 的参数目要多 100 倍。

    据臆度,只是磨练一次 GPT-3 就需要十分于丹麦 126 个家庭一年使用的电力,冒昧约便是开车来往一次月球的耗能。

    柏林团队的询查人员以为,Fit-DNN 可以抵抗磨练宏大神经聚集所需动力本钱的飞腾。

    科学家们笃信,跟着时期的发展,该系统可以彭胀到从悬浮在时分中的神经元创建 "无穷数目的 "神经元连合。

    感有趣的读者可以戳底下的畅达连续深化了解。

    论文畅达:

    https://www.nature.com/articles/s41467-021-25427-4.pdf

    参考畅达:

    https://thenextweb.com/news/how-ai-brain-with-only-one-neuron-could-surpass-humans日日摸日日碰夜夜爽无码



    上一篇:日日摸日日碰夜夜爽无码 一子披缁万人效法,网易腾讯齐下场,却依然很难收效的游戏?
    下一篇:大香伊蕉国产www “固收+”基金最强“神助攻”来了!进可攻退可守 来岁可转债到底该奈何玩?