杜集| 叶城| 永兴| 乡宁| 屯留| 楚州| 长顺| 达坂城| 优德w88 manbetx登陆 临澧| dafa888t娱乐场经典版 拜城| 项城| 罗甸| fun78 黄岩| 丰宁| 南平| betway88 津市| 囊谦| 亚洲城官方网站 龙泉驿| BR88 ca888亚洲城唯一官方 昌江| opebet体育 延川| 四子王旗| 平塘| 沿滩| fun88 bifa88 元阳| 沁源| 资阳| br88ap 成武| 沅陵| 南溪| 东胜| 上饶市| 滦平| betway必威 腾冲| 永兴| bwin体育 冠亚娱乐 黔江| 康县| 商丘| 玉屏| 大庆| 优德888 东乡| 优德888 宝坻| 赵县| app.1manbetx.com 皮山| 韦德1946 万博manbetx官网 休宁| 汝城| 克东| 临汾| 手机博彩用什么浏览器 伊春| 宜丰| manbetx注册 3344555 丘北| 浏阳| 海伦| br88ap 茂港| 长宁| 眉县| br88冠亚 冠亚娱乐 景洪| 平鲁| 电白| 自贡| betway 大发888游戏 嵊州| 甘谷| 临猗| 黄山市| 万安| 阎良| 津市| 郴州| 化隆| 古田| 盘山| opebet体育 会昌| 盐城| 柯坪| 无为| 龙凤| 朝天| 方山| 龙川| manbetx登录 兴安| br88冠亚 九江县| dafa888bet 株洲县| 维西| 渠县| betway 眉山| 费县| 潼南| 万博体育manbetx 天全| 原平| 大奖彩票 大理| 北川| 鞍山| 清河| ca88.com会员中心 dafa888 侯马| w88 吉水| 石嘴山| 平阴| 上高| 新万博体育 宾川| 庄浪| 武鸣| 优德w88 宜章| bwin娱乐 古县| betway必威 奇台| manbetx万博 桓台| 新余| 巴林左旗| 榆林| manbetx体育 循化| 托克托| 环江| w88 阿克塞| 西平| betway 宝清| 敦煌| 华池| 广昌| 敦化| 滨海| 万博manbetx manbetx客户端 绥滨| 裕民| 博管理 江永| 灵石| 万博体育 莎车| 宁津| BR88 洛浦| 在线大发888 布拖| 隆尧| 宣威| 积石山| 定陶| 怀宁| bf88必发 静宁| 万博体育max manbetx体育 dafa888 洱源| 诸城| 天长| 华蓥| 望城| 冠亚娱乐 东至| 金门| vipdafa888asia 林州| 金山| br88 郏县| 大发888游戏 万博app苹果版下载 狗万买球下载 延安| 临颍| 巴塘| dafa888casino 大发dafa888 岚皋| 武当山| 来凤| 宁蒗| 循化| ca888亚洲城唯一官方 都匀| 大奖 阿城| 乐天堂fun88 bwin88 石景山| 甘谷| ca88亚洲城手机版 万博manbet官网 汤阴| ag游戏下载 白城| 礼县| 巫山| 昭苏| 濉溪| 万博2.0苹果下载 阿瓦提| 大奖88 友谊| 兰西| 彭水| 盘锦| 新平| 侯马| betway体育 大奖网站 br88ap bv1946 betway88 冠亚br88 抚顺县| br88 延吉| 南山| 盈江| 茶陵| 井研| 蕲春| 万博manbetx 潍坊| 都昌| 洋县| 凌海| 新田| 百喜88 奉节| 狗万manbet opebeta 黑山| ag国际娱乐平台 塘沽| 单县| 曲江| 来宾| 井研| 富顺| 九州娱乐官方网站 上高| w88top ca88 绥宁| 兴山| 新化| 西固| 大发快3 绥棱| BR88 南雄| 冠亚娱乐 乐天堂 冠亚彩票 weide 蔡甸| 涉县| 狗万manbetx manbetx 优德娱乐 亚洲城玩什么 西吉| 三亚| 冠亚娱乐 德安| betway88 洛扎|

首座铜铟镓硒建筑光伏 一体化示范项目发电

2018-12-15 10:08 来源:中国日报网河南

  首座铜铟镓硒建筑光伏 一体化示范项目发电

  大发888bet心理学讲“破窗效应”,指的是房子的第一扇窗户被打破,没有被制止,那么更多的窗户就会接着被打破。  从科学社会主义史视角看,自19世纪40年代马克思、恩格斯创立科学社会主义理论以来,它与当时的世界革命运动相结合,推动世界社会主义发展,并在第二次世界大战后形成了以苏联为首的强大社会主义阵营。

党的十九大报告进一步明确了它的思想内涵,人民是历史的创造者、全心全意为人民服务、贯彻党的群众路线,并且把这三者有机地结合起来,共同构成了“坚持以人民为中心”的主要内容。符合群众需要的逻辑顺序应该是,及时把人民群众的新实践、新经验、新创造,进行总结、提炼和升华,以“世情为鉴、国情为据、党情为要”进行“综合创新”,用马克思主义中国化最新成果应对新形势、解决新问题、指导新实践、开拓新境界。

  从2014年以来,一路创新发展的乌镇峰会,已成为中国与世界互联互通的国际平台和国际互联网共享共治的中国平台,让网络空间命运共同体更具生机活力。党的十八大以来,在以习近平同志为核心的党中央领导下,中国的改革开放再次提速,推动党和国家事业发生历史性变革,中国开始迈入“强起来”的新时代。

  对未来预期的回落直接影响到企业的投资意愿和用工意愿。  产业结构优化带来的资源重新配置能够提高全要素生产率。

习近平总书记指出,党内政治生活、政治生态、政治文化是相辅相成的,政治文化是政治生活的灵魂,对政治生态具有潜移默化的影响。

  在她看来,中国的经济转型不仅改变了国家的内部生活,也改变了整个全球经济。

  习近平总书记也反复叮嘱这一点:“中国共产党除了工人阶级和最广大人民群众的利益,没有自己特殊的利益”;“我们任何时候都必须把人民利益放在第一位”;“我们共产党人的最高利益和核心价值是全心全意为人民服务、诚心诚意为人民谋利益”,“决不可为个人或少数人谋私利”;“党的一切工作,必须以最广大人民根本利益为最高标准。这既会疏离马克思主义哲学的超越性品格,也难以为批判和引领现实生活提供一个理想坐标。

    习近平强调,要深化我军党的建设制度改革,贯彻新时代党的建设总要求,以党章为根本遵循,完善军队党的政治建设、思想建设、组织建设、作风建设、纪律建设制度,形成维护党中央权威和集中统一领导,确保党对军队绝对领导的我军党的建设制度。

  总之,“互联网+政府服务”重在坚持“以人民为中心”的发展理念,使政务处理更高效、更集约和更透明,同时,满足新时代背景下政府发展的需求与趋势。这可能会超出一时的物质利益追求,因此需要有追求长远利益的制度性的安排。

  但在一些企业,工人的技能水平等其他条件没有相应提升,反而导致投资回报率下降。

  大奖网站  为彻底批驳“亡国论”“速胜论”,毛泽东决定撰写一部关于抗战理论的著作,对全面抗战10个月来的战争经历和经验做个总结性的概括与解释,回应全国人民关于抗战前途、抗战策略、抗战方式的关切,从而指明抗日战争的前进方向。

  在“大门越开越大”的改革开放实践中,不断完善与发展中国特色社会主义制度,必须始终坚持中国共产党的领导,坚持社会主义方向,坚持全面深化改革,坚持推进理论创新,坚持借鉴吸收世界各国制度建设的有益成果。当前,由监管层出面,对金融市场的非理性预期和行为进行引导正当其时。

  BR88 3344444 冠亚彩票娱乐

  首座铜铟镓硒建筑光伏 一体化示范项目发电

 
责编:
炼数成金 门户 商业智能 深度学习 查看内容

首座铜铟镓硒建筑光伏 一体化示范项目发电

betway88   “扩大开放”充分体现了中国愿与世界合作共享的诚意。

2018-1-24 11:18| 发布者: 炼数成金_小数| 查看: 49997| 评论: 0|来自: 微软研究院AI头条

摘要: 以大家耳熟能详的卷积神经网络CNN 为例,可以感觉一下目前训练深度学习模型需要多少计算力。下方这张表列出了常见CNN模型处理一张图片需要的内存容量和浮点计算次数,譬如VGG-16网络处理一张图片就需要16Gflops。值 ...

网络 深度学习 硬件 GPU 芯片

首先,我们一起来开一个脑洞:想象一个最理想的深度学习引擎应该是什么样子的,或者说深度学习引擎的终极形态是什么?看看这会给深度学习框架和AI专用芯片研发带来什么启发。

以大家耳熟能详的卷积神经网络CNN 为例,可以感觉一下目前训练深度学习模型需要多少计算力。下方这张表列出了常见CNN模型处理一张图片需要的内存容量和浮点计算次数,譬如VGG-16网络处理一张图片就需要16Gflops。值得注意的是,基于ImageNet数据集训练CNN,数据集一共大约120万张图片,训练算法需要对这个数据集扫描100遍(epoch),这意味着10^18次浮点计算,即1exaFlops。简单演算一下可发现,基于一个主频为2.0GHz的CPU core来训练这样的模型需要好几年的时间。


下图列了几种最常使用的计算设备——CPU、 GPU、 TPU等。众所周知,现在GPU是深度学习领域应用最广的计算设备,TPU 据说比GPU 更加强大,不过目前只有Google 可以用。我们可以讨论下为什么CPU < GPU < TPU,以及存不存在比TPU更加强大的硬件设备。 主频为2GHz的单核CPU 只能串行执行指令,1秒可以执行数千万到数亿次操作。随着摩尔定律终结,人们通过在一个CPU上集成更多的核心来提高计算力,譬如一个CPU上集成20个计算核心(所谓多核,muti-core)可以把CPU计算能力提高几十倍。GPU 比多核更进一步,采用众核(many-core),在一个芯片上集成数千计算核心(core),尽管每个核心的主频要比CPU核心主频低(通常不到1GHz),并行度还是提升了百倍,而且访存带宽要比CPU高10倍以上,因此做稠密计算的吞吐率可以达到CPU的10倍乃至100倍。GPU 被诟病的一点是功耗太高,为解决这个问题,TPU 这样的专用AI芯片横空出世,专用芯片可以在相同的面积里集成更多深度学习需要的运算单元,甚至用专用电路实现某些特定运算使得完成同样计算需要的时间更短 。有比TPU更快的专用芯片吗? 肯定有,极端情况下,任给一个神经网络,都不计成本去专门实现一款芯片,一定比TPU这种用来支持最广泛神经网络类型的芯片要效率高得多。


专用硬件比通用硬件(如CPU、GPU)快,有多种原因,主要包括:(1)通用芯片一般经历“取指-译码-执行”(甚至包括“取数据”)的步骤才能完成一次运算,专用硬件大大减小了“取指-译码”等开销,数据到达即执行;(2)专用硬件控制电路复杂度低,可以在相同的面积下集成更多对运算有用的器件,可以在一个时钟周期内完成通用硬件需要数千上万个时钟周期才能完成的操作;(3)专用硬件和通用硬件内都支持流水线并行,硬件利用率高;(4)专用硬件片内带宽高,大部分数据在片内传输。显然,如果不考虑物理现实,不管什么神经网络,不管问题的规模有多大,都实现一套专用硬件是效率较高的做法。问题是,这行得通吗?

如果对任何一个神经网络都实现一套专用硬件,运行效率较高,可是开发效率不高,需求一变更(神经网络拓扑结构,层数,神经元个数),就需要重新设计电路,而硬件研发周期臭名昭著的长。这让人联想起冯诺依曼发明“存储程序”计算机之前的电子计算机(下图即第一台电子计算机ENIAC 的照片),计算机的功能通过硬连线(hard-wired)电路实现,要改变计算机的功能就需要重新组织器件间的连线,这种“编程”方式又慢又难以调试。

刚才设想的无限大的专用硬件显然面临几个现实问题:(1)芯片不可能无限大,必须考虑硬件制造工艺的限制(散热,时钟信号传播范围等);(2)硬连线的电路灵活性太差,改变功能需要重新连线;(3)改变连线后,流水线调度机制可能要做相应调整,才能较大化硬件利用率。因此,我们设想的“不计成本的”,“无限大的”专用硬件面临了严峻挑战,如何克服呢?

现实中,不管是通用硬件(如GPU)还是专用硬件(如TPU) 都可以通过高速互联技术连接在一起,通过软件协调多个设备来完成大规模计算。使用较先进的互联技术,设备和设备之间传输带宽可以达到100Gbps或者更多,这比设备内部带宽低上一两个数量级,不过幸好,如果软件“调配得当”,在这个带宽条件下也可能使得硬件计算饱和。当然,“调配得当”技术挑战极大,事实上,单个设备速度越快,越难把多个设备“调配得当”。

当前深度学习普遍采用随机梯度下降算法(SGD),一般一个GPU处理一小块儿数据只需要100毫秒的时间,那么问题的关键就成了,“调配”算法能否在100毫秒的时间内为GPU处理下一块数据做好准备,如果可以的话,那么GPU就会一直保持在运算状态,如果不可以,那么GPU就要间歇性的停顿,意味着设备利用率降低。理论上是可以的,有个叫运算强度(Arithmetic intensity)的概念,即flops per byte,表示一个字节的数据上发生的运算量,只要这个运算量足够大,意味着传输一个字节可以消耗足够多的计算量,那么即使设备间传输带宽低于设备内部带宽,也有可能使得设备处于满负荷状态。进一步,如果采用比GPU更快的设备,那么处理一块儿数据的时间就比100毫秒更低,譬如10毫秒,在给定的带宽条件下,“调配”算法能用10毫秒的时间为下一次计算做好准备吗?事实上,即使是使用不那么快(相对于TPU 等专用芯片)的GPU,当前主流的深度学习框架在某些场景(譬如模型并行)已经力不从心了。

一个通用的深度学习软件框架要能对任何给定的神经网络和可用资源都能较高效的“调配”硬件,这需要解决三个核心问题:(1)资源分配,包括计算核心,内存,传输带宽三种资源的分配,需要综合考虑局部性和负载均衡的问题;(2)生成正确的数据路由(相当于前文想象的专用硬件之间的连线问题);(3)高效的运行机制,完美协调数据搬运和计算,硬件利用率较高。

事实上,这三个问题都很挑战,本文暂不讨论其解法,假设我们能够解决这些问题的话,会有什么好处呢?

假设我们能解决前述的三个软件上的难题,那就能“鱼与熊掌兼得”:软件发挥灵活性,硬件发挥高效率,任给一个深度学习任务,用户不需要重新连线,就能享受那种“无限大专用硬件”的性能,何其美好。更令人激动的是,当这种软件得以实现时,专用硬件可以比现在所有AI芯片都更简单更高效。读者可以先想象一下怎么实现这种美好的前景。


让我们重申一下几个观点:(1)软件真的非常关键;(2)我们对宏观层次(设备和设备之间)的优化更感兴趣;(3)深度学习框架存在一个理想的实现,正如柏拉图心中那个最圆的圆,当然现有的深度学习框架还相距甚远;(4)各行各业的公司,只要有数据驱动的业务,最终都需要一个自己的“大脑”,这种“大脑”不应该只被少数巨头公司独享。

欢迎加入本站公开兴趣群
商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识
QQ群:81035754

相关阅读

最新评论

热门频道

  • 大数据
  • 商业智能
  • 量化投资
  • 科学探索
  • 创业

即将开课

 

GMT+8, 2018-12-15 18:18 , Processed in 0.157743 second(s), 24 queries .