Browse by Tags

Related Posts

Blog Post: 高性能计算系统栈的推倒和重建（二）专有机时期B

mingqxu

Speed beats beauty 并行机在专有机时代分两大阵营，共享内存和分布式内存结构。共享内存所提供的编程界面是非常优雅的。分布式内存机器的编程界面是基于消息传输库，不够优雅。串行程序的并行化相对容易的多，因为任何一个线程都可以访问到所有的数据，因此不需要对原来串行程序在结构上作大的改动。而为分布式内存机器写程序却不同，首先应用域的数据就要分块，每个进程不光需要本地数据，还要边界数据。在本地计算完后，还要和邻进程交换数据。程序结构上要做大改动。共享内存最大的缺陷是物理上的。是因为其扩展性差。当时80年代的处理机是很慢的了，可是到了32个就出现瓶颈。这无法能够满足美国能源部许多宏大挑战性问题...

on 7 Sep 2009
Blog Post: 高性能计算系统栈的推倒和重建（三）微处理机初期

mingqxu

望洋兴叹在专有机时代作并行计算的研究，你得会投“胎”。当时，全球科研的浪尖是在美国，能在Communications of ACM上发表论文的，都是美国大学的。用的HyperCube， Cray，Connection Machine 2 等大型机。而在英国，只有国产Transputer。更可悲的是，我所在的埃德塞特大学（Exeter University）, 我们当时只有四个transputer 节点。当时在英国，可以说是望着大西洋对岸的美国兴叹啊！我看美国人的论文的心情，就好比是一个穷人家的孩子偏偏喜欢上摄影，然后看着有钱人家的少爷拿着长焦、广角镜头，口水只能往里咽。 1993年...

on 3 Sep 2009
Blog Post: 高性能系统棧的推倒和重建(一)

mingqxu

作者简介徐明强博士现任微软中国研发集团服务器与开发工具事业部高性能计算资深架构师，领导 HPC 产品中的并行编程模型和运行时系统的设计与架构。徐明强博士拥有 21 年高性能计算领域专业经历，包括 8 年学术政府实验室的研究和 13 年的业界经验。 2004 年徐明强博士加入当时成立不久的微软 HPC 团队，带领了一个跨国团队（雷德蒙和上海）完成 Windows Compute Cluster 2003 和 Window HPC Server 2008 地开发工作。加盟微软之前，徐明强博士在 1996 年之 2004 年间担任 Platform Computing...

on 30 Apr 2009
Blog Post: 高性能计算系统栈的推倒和重建（二）专有机时期A

mingqxu

选择并行计算, 被人泼了冷水 1987年春晚，费翔的故乡的云唱红。歌云：“归来吧，浪迹天涯的游子“。可我那时却踏上了留学之路。在研究人工智能高潮时候，我选择了并行计算。为什么要选并行计算呢？当时我选主攻方向的标准非常单一，那就是越新越好。我出国的目的就是要学习最新的科学技术，因为当时我坚信只有科学才能救中国。当我把英国导师的研究计划提议书给国内导师过目时，他的第一的评语就是：”我看提议书中的许多参考资料都是当年或近年出的，是国际领先的方向“。在英国1988年的“并行计算专家会议”上，我遇到一位工业界的人士，互相介绍时候，我兴奋地告诉他我的博士主攻方向。他的回答是我一生都不能忘记...

on 28 Aug 2009
Blog Post: 高性能计算系统栈的推倒和重建（四）微处理机初期

mingqxu

逃匿MPI进程 1993年我加入阿冈国家实验室数学和计算机科学部做Ian Foster 的博士后。 Ian 告诉我，现在科研经费的要求和实际实用应用相结合。为此，我们不能再搞什么logic / functional 语言了。必须和Fortran/C有关。此时他发明了一个新的语言 Fortran-M (M- 代表message passing)。这个语言实在太像Occam了。Occam 里有Channel， Fortran-M 叫port. Occam的Channel 是强类型的，Fortran-M Port 也是强类型的。Occam 里有Process，Fortran也有...

on 7 Sep 2009