HPC中国研发团队 : 员工故事

高性能计算系统栈的推倒和重建（四）微处理机初期

mingqxu — Mon, 07 Sep 2009 07:01:00 GMT

逃匿MPI进程

1993年我加入阿冈国家实验室数学和计算机科学部做Ian Foster 的博士后。

Ian 告诉我，现在科研经费的要求和实际实用应用相结合。为此，我们不能再搞什么logic / functional 语言了。必须和Fortran/C有关。此时他发明了一个新的语言Fortran-M (M- 代表message passing)。这个语言实在太像Occam了。Occam 里有Channel， Fortran-M 叫port. Occam的Channel 是强类型的，Fortran-M Port 也是强类型的。Occam 里有Process，Fortran也有，并且，Process可以动态产生！

Source:

我为这个语言写了编译器。Steve Tuecke (后来的globus 架构师)和Bob Olsen写了运行时系统。我倒是非常享受这个项目。那时的我，就是喜欢往系统栈的底层钻。当时的我，觉得世界上没有任何其他的研究比创建并行语言的编译和运行时系统更有吸引力。我当时觉得，并行计算的栈MPI 已经差不多完善了。而并行语言和运行时系统将是把并行计算推向主流的关键技术。

不过，一件事情改变了我的看法。

一次，我正在做MPI 和Fortran-M 的性能比较实验。结果Rusty Lusk来到我的办公室。满脸不悦。他说我在他的机器上运行了一个MPI 程序，使他的机器非常慢。问我是否可以杀掉它。我觉得很奇怪，我是用了他的机器跑了mpirun. 不过我已经Ctrl-C停掉了我的mpirun。怎么还会在他的机器上跑呢？后来才知道，他写的MPIRUN是使用rsh 在远程机器上启动MPI 进程。Rsh可以将远程进程的stdout, stderr 转到客户端，使用户有个透明的感觉。但是，当用户键入Ctrl-C 的时候，只是把mpirun 进程杀掉，而远程的进程就逃匿了。不光没有被杀掉，而且在背景里跑得非常欢。结论是，Rusty是“自食其果”。

我搜索了网络，发现这种逃匿MPI进程（Runaway MPI Processes）是许多超级计算机中心中造成极大的破坏。用户总是抱怨，怎么超级计算机越用越慢！其实都是因为每次mpirun 非正常中断后，在远程节点就会有逃匿进程出现。管理员最头痛地就是要时不时地登陆到几十个甚至上百个节点上去清除这些逃匿进程。

后来当我加入Platform Computing时候，周松年问我能为MPI做什么？我就说我要解决逃匿进程问题。在１９９６年我花了半年写了一个Parallel Application Support Software. 能够完全解决逃匿进程，并且还能精确地采集计算资源使用数据。后来成为公司LSF Parallel产品。

今天您使用HPC服务器的MSMPI，您也不会发现逃匿进程。这就是投入生产使用的运行时系统和学术界软件的区别。这点，我们必须归功于那次Rusty Lusk和我的小小的不愉快。这点小不愉快，让我开始关注到许多用户因受MPICH的启动方式而导致的逃匿进程之苦。

高性能计算系统栈的推倒和重建（二）专有机时期B

mingqxu — Mon, 07 Sep 2009 05:38:00 GMT

Speed beats beauty

并行机在专有机时代分两大阵营，共享内存和分布式内存结构。

共享内存所提供的编程界面是非常优雅的。分布式内存机器的编程界面是基于消息传输库，不够优雅。串行程序的并行化相对容易的多，因为任何一个线程都可以访问到所有的数据，因此不需要对原来串行程序在结构上作大的改动。而为分布式内存机器写程序却不同，首先应用域的数据就要分块，每个进程不光需要本地数据，还要边界数据。在本地计算完后，还要和邻进程交换数据。程序结构上要做大改动。

共享内存最大的缺陷是物理上的。是因为其扩展性差。当时80年代的处理机是很慢的了，可是到了32个就出现瓶颈。这无法能够满足美国能源部许多宏大挑战性问题（Grand Challenge Problems）。所以当时分布式内存的拥护者流行的一句话就是：“Speed beats beauty”。

一个很自然生发的美好愿望就来了：能不能使用物理分布式内存，在其上建立共享内存的界面。这样我们不是就取两者精华去两者之糟粕吗？分布式共享内存（Distributed Shared Memory – DSM）这样的机器就成为了专有机时代最后一个大创举。

这个基因杂交出来的机器却有致命性的DNA缺陷。我一九九一年加入了曼彻斯特大学新奇计算中心 (CNC) （Centre for Novel Computing）在John Gurd教授下作研究员。John Gurd 是数据流机器的知名学者。

我加入后不久，CNC就拿到一笔科研补助金（research grant) ，Gurd 教授在诸多的专有机厂商中挑选了一个Kendal了 Square Research (KSR)。其用意在于这个中心的名字里有个“新奇”。九十年代初的英国，爱丁堡和不利索托（Bristol）的中心里有不少大型专有机。绝大部分都是分布式内存。所以，Gurd教授觉得再买一个属于重复。正好KSR 是一个分布式共享内存的机器。这也就给了我一个和这个杂交机器零距离接触的机会。在这个机器上可以用标准的Pthread库，可以用锁来同步对于共享内存的访问。操作系统自动将不同线程分布到不同的节点上。而节点之间的操作系统实现了定制的多机内存的一致性协议。这样编程的确简单了。机器及软件环境的细节大家可以参考维基百科：http://en.wikipedia.org/wiki/Kendall_Square_Research。恕不赘复。

我当时对于这种新奇机器是充满热忱。在短短半年内，我移植了许多并行逻辑和功能性语言（Parallel Logic and Functional language） e.g. Strand, PCN 等。我之所以能够很快地移植这些语言，是因为共享内存不需要对程序结构有大的改动。

那么KSR致命DNA弱点在哪里呢？就是性能和扩展性差。为什么物理分布内存还会有性能和扩展性问题呢？

首先，它是在硬件和操作系统实现内存缓存一致性协议。为此它的RISC 芯片是专有定制的。这就意味着它无法和业界的豪门IBM, Sun, SGI, HP等RISC 芯片的性能匹敌。第二，也就是最关键的, 这点还是后来我加入Platform Computing后和公司的ＣＥＯ周松年聊起后受的启发。周松年说：“DSM 在性能上无法和消息传输库并行化的比拟的原因是，DSM的管理单元是进程的地址空间的页(page)，它无法反映应用对数据的访问情况（access pattern）。而消息传输库使程序员能够充分利用应用对数据访问的知识来优化并行算法数据访问的局部性（locality）“。他的透视使我顿悟。缺乏对于应用访问数据的知识，就无法优化对于数据的访问的局部性。分布式内存的机器造成了多层内存（本地和远程内存）状况，影响应用性能最大的因素，就是是否能够极大限度地访问本地内存。

自KSR 破产后，我再没有看见过一个DSM的机器。

（待续）

高性能计算系统栈的推倒和重建（三）微处理机初期

mingqxu — Thu, 03 Sep 2009 10:13:00 GMT

望洋兴叹

在专有机时代作并行计算的研究，你得会投“胎”。当时，全球科研的浪尖是在美国，能在Communications of ACM上发表论文的，都是美国大学的。用的HyperCube， Cray，Connection Machine 2 等大型机。而在英国，只有国产Transputer。更可悲的是，我所在的埃德塞特大学（Exeter University）, 我们当时只有四个transputer 节点。当时在英国，可以说是望着大西洋对岸的美国兴叹啊！我看美国人的论文的心情，就好比是一个穷人家的孩子偏偏喜欢上摄影，然后看着有钱人家的少爷拿着长焦、广角镜头，口水只能往里咽。

1993年，我到了美国阿冈（Argonne）国家实验室后，我就好像是小孩进了糖果店，因为那里有不少专有机（CM2, Paragon, Sequent等）。我问秘书预订了每个专有机的用户手册。每个手册都有电话簿那么厚，当秘书象我小时搬蜂窝煤一样把几英尺厚的手册搬进我的办公室后，她累得大抒一口气。现在看来，真是浪费了，这些手册我都没有用过。不是我没有用功，而是专有机被第一批微处理机颠覆了！

消息传送库pvm, P4和 MPI

在80年代时候，多种消息传输环境被开发出来。有些是为专有机开发的Ncube. 而另外不少是为Unix工作站开发的。比较有名的是Oak Ridge 实验室的PVM (Parallel Virtual Machines) 和阿冈(Argonne) P4 和PICL, Ohio 超级计算机中心的LAM。

当我看到PVM 的时候，我也就不望洋兴叹了。因为用工作站组装成一个超级计算机，不用花大钱去买专有机。而且写程序也是用常见的Ｃ或Ｆｏｒｔｒａｎ语言。不需要专有的语言。一下子，高性能计算的世界在我眼前变平了。

到了1992年末，听说又要搞个什么ＭＰＩ。我和一帮英国同事都在笑，怎么又来一个消息传输库。后来才知道，我们笑得过快。原来，ＭＰＩ是要吸百家之长、制定工业标准、省得大家重新发明轮子、浪费体力精力脑力人力。 Argonne和Oak Ridge 都是美国能源部的实验室。两个实验室，为了一个消息传输库争夺用户，结果使得能源部的应用开发成本提高两倍，这是实在说不过去。１９９４年这个标准终于出来了，不到两年的时间出来了这个标准，在ＨＰＣ领域是相当快的。而且有许多学术界的人士参加的标准Ｆｏｒｕｍ，一向是拖拖拉拉，没有目标导向，企图把海水烧开。为什么ＭＰＩForum 能够如此神速地推出此标准呢？

这要归功于两个人，Bill Gropp 和 Rusty Lusk, 他们都是从阿冈国家实验室的科学家。不要笑，他们的抬头就是“科学家”。

Bill Gropp Rusty Lusk

他们告诉我，最重要的原因，是ＭＰＩ一开始就有一个参考实现：MPICH。是他们两人主写的代码。所以，一旦有了一个可以参考的MPI库。一些应用就可以开始并行化。这样，许多没有任何应用场景的“好主意”，就很容易被扔到“Out of scope”栏目。帮助参加讨论者集中注意力。还有，他们采用的方法是一天早中晚连轴转的方式，如此高强度的讨论，只有那些铁杆、硬核的人才能挺得过去。所以，也把一些不懂行，不委身、但往往容易随机化讨论的人自然淘汰出局。

很多人把集群的概念归于Beauwolf. 其实，集群已经在九十年代初，就有了。许多人都以为，是beauwolf 集群后，工业界才开始使用。历史并非如此。听我给同学们表来。

制造业最早的投入生产的微处理机集群

在美国East Hartford，驻扎着著名飞机发动机厂商 Pratt Whitney的设计中心。过去，为了测验叶片的强度，他们要将一个冰冻鸡扔向高速旋转的发动机上，然后分析断面。毫无疑问，造价极高。后来，他们使用Cray来做模拟仿真。只是能够模拟单叶片。而且Cray成为稀有资源，每个工程师的作业，都要排上两天才能算上题。

９０年代上半叶，Pratt Whitney的ＣＦＤ组，开始自主设计、开发一套消息传递系统，Prowess。它可以扩展到上千台太阳工作站。其中带头人名叫Craig Fischberg, 因此在制造业界成名。９５年左右，GE 飞机发动机给了他双倍工资并为其妻子安排了很好的工作，把他挖了去。后来，他又用MPI 来为ＧＥ建立了同样系统。从此，他在GE 的地位如日中升。

一想起工作站资源觅食（Cycle Scavenging）人人都以为最早是由Seti@home. 其实，在九十年代初在Pratt Whitney 已经有了。

那么从Cray 到工作站集群到底带来什么大不了的效益，使得ＧＥ出血本要挖人才呢？后来，Craig Fischberg 跟我讲，以前只能在叶片上模拟，后来能够把模拟整个发动机。以前的排队时间长至3天，结果晚上提交，第二天一早就可以看见结果。结果呢，高耗资的物理测试减少了，设计时间缩短了一半，而且飞机引擎的油耗效率大大提高。所以，ＧＥ能不受刺激吗？花了双倍工资挖到了Craig Fischberg是非常小的代价。

成百上千的工作站的计算能力被完全释放出来。他们用的作业调度器是Platform Computing 的LSF。所以，在九十年代，LSF的用户手册写着“Unleashing the Power” – 释放能力！就是从这儿来的。

商家简介

机器厂商	IBM，SGI, HP 和SUN
硬件	精简指令芯片
处理器间网络联接	定制化的网络
应用软件编程界面	ＭＰＩ-工业标准ＰＶＭ和其他消息传递软件包
作业调度软件	ＬＳＦ，ＰＢＳ， Sun Grid Engine (SGE)

为什么会有那么多的定制化的网络联接呢？我们下次再说。

下次内容：我和Rusty Lusk 的一个不开心遭遇引发我的奇想。

高性能计算系统栈的推倒和重建（二）专有机时期A

mingqxu — Fri, 28 Aug 2009 05:48:00 GMT

选择并行计算, 被人泼了冷水

1987年春晚，费翔的故乡的云唱红。歌云：“归来吧，浪迹天涯的游子“。可我那时却踏上了留学之路。在研究人工智能高潮时候，我选择了并行计算。为什么要选并行计算呢？当时我选主攻方向的标准非常单一，那就是越新越好。我出国的目的就是要学习最新的科学技术，因为当时我坚信只有科学才能救中国。当我把英国导师的研究计划提议书给国内导师过目时，他的第一的评语就是：”我看提议书中的许多参考资料都是当年或近年出的，是国际领先的方向“。

在英国1988年的“并行计算专家会议”上，我遇到一位工业界的人士，互相介绍时候，我兴奋地告诉他我的博士主攻方向。他的回答是我一生都不能忘记： “并行计算不会有前途的。将来人们将造越来越大的向量机。没有人愿意将自己的应用并行化，因为太难了”。

现在看来，这个专家是大错特错了。虽然如此，我还是非常赞赏他的坦率。他完全可以不必加什么评论，事不关己，可以高高挂起。他不愿意看见我往火坑里跳的精神可嘉。不过，专家的话也是要分析地去接受。而且，当你和专家有不同意见的时候，也不要迷信。长江后浪推前浪，新一代要超过前一代。不迷信权威是科学向前发展必要倡导的精神。

我没有相信他的话。

这段时间的高性能计算的生态环境如下：

机器厂商	Cray, Thinking Machines (CM-5), Sequent, Kendal Square Research (KSR), INMOS (Transputers)
硬件	定制化的芯片
处理器间网络联接	定制化的网络
软件	专有语言或FORTRAN的专有指令和工具

我们看见，“定制”“专有”这是造成价格天价的原因。那时候，CRAY只有少数西方的国家实验室和大型制造业公司才能拥有。只有少数先进国家才能拥有。杜甫一句诗词，似乎表达了我当时的意愿并有预言性：“安得广厦千万间，大庇天下寒士俱欢颜”。高性能计算关乎全世界的一项技术，它的益处不能被一个国家所禁锢和独占。这二十一年，我感觉有支看不见的手，把高性能计算机从国家实验室的围墙里，推出到制造业，电子业、生命科学和制药业，石油业，金融业。从美国、推向西方先进的国家，又推向东方。曙光和微软研制的两百万亿次计算机就是一个例子。

小心处理器杀手

在一九九零时候，美国劳伦斯Livermore 实验室的Eugene Brooks 说了一句话：“Beware the killer Micros” (小心微处理器杀手)。他这句话叫许多向量机的生产和设计厂商诚惶诚恐，为什么呢？我在微软一个同事，Frank Chism, 曾经是Cray 的雇员。他告诉我，那时候每年CRAY的CEO和克莱斯勒的CIO的谈话是非常痛苦的。克莱斯勒的CIO就问CRAY的CEO：为什么HP的工作站比你们CRAY要快，而我却要支付更贵的机器呢？“。微处理机的日益强大的性价比使之取向量机而代之的成为必然。

给我泼冷水的英国专家有句还是说对了，那就是并行化一个程序是很困难的，为什么别人会有人去做呢？不过他的话有个逻辑谬误，那就是：“没有人会去修改应用，因为太困难了“。出力不讨好的事尚且有人做，更何况出力能讨到好的事情呢？这时候，美国制造业的一个企业，就成功地用工作站替代了向量机来解决计算流体力学的问题。我们下次再聊。

对于专有机的Occam语言的三大遗憾

Occam 语言是我接触并行计算的第一个语言。这个语言是以一个哲学家Occam命名。提起他，我们都知道有个Occam剃刀原则（Occam Razor）。就是：“Keep it simple” 原则。这个语言之简练和直观不逊于其命名。它用Channel, SEQ, PAR 和ALT 等语言部件，可以构建各种并行进程及其通讯和同步场景. 下面程序实现了典型的生产者和消费者通讯的例子：

PROC producer (CHAN INT out!)

INT x:

SEQ

x := 0

WHILE TRUE

SEQ

out ! x

x := x + 1

PROC consumer (CHAN INT in?)

WHILE TRUE

INT v:

SEQ

in ? v

.. do something with `v'

PROC network ()

CHAN INT c:

PAR

producer (c!)

consumer (c?)

我自然是被这个语言着迷。可惜好景不长，我立刻发现Occam 语言的三个局限：

遗憾一：并行进程的静态、编译时决定的。不可能在运行时动态产生进程：

PAR I = 1 to N

Process (I)

这里Ｎ必须是编译时就确定的常数。这样对编写通用目的程序库带来很大的麻烦。就好比MPI 用户没有办法根据MPI Rank 和MPI_Size 来动态划分域，只能硬编码其处理单元数量，那么今天恐怕还没有Nastran 等ISV通用库。和我一起做博士的某英国哥们，他曾说要解决这个问题。我一直很感兴趣，不停地问他技术细节，结果他说了半天，我还是不清楚。说句实话，到今天，我还是没有明白。后来这个哥们找到了工作，放弃了博士。

到了后来1996年，MPI-2制定的时候，我参加了关于动态创建进程的讨论。当时我已经加入了Platform Computing 作LSF，可是这些MPI专家们对于如何映像进程到处理机的理解不够透彻。他们没有认识到，动态创建必须基于一个资源管理的调度系统。而他们没有有效地将需求及时提供给作业调度厂商。结果，现在有许多的MPI2 动态创建进程的实现，但是没有哪个是和著名的作业调度器集成的。原因就是，大部分作业调度器的资源分配是静态的。一旦资源分配后，就无法改变。到了Windows HPC Server起步在2004 年的时候，我设计作业概念就考虑到作业当能伸能缩的. 因此，Windows HPC Server 是为数不多能够支持MPI 2的作业调度系统。

遗憾二： Channel 是没有缓冲的。一个发消息的进程，如果对方不在受的时候，就会被阻。直到有接受消息的。开始还觉得没有什么，结果不知道多少看起来不会死锁的代码，结果给死锁了。比如，两个进程计算后相互交换结果如下，就会死锁。

PROC left (CHAN INT toRight!, CHAN INT fromRight)

… compute

toRight ! localResult

fromRight? neighborResult

PROC right (CHAN INT toLeft!, CHAN INT fromLeft)

… compute

toLeft ! localResult

fromLeft? neighborResult

CHAN INT c, d:

PAR

left (c!, d?)

right (d!, c?)

原因就是，对于left 进程，toLeft! localResult 会被阻塞，因为right 进程还没有接收消息。 right进程也同理被阻塞。现在同学们用MPI的时候，已经对于MPI 库中所提供的消息缓冲区习惯了. 当我发现此功能后，顿时心存感激。

遗憾三：进程和物理处理机之间的映射是静态的

这是一个致命的局限。如下所示，进程terminal, editor 和network 是在编译时被硬性映像到不同的处理机上。

PLACED PAR

PROCESSOR 1

terminal (term.in, term.out)

PROCESSOR 2

editor (term.in, term.out, files.in, files.out)

PROCESSOR 3

network (files.in, files.out)

对于这个局限的极度不满，心中涌出强烈的愿望想要解决这个问题。人生很有意思，９年后，我终于开始解决这个问题，一作就是近十二年。这个问题就是如何应用动态映射处理机，就是作业调度器（Job Scheduler）的灵魂.

（待续）

旅行中的志愿者

Zhen Wei — Mon, 11 May 2009 08:01:00 GMT

4月24日到29日，HPC中国研发团队和一些家人朋友，还有现已回到美国工作的前部门经理Alex Sutton，一行22人去了四川省旅游，不仅游览了绮丽秀美的九寨黄龙，还访问了震区都江堰的受灾群众安置点，最开心的是在我家乡的山村小学里见到了好多可爱的小朋友。相信不少朋友都听说过“多背一公斤”这样号召旅行者出行时多背一些物品给贫困山区小孩的故事，而这次把我们的集体旅游与志愿者行动结合起来，则是我们HPC全体成员的共同心愿。成行之前，作为一名积极的志愿者，我推荐了两个选项：去都江堰市龙池镇云华村，捐献旧笔记本电脑协助上海市闸北区热爱家园青年社区志愿者协会（下文简称“热爱家园”）开展电脑培训班，这是我去年曾经实地考察参与了前期调研的项目；或是访问捐助我家乡县城里大山深处的“夫妻小学”，从我搜到的南充日报报道来看他们的确非常需要帮助。让人喜出望外的是，最后我们不仅去了云华村，大多数的同事还去了我的家乡，好好利用了我们公司的每人每年三天的志愿者假期。我相信我们大多数人都乐于助人，但往往有这样那样的顾虑让我们不能成行，身体力行做个志愿者，并没有想象的那么困难。

24日，从上海飞到成都，我们没时间休息，就汇同热爱家园的职员陈佩赶赴云华村，到了都江堰，“岷江黄浦江水水相融，上海都江堰心心相连”的大幅标语格外显眼，有名的板房区“幸福家园”显得秩序井然，路边很多楼房的裂缝仍然清晰可见，但更多的是推土机和起重机在热火朝天地重建家园。而我在将近一年的离别之后重访故地，忍不住客串做起了导游，向大家介绍眼前的情景和地震时的故事：这块空地，曾经停放了好多军车搭建了好多帐篷，“铁军来了”、“有困难，找铁军”的横幅格外暖心；那条二王庙后门的公路上，曾经有检疫人员不辞辛劳地向来往车辆喷洒消毒剂；还有多次出现在新闻联播的紫坪铺水库，曾经有无数冲锋舟运走受灾群众，运来物资运来官兵运来希望。

（多次出现在新闻联播的紫坪铺水库）（仍在抢修中的龙池隧道）

（云华村板房区）（搬运物资到板房区）

车开了近三个小时，穿过还在施工中的隧道，开过还在修建的龙池公路，终于到了龙池镇云华村的受灾群众安置点，也就是上海建工援建的板房区，上次来这里调研的时候，我还在上海建工的厨房蹭了几顿饭呢。可能是乡亲们还在劳动，小孩们还在上学，我们并没有见到太多村民，把5台笔记本电脑、若干路由器集线器插线板和长长短短的网线放在热爱家园的云华图书室后，我们走进一家农户，一位大姐和一位老奶奶热情地和我们聊了起来，从她们那熟悉的乡音中，我听到隐隐的伤痛，却流露出更强的坚韧与希望，还有一份真诚的感谢。我们带的东西并不多，也没有时间把网络环境全部搭好，只希望这一点点帮助对即将开展的电脑培训班有些作用。大山里的孩子和青年，急需电脑和互联网来获取信息，学习知识，建设自己的家乡。在返程的车上，我代表四川人由衷地感谢我的同事们愿意大老远地来看看震区，大家都说我太客气了，Ming更是说道：打在手上，全身都会痛，四川人民受灾了，全国人民都心痛。地震过去快一年了，我们见证灾区同胞自强不息重建家园，我们祝福灾区同胞平安幸福安居乐业。

（等待图书室管理员）（村民们搬进板房前的临时居所）

（Ming与老乡聊天）（我们在云华图书室外的合影）

4月28日，游完九寨沟和黄龙的美景之后，超过半数的同事跟我回家乡南充市营山县。不巧的是，连接成都和营山的达成铁路因为扩建施工暂时关闭，于是我们从成都十陵汽车站搭乘客车，耗时4个小时，匆匆吃了午饭，又坐上县团委老师帮我们联系的面包车沿着盘山公路开了2个小时，最后在崎岖的山路上步行了半个小时，到达了我们的目的地合兴乡糖房村大垭口“夫妻小学”。当我们抬着黑板提着礼物走近小学，远远地就听到了小孩子们嘹亮的歌声，心一下子被感动充满了。紧走几步，我看到了眼前的画面，廖老师正领着站得整整齐齐的小孩子们大声唱歌，他们最大的也只是在上二年级啊，歌声轻灵稚气，眼神清澈纯净，笑容天真无邪。还有不少学生家长，围了上来，老乡们不善言辞，但一看就知道是已经站在这里等了我们很久。

（通往“夫妻小学“崎岖山路）（搬运黑板）

（从附近赶来欢迎我们的小村民）（小朋友们唱歌欢迎我们）

老师领着学生们回到教室，幼儿园一个教室，一二年级一个教室。简陋的教室有一面是土墙，有一些大的裂缝，夏天很热，教室光线很暗，廖老师走上教室中间的一张课桌上，伸手拉了开灯的绳索，然后带领幼儿园的孩子们一起念自制黑板上的bpmf拼音，孩子们认真地齐声背诵帮助记忆的口诀“广播电台播播播”(b)，“两个门洞摸摸摸”(m)，窗外的我们和家长都开心地笑了，我想我们都看到了未来的希望。接着廖老师把两个教室的孩子集中到一起，带着他们唱起了一首“爱心叔叔”的歌，我们都很感动，不知道这是不是廖老师自己谱词谱曲的。第一排一个小女孩，长得有点像我的小侄女，我拉着她的手，问“你喜欢读书吗”，她一点也不怕我，也用小手拉着我的大手，扑闪着大眼睛说“喜欢，语文数学我都喜欢”。校长让我们给学生说些什么，因为有的小孩子听不懂普通话，George让我代表大家说说话。而我望着满满一教室可爱的小朋友，和充满期待的老师家长，一时不知说些什么好，他们需要太多的东西，而我们能提供的又太有限。最后我问了一堆问题：你们喜欢读书吗？你们喜欢你们的阳老师吗？你们喜欢你们的廖老师吗？阳老师和廖老师非常地辛苦对吗？我们都要好好学习好不好？得到的则是小孩子们一次更比一次大声的肯定回答。Alex用中文跟打了招呼，孩子们也都兴奋地叽叽喳喳，要跟见到的第一个老外交朋友。最后我们回到教室外的空地，George向校长和老师捐赠了我们带来的物品，大家还当场捐出七千多元，用于教学点的房租等校舍建设。

（廖老师带领小朋友学拼音）（Alex向小朋友问好）

（”夫妻小学”全貌）（教室窗外的学生家长）

（George代表我们捐款、捐物）

校长和老师承诺会将这笔钱的用途告知我们，而我们每个人离开的时候也在心中思考着这样一些问题：怎么样才可以更好地长期帮助这些老师和孩子呢，如果我们有更多的资源，怎么样才能有效地利用起来呢，目前由我们公司或者个人来直接负责运营是不现实的，是不是有合适的非营利组织可以合作呢？这些问题尚在思考、探讨之中。如果您有意愿、有资源帮助大山深处的老师和孩子，有扶持他们长期发展的推荐方案，我们期待倾听您的声音。

魏臻

高性能系统棧的推倒和重建(一)

mingqxu — Thu, 30 Apr 2009 14:14:00 GMT

作者简介

徐明强博士现任微软中国研发集团服务器与开发工具事业部高性能计算资深架构师，领导HPC产品中的并行编程模型和运行时系统的设计与架构。

徐明强博士拥有21年高性能计算领域专业经历，包括8年学术政府实验室的研究和13年的业界经验。

2004年徐明强博士加入当时成立不久的微软HPC团队，带领了一个跨国团队（雷德蒙和上海）完成Windows Compute Cluster 2003和Window HPC Server 2008地开发工作。

加盟微软之前，徐明强博士在1996年之2004年间担任Platform Computing公司（HPC中间件的领导者）的首席架构师，负责其旗舰产品LSF和Symphony产品的设计和技术战略规划。

1993年至1995年，徐明强博士专注于并行语言的编译和运行是系统的研究，并在阿冈国家实验室完成博士后研究。在此之前，徐明强博士先后在英国埃克塞特大学取得计算机博士学位，在曼切斯特大学担任研究助理员。

我预备写几篇我过去二十一年所见证的HPC发展史。

----------------------------

我从事HPC工作已有二十一年，见证了一个完整的并行系统棧被推倒和重建。旧棧的机器造价高，只有国家实验室可以支付，性价比很差。后来HPC世界有一个大的变更，由微处理器来代替定制的向量机。现在的各行业成为这个变革的受惠者，变革的结果，使得每一个科学家和工程师，可以付担得起原来只有获取优厚研究经费的国家实验室才能使用的高性能计算机。

这个变革经过二十多年，共三个时期：（1）专有机时期（2）微处理器初期（3）微处理器盛期。

专有机时期，活跃在市场上的超级计算机公司开发定制化的硬件、软件及开发工具。微处理器初期，计算机主流公司用精简指令芯片代替了定制化芯片，自开发的定制化网络竞争。到微处理器盛期，商品化的芯片、标准网络再次把成本降低。回头看着二十年，显见有一只看不见的手，要把高性能计算机从国家实验室里推到各个行业、企业。

在这变更中，我也曾多次更换主攻方向。或者说是从原来的棧上端一直“跌”到下面，如下图所示。

然后，我一级一级的帮助重建并行系统棧. 从这棧“跌”落的原因，是因底层的支持无法能够满足高层的需要，而从底层往高层去的原因，是为了能够使系统能够支持主流的应用和程序员编程的需要。

我记得C++ 的发明者Bjarne Stroustrup 曾说过：“如果某件事值得做，那么这件事值得做两次”。他曾把这句话用在他撰写的C++ 一书上。这也是我从事HPC的经历。到现在为止，我已经重复做了两件事情（1）作业调度系统（2）面向服务的运行时系统。将来或许还会再次回到应用层。

（待续）

新PM来报道拉！-- 入职HPC三月之我见

Violet Cong — Wed, 27 Aug 2008 09:41:00 GMT

大家好，我是丛兰兰，上海HPC Team的新PM。其实说新也不新，入职HPC Team已快三月有余，潜水至今是因为这个team，这个领域和这个项目有着太多吸引我而我又要努力去学习的东西，现在该上来呼口气和大家问声好了J

入职HPC Team之前，我效力于微软北京的Windows Live团队。这两个team给了我全然不同的体验和感受。Windows Live团队专注于在线服务，它强调对在线用户市场需求的快速响应，以及如何通过提供创新高效易用的服务吸引和维系最大量的在线用户群。而HPC Team作为Windows Server团队的一部分，它更加关注于对服务器底层技术的深入挖掘和优化，关注于高效、易用和高质量的服务器产品的开发。因为产品定位，市场和目标的区别，Live的项目和产品相对轻量，开发周期较短（3-6个月左右），增量的patching快速而有效。而Windows Server以及HPC项目开发周期较长（2年左右），对每个开发周期的定位，实现的功能和产品质量的把握也更加严格。试想一下，一个三个月没有做好的项目也许还可以用下面三个月来弥补，而一个投入两年多而失败的产品周期对整个产品的市场竞争力以及对公司的影响将是相当巨大的。这也是作为HPC Team的项目经理对我来说更加富于挑战性的一点，同时一个公司内部所能提供的这种截然不同的体验也使得微软成为一个非常富于人才竞争力的公司。

加入HPC Team以来，以下几个方面让我印象尤为深刻：

1）对项目计划的重视，planning阶段的深入，细致和完备。随着Windows HPC Server 2008的开发周期接近尾声，HPC团队开始全力以赴投入下一个产品周期的计划阶段。一切从客户需求出发，通过与客户现场和电话的紧密交流，倾听客户的心声。把这些从客户需求收集来的零散的信息整理成完善的端到端的用户场景(end-to-end user scenario)。将这些用户场景分类，通过与产品的战略规划(business strategy)相结合，对场景进行优先级排序。同时对用户场景进行深入细化，根据产品项目周期和人员情况的安排，根据场景的优先级选择哪些场景是需要在下个产品周期中实现，哪些是可以在以后的产品周期中得到满足的。然后将这些用户场景转换成具体的产品功能和性能需求，PM的Specing工作也就由此开始。这样的Planning的阶段会持续三个月左右，如此细致的planning才能保证我们的产品可以最贴切地满足客户的需求。

2）团队成员对技术的崇拜和热衷。有人说，微软是把一群最优秀的人才聚拢到了一起，每天和最优秀的人才一起工作也是这个公司最具有吸引力的地方。尤其对于HPC这样着重于Server技术的团队，我发现团队的每个成员都有一种对技术由衷地崇拜和热衷，总是非常积极地去了解最前沿的技术和产品，非常主动地将这些最新的idea应用到HPC产品中去，以最大地优化和改善我们的产品。这种对技术和产品的由衷的热情也成了产品不断向前进步的一股很大的推动力。你会发现，开发和测试人员不是在等待项目经理定义好项目需求之后去实现，而是非常主动地去挖掘可以优化产品的技术，将技术与客户需求相结合，通过实验原型加以验证，以推动将这些技术和想法最终应用到产品中去。这也同时促进了开发，测试，项目经理三者相互推进，有效互动的一种高效合作模式。

3）上海团队和Redmond总部团队的紧密合作。Global development一直是我认为在中国的团队成员，以及在中国做PM的最大魅力之所在，而这一点在HPC这样的Windows Server团队显得尤为突出。因为与Windows Live团队项目较为轻量，中国的开发团队通常可以拥有较为独立的项目不同，HPC上海这样的团队开发出的产品作为最终Windows HPC Server产品的一部分，需要与美国团队更加紧密的合作。以Windows HPC Server 2008产品的开发为例，上海HPC Team负责的Admin Console用户交互部分以及PowerShell命令行部分的开发，需要与底层的各个模块的实现上的交互，而其中大部分模块的开发团队则在美国。令人欣喜的是中国团队和美国团队都非常积极主动地促进这种交流与合作，全球开发模式的成功也成为衡量一个项目，一个产品成功的很重要的方面。

随着HPC Server 2008产品的开发接近尾声，下一个版本的序幕才刚刚拉开。我们怀着无比憧憬和期待的心情，期望着上海的团队与美国总部的开发团队一起，开发出更加高效、易用、满足客户需求的高性能服务器产品，最大地实现客户价值！我们也期望着中国团队在微软服务器产品的开发中扮演着越来越重要的作用，期望着更多更优秀的人才加入我们！

丛兰兰

HPC团队项目经理

一年级新兵看微软HPC的2007

Zhen Wei — Mon, 03 Mar 2008 00:19:00 GMT

中国老一辈的人都流行说：我几几年参加工作，言语中掩不住自豪。小弟我*在小中大学校摸爬滚打了近二十年，终于在去年三月成为一名Dev--软件设计工程师，马上就可以拿到在微软“幸存”一周年的纪念牌牌，得意地宣布实现工龄零的突破，参加工作一年了。追昔抚今，以继往开来, 2007这一年，我这个一年级新兵看到的是微软HPC活动迭出，捷报频传，研发销售两手抓两手都很硬的一年。为免把本文写成形神聚散的散文，下面我就以擅长的文体--流水帐,把2007年微软HPC，特别是在中国市场的一些亮点给大家做个汇报：

2007年3月，我们的产品Windows Compute Cluster Server 2003(以下简称为CCS)发布Service Pack 1。
2007年4月，HPC上海开发团队携手开发及平台合作部，推出中文MSDN网络广播：微软高性能运算系列课程
2007年6月，微软第一次提交了自己的HPC系统Rainier到TOP 500,以8.997TFlops的成绩名列第106名，另一基于Window CCS的系统名列193名。
2007年7月，杭州国家软件产业基地建立了中国第一个基于WCCS的HPC 平台。
2007年8月，微软总部Redmond, HPC技术预览大会, HPC产品组邀请到了100多个关键合作伙伴和客户，共同商讨了微软在HPC市场的路线图和愿景，详细介绍了CCS 2003第二版本及Windows Server 2008, Powershell等相关技术，尽情fb了以烧烤贝类为特色的自助餐。
2007年11月，HPC界的武林盛会Supercomputing 2007在赌城Reno召开! 产品CCS第二版本摇身一变，改叫Windows HPC Server 2008了!(有气势，我喜欢)，Beta1 如期发布;Parallel Computing Initiative项目启动，让开发并行程序更容易;这次的TOP 500有6套Windows系统上榜，Rainier硬件不变，软件更新，效率大增，在激烈的竞争中排名116。两年前BillG在Supercomputing 2005上放言"HPC, 我们来了"。事实证明，我们不是凯丁(Kidding)，我们是希尔瑞斯(Serious)!
2007年11月，微软曙光展开高性能计算合作建软件测试实验室
2007年12月，“微软学者项目学生及教师研究奖”竞赛开幕

* 我是谁呢，不才就是上一篇帖子里说到的菠萝头兄弟，简历可由微软之缘为线索总结为：

1.MSNCDC扛过枪：MSN中国开发中心最早的一批实习生，对大队人马奔赴中山公园打彩弹记忆犹新；

2.GTSC帮过忙:          微软全球技术支持中心兼职做过几个web项目；

3.MSRA翻过墙：     微软亚洲研究院访问学生，爱极了每天的酸奶和桌上足球，也目睹和亲历了年底冲国际会议论文的疯狂--比如说优化论文算法到半夜，翻北航的校门回招待所睡觉；

4.MVP得过奖：        ASP.NET微软最有价值专家，只当了半年就因加入微软而自动终结:)；

5.STBC留过洋：       被微软服务器与开发工具事业部（中国）收编为正规军后，不到半年即通过“丝绸之路”项目发配总部“朝圣”一个半月，见到了传说中的美国和Bill，至此始信，世上确乎有美国，世上确乎有Bill，众之人不余欺也。

过节啦！

George Yan — Tue, 05 Feb 2008 10:15:00 GMT

今天是小年夜，先祝大家过年开心。魏臻（就是下面照片上第一排菠萝头兄弟）今天凌晨ping我要求我写blog entry。我想他要我这样中文如此蹩脚的人写entry一共有3个理由：

1) 嘲笑一把我的中文水平

2) 凌晨一点只有我这个夜游神还挂在网上，抓不到别人，只有我滥竽充数

3) 他想过个好年，不想写entry

Anyways, 既然我还在office坚决站好最后一班岗，我就写点什么吧。

先介绍一下自己，我是George, HPC team 的 pm。2000年毕业后被微软的recruiter连哄带骗拖进公司，后来就慢慢喜欢上微软的产品，文化和团队，曾经参加过xp, windows server 2003, msn mobile, msn signup, adcenter 的开发，2005年回到中国从事pm工作。好多人对微软pm有误解，以为pm是做秘书(take notes), 人事(解决dev/test脆弱的心态问题), 或者是大官(掌握财政和headcount大权). 这都是错误的。其实pm做的最多的是设计和drive feature, making sure 自己own的feature能圆满的作为产品的一部分被发布。当然过程中也需要适当的贿赂一下dev/test啦。这些detail下次和大家聊，嘿嘿。。。

说说这个团队吧，我是两个月前回到window server，参加hpc 产品组的，它给我的第一印象就是passionate。无论是大家出去吃饭还是出去玩，一会儿就会聊到hpc，说我们怎么improve scheduler，mgmt console还能做什么feature，hpc在什么领域可以有突破，非常有start up的感觉。当然还有很多无厘头的idea比如在程序里加段代码，这样只要是我们的job就会有优先级。嘿嘿。。。

好了，我要开始过年了。完成了菠萝头兄弟给我的任务，希望大家能enjoy reading我们的blog，在我们的blog中看到这个团队的生气和可爱。当然，觉得自己有pm potential的同学也可以和我联系，我们非常希望有更多的同学加入我们的队伍，喜欢hpc的工作—虽然很辛苦，但是也乐趣无穷。

P.S. 我中文还在improve当中，自从回到中国后已经从小学水平升级到初中啦！希望大家多多包涵，我会试着用中文更加表达自己，表达这个team的激情和活力的！祝大家新年快乐，万事如意！

George

PM, Windows HPC

Shanghai, China

HPC中国研发团队 : 员工故事

高性能计算系统栈的推倒和重建（四）微处理机初期

逃匿MPI进程

高性能计算系统栈的推倒和重建（二） 专有机时期B

Speed beats beauty

高性能计算系统栈的推倒和重建（三）微处理机初期

望洋兴叹

消息传送库pvm, P4和 MPI

制造业最早的投入生产的微处理机集群

商家简介

高性能计算系统栈的推倒和重建（二） 专有机时期A

选择并行计算, 被人泼了冷水

小心处理器杀手

对于专有机的Occam语言的三大遗憾

旅行中的志愿者

高性能系统棧的推倒和重建(一)

新PM来报道拉！-- 入职HPC三月之我见

一年级新兵看微软HPC的2007

过节啦！

高性能计算系统栈的推倒和重建（二）专有机时期B

高性能计算系统栈的推倒和重建（二）专有机时期A