我正在构建一个网络分布式并行处理应用程序,它在许多机器上使用cpu和GPU资源的组合.

该应用程序必须在数千次迭代的非常大的数据集上执行一些计算成本非常高的操作:

for step = 0 to requested_iterations
  for i = 0 to width
    for j = 0 to height
      for k = 0 to depth
        matrix[i,j,k] = G*f(matrix[i,k])

此外,矩阵运算必须同步执行:也就是说,每次迭代都取决于紧接在它之前的帧的结果.

此ad-hoc网格中可用的硬件(包括专用服务器和空闲桌面计算机)在不同机器之间的性能差异很大.我想知道最好的方法是平衡整个系统的工作量.

一些特质:

>网格应尽可能健壮.一些模拟需要数周才能运行,如果100台机器中有一台脱机,那么不必取消运行会很好.
>一些低端机器(闲置的桌面,但有人登录时必须唤醒)可以随时加入和离开网格.
>专用服务器也可以加入和离开网格,但这是可以预测的.

到目前为止,我能想出的最好的想法是:

>让每个节点跟踪处理矩阵中的一组n个单元(每单位时间处理的单元)所花费的时间,并将其报告给中央存储库.
>此时间对模拟的一个帧(整个网格)的总时间和问题域的总大小进行加权.因此,每个节点将获得以每个工作单位(矩阵单元格)表示的分数,以及表示其性能与其余网格的标量等级.
>在每个框架上,根据这些分数分配工作负荷,以便每台机器尽可能接近同一时间完成.如果机器A比机器B快100倍,它将在给定的帧中接收100倍的矩阵单元(假设矩阵大小足以保证包括额外的机器).
>离开网格的节点(登录的桌面等)将在其余节点之间重新分配其工作负载.

要么,

以树结构排列节点,其中每个节点都分配了“权重”.树中较高的节点具有基于其能力与其子女的能力相结合的权重.每帧调整此重量.当节点失去与其子节点的通信时,它使用缓存的树图来联系孤立的子节点并重新平衡其分支.

如果它有所不同,该应用程序是C#和OpenCL的组合.

欢迎链接到论文,示例应用程序,尤其是教程.

编辑

这不是功课.我正在把我作为论文一部分写的模拟器变成一个更有用的产品.现在,工作统一分配,不考虑每台机器的性能,也没有从加入或离开电网的机器中恢复的设施.

感谢您提供优质,详尽的回复.

解决方法

对于异构集群,我喜欢让每个处理器在处理器可用时请求新作业.实现涉及一个轻量级服务器,可以一次处理多个请求(但通常只返回一个作业号).实现可能会是这样的:

>将工作分解成最小的组件(我们知道现在有1000个任务)
>启动一个网络服务器(最好是带有超时的UDP,以避免网络拥塞)向上计数
>启动集群进程.
>每个流程都会问:“我应该执行哪个工作号码?”并且服务器回复一个号码
>当流程结束时,它会询问下一个工作号码.当所有任务完成后,服务器会向进程返回-1,因此它们会关闭.

这是一个比上面建议的更轻的替代品.您的快速处理器仍然比较慢的处理器做更多的工作,但您不必计算任务所需的时间.如果处理器因任何原因退出,它将停止询问任务.您的服务器可以选择在一定时间后回收任务编号.

这几乎是集群调度程序自己做的事情,除了处理器没有启动和关闭成本,因此您的个人任务可以更小而不会受到惩罚.

c# – 并行处理应用程序中的负载平衡的更多相关文章

  1. HTML利用九宫格原理进行网页布局

    这篇文章主要介绍了HTML利用九宫格原理进行网页布局,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧

  2. ios – 围绕x轴旋转AVAssetWriter的输出180度

    我正在使用AVAssetWriter创建一个Quicktime电影文件.目前输出视频是“倒置”.理论上,我可以通过围绕水平轴旋转180度来纠正这个问题.最好的方法是什么?Appledocs和wikipedia都没有明确说明仿射变换矩阵是如何工作的.并且可能有更好的方式.解决方法如果要围绕z轴旋转视频180度,或者如果你想在x轴上反射

  3. Swift 2.0学习笔记Day 35——会使用下标吗?

    下标Swift中的下标相当于Java中的索引属性和C#中的索引器。getter访问器是一个方法,在最后使用return语句将计算结果返回。setter访问器“新属性值”是要赋值给属性值。参数的声明可以省略,系统会分配一个默认的参数newValue。可以自定义一个二维数组类型,然后通过两个下标参数访问它的元素,形式上类似于C语言的二维数组。

  4. Swift - 动画效果的实现方法总结附样例

    在iOS中,实现动画有两种方法。这三个方法都是类方法。里面可以设置动画的效果。

  5. 《从零开始学Swift》学习笔记Day 35――会使用下标吗?

    下标Swift中的下标相当于Java中的索引属性和C#中的索引器。getter访问器是一个方法,在最后使用return语句将计算结果返回。setter访问器“新属性值”是要赋值给属性值。参数的声明可以省略,系统会分配一个默认的参数newValue。可以自定义一个二维数组类型,然后通过两个下标参数访问它的元素,形式上类似于C语言的二维数组。

  6. 用Swift3实现n*n阶矩阵逆时针输出

  7. 用Swift3实现n*n阶矩阵顺时针输出

  8. 数组 – Swift中的二维数组

    我对于Swift中的2D数组感到困惑。如果我错了,请你纠正我。首先;声明一个空数组:其次填充数组。最后,编辑数组中的元素这可能是noob问题,但目标C后,我真的很困惑..定义可变数组要么:OR如果你需要一个预定义大小的数组:在位置更改元素要么更改子数组要么要么如果你有3×2数组或0(零),现在你有:因此,请注意,子数组是可变的,您可以重新定义表示矩阵的初始数组。在访问前检查大小/边界备注:3和N维数组的相同标记规则。

  9. 2.9 多维数组的创建和遍历 [Swift原创教程]

    它由两个数组元素组成。课程配套素材下载地址:资料下载

  10. Swift泛型:需要一种类型的加法和乘法能力

    现在,我想确保类型T可以比较,所以我可以写这个:这可能是有用的,以防我想比较2个矩阵,这意味着比较它们的值。我也想提供两个矩阵求和的能力,所以我也应该添加一个协议,要求可以添加由矩阵用户给出的类型“T”同样,我也想说:问题1:可以使用什么协议名称?更具体地说,这个)–>矩阵{产生错误:使用未声明的类型“T”。我的意思是结果将是一个具有相同类型的两个输入矩阵的矩阵,但我可能完全弄乱了语法。

随机推荐

  1. c# – (wpf)Application.Current.Resources vs FindResource

    所以,我正在使用C#中的WPF创建一个GUI.它看起来像这样:它现在还没有完成.这两行是我尝试制作一种数据表,它们在XAML中是硬编码的.现在,我正在C#中实现添加新的水果按钮功能.我在XAML中有以下样式来控制行的背景图像应该是什么样子:因此,在代码中,我为每列col0,col1和col2创建一个图像,如果我使用以下代码,它添加了一个如下所示的新行:如你所见,它不太正确……为什么一个似乎忽略了一些属性而另一个没有?

  2. c# – 绑定DataGridTemplateColumn

    似乎我已经打了个墙,试图在DataGrid上使用DataTemplates.我想要做的是使用一个模板来显示每个单元格的两行文本.但是似乎无法以任何方式绑定列.以下代码希望显示我想做的事情.注意每个列的绑定:模板列没有这样的东西,因此,这个xaml不可能工作.我注定要将整个DataTemplate复制到每个列,只是对每个副本都有不同的约束?解决方法我不完全确定你想要做什么,但如果您需要获取整行的DataContext,可以使用RelativeSource绑定来移动视觉树.像这样:

  3. c# – 学习设计模式的资源

    最近我来到了这个设计模式的概念,并对此感到非常热情.你能建议一些帮助我深入设计模式的资源吗?

  4. c# – 是否有支持嵌入HTML页面的跨操作系统GUI框架?

    我想开发一个桌面应用程序来使用跨系统,是否有一个GUI框架,允许我为所有3个平台编写一次代码,并具有完全可脚本化的嵌入式Web组件?我需要它有一个API来在应用程序和网页之间进行交流.我知道C#,JavaScript和一些python.解决方法Qt有这样的事情QWebView.

  5. c# – 通过字符串在对象图中查找属性

    我试图使用任意字符串访问嵌套类结构的各个部分.给出以下(设计的)类:我想要从Person对象的一个实例的“PersonsAddress.HousePhone.Number”获取对象.目前我正在使用反思来做一些简单的递归查找,但是我希望有一些忍者有更好的想法.作为参考,这里是我开发的(crappy)方法:解决方法您可以简单地使用标准的.NETDataBinder.EvalMethod,像这样:

  6. c# – 文件下载后更新页面

    FamilyID=0a391abd-25c1-4fc0-919f-b21f31ab88b7&displaylang=en&pf=true它呈现该页面,然后使用以下元刷新标签来实际向用户提供要下载的文件:你可能需要在你的应用程序中做类似的事情.但是,如果您真的有兴趣在文件完全下载后执行某些操作,那么您的运气不佳,因为没有任何事件可以与浏览器进行通信.执行此操作的唯一方法是上传附件时使用的AJAXupload.

  7. c# – 如何在每个机器应用程序中实现单个实例?

    我必须限制我的.net4WPF应用程序,以便每台机器只能运行一次.请注意,我说每个机器,而不是每个会话.我使用一个简单的互斥体实现单实例应用程序,直到现在,但不幸的是,这样一个互斥是每个会话.有没有办法创建机器互连,还是有其他解决方案来实现每个机器应用程序的单个实例?

  8. c# – WCF和多个主机头

    我的雇主网站有多个主机名,都是同一个服务器,我们只是显示不同的皮肤来进行品牌宣传.不幸的是,在这种情况下,WCF似乎不能很好地工作.我试过overridingthedefaulthostwithacustomhostfactory.这不是一个可以接受的解决方案,因为它需要从所有主机工作,而不仅仅是1.我也看过thisblogpost,但是我无法让它工作,或者不是为了解决我的问题.我得到的错误是“这

  9. c# – ASP.NET MVC模型绑定与表单元素名称中的虚线

    我一直在搜索互联网,试图找到一种方式来容纳我的表单元素的破折号到ASP.NET的控制器在MVC2,3或甚至4中的默认模型绑定行为.作为一名前端开发人员,我更喜欢在我的CSS中使用camelCase或下划线进行破折号.在我的标记中,我想要做的是这样的:在控制器中,我会传入一个C#对象,看起来像这样:有没有办法通过一些正则表达式或其他行为来扩展Controller类来适应这种情况?我讨厌这样的事实,我必须这样做:甚至这个:思考?

  10. c# – 用户界面设计工具

    我正在寻找一个用户界面设计工具来显示文档中可能的GUI.我不能生成代码.我知道MicrosoftVisio提供了一个功能.但有什么办法吗?您使用哪种软件可视化GUI?

返回
顶部