The impact of spatial layout of jobs on parallel I/O performance

Mache, Jens; Lo, Virginia; Livingston, Marilynn; Garg, Sharad

doi:10.1145/301816.301830

Cited by 6 publications

(13 citation statements)

References 25 publications

Supporting

Mentioning

Contrasting

Unclassified

Order By: Relevance

“…It has been observed that spacing I/O-intensive jobs in time on a parallel file system improves performance [18]. Our emphasis is primarily to spread these in space, and also to identify specific symbiotic partners for such jobs.…”

Section: Other Related Workmentioning

confidence: 99%

Symbiotic Space-Sharing on SDSC’s DataStar System

Weinberg

Snavely

2007

Job Scheduling Strategies for Parallel Processing

View full text Add to dashboard Cite

Abstract.Using a large HPC platform, we investigate the effectiveness of "symbiotic space-sharing", a technique that improves system throughput by executing parallel applications in combinations and configurations that alleviate pressure on shared resources. We demonstrate that relevant benchmarks commonly suffer a 10-60% penalty in runtime efficiency due to memory resource bottlenecks and up to several orders of magnitude for I/O. We show that this penalty can be often mitigated, and sometimes virtually eliminated, by symbiotic space-sharing techniques and deploy a prototype scheduler that leverages these findings to improve system throughput by 20%.

show abstract

Section: Other Related Workmentioning

confidence: 99%

Symbiotic Space-Sharing on SDSC’s DataStar System

Weinberg

Snavely

2007

Job Scheduling Strategies for Parallel Processing

View full text Add to dashboard Cite

show abstract

“…Entretanto, poucos trabalhos têm visado o desenvolvimento de políticas voltadas para aplicações da classe I/O-Bound (SILVA; SCHERSON, 2000;MACHE et al, 1999;CHASE et al, 1999). Esses trabalhos avaliam tanto aplicações Disk-Bound quanto Network-Bound que manipulam grandes volumes de dados (data intensive).…”

Section: )unclassified

NBSP: Uma política de escalonamento network-bound para aplicações paralelas distribuídas

Ishii¹

View full text Add to dashboard Cite

AgradecimentosEm primeiro lugar agradeço a Deus por me conceder o dom mais importante: a Vida.Agradeço ao professor Marcos José Santana, pela orientação, confiança e paciência durante as diversas fases do trabalho.À professora Regina pelas críticas construtivas, por sua disponibilidade e opiniões sempre seguras.Ao professor Rodrigo e ao Luciano pelo apoio direto no trabalho.Aos demais professores e funcionários do Instituto, pelo profissionalismo e disponibilidade. Representantes dessa instituição que aprendi a respeitar e compreender o significado: USP, educação para o Brasil.A minha mãe Iracema, minha irmã Regina, meus sobrinhos Luiz Fernando e João Paulo, meu cunhado Beto e todos os outros familiares que sempre demonstraram total apoio e compreensão na minha ausência. Sem esquecer daquele que deixou saudades: meu pai Fumio.A todos os amigos e amigas. Para não cometer o equívoco de esquecer algum, não listarei todos os nomes. Mas fiquem certos que sua amizade foi de suma importância para a conclusão deste trabalho e, como se não bastasse, terão que me aturar daqui para frente! Aos amigos e colegas do grupo LaSDPC. Aos amigos de república: Douglas, Vinicius, Adriano, Rodrigo, Juliano e Michel. Amigos de outros grupos, galera do volei e do futebol. À CAPES, pelo apoio financeiro. ResumoEste trabalho apresenta uma nova política de escalonamento para aplicações paralelas Network-Bound baseada no impacto do processamento causado pela comunicação entre processos. O modelo utilizado quantifica o volume de tráfego imposto sobre a rede de comunicação por meio dos parâmetros latência e sobrecarga. Tais parâmetros representam a carga que cada processo impõe sobre a rede e o atraso sobre a CPU devido às operações na rede. Esse atraso é representado na política por meio da métrica slowdown. Equações matemáticas são definidas para a quantificação dos custos envolvidos no processamento e na troca de mensagens, do mesmo modo, são propostas equações para determinar a largura máxima de banda (bandwidth) utilizadas nas tomadas de decisões de escalonamento. Outra característica importante da política é a definição de uma constante k, que delimita a utilização máxima permitida da rede de comunicação. O valor de k define a adoção de duas possíveis técnicas de escalonamento: escalonamento em grupo, ou por intermédio da rede de comunicação. As técnicas propostas são incorporadas à política de escalonamento DPWP (originalmente CPU-Bound) gerando uma extensão Network-Bound. Resultados experimentais e de simulação confirmam o aumento de desempenho de aplicações paralelas sob supervisão da política DPWP estendida, denominada NB SP, quando comparadas às execuções supervisionadas pela DPWP original. AbstractThis work presents a new scheduling policy for Network-Bound parallel applications based on impacts of the processing operations resulting from the communication among processes. The model adopted quantifies the traffic volume imposed on the communication network by means of the latency and the overhead parameters. Such parameters repre...

show abstract

“…One of the research direction on parallel I/O is to study how parallel I/O performance is affected by the spatial layout of tasks on a mesh cluster [5,6,1,2], much like the processor allocation problem described earlier in the context of optimizing communication traffic.…”

Section: Introductionmentioning

confidence: 99%

“…al. [6] showed that on a mesh-connected cluster the spatial layout of a task directly affects network contention due to I/O traffic and thus has significant impact on parallel I/O performance. There is serious contention for write traffic when the I/O nodes lie vertically on the left or right side of the mesh, and serious read traffic when the I/O nodes lie horizontally, due to the use of XY-routing in the mesh cluster topology.…”

Section: Introductionmentioning

confidence: 99%

“…al proposed a Parallel Layout Allocation Strategy (PLAS) to assign compute nodes so that they lie parallel to the I/O nodes. It is concluded in [6] that the parallel spatial layout is superior to block-based and orthogonal layouts, and it is desirable that one half of the compute nodes are placed above the link in the middle of the I/O nodes and one half are placed below.…”

Section: Introductionmentioning

confidence: 99%

See 1 more Smart Citation