sjtu-hpc

name	sjtu-hpc
description	Knowledge base from '交我算 HPC+AI平台用户手册' by 上海交通大学网络信息中心. Use when answering questions about HPC cluster usage, SLURM job scheduling, module environment, data transfer, GPU computing, and common troubleshooting on SJTU HPC clusters.

交我算 HPC+AI 平台技术答疑 Skill

How to Use This Skill

• Without arguments — load core frameworks for reference
• With a topic — ask about SLURM, data transfer, GPU, module, etc.; I find and read the relevant chapter
• With a specific problem — describe the error or issue; I find matching diagnostics from FAQ and relevant chapters
• With chapter — ask for ch01; I load that specific chapter
• Browse — ask "what chapters do you have?" to see the full index

When you ask about a topic not covered in Core Frameworks below, I will read the relevant chapter file before answering.

---

Core Frameworks & Mental Models

SLURM 作业调度系统

SLURM (Simple Linux Utility for Resource Management) is the workload manager for all SJTU HPC clusters (Siyuan-1, Pi 2.0, AI, ARM).

核心命令:

• sbatch <script.slurm> — 提交批处理作业
• squeue — 查看排队/运行中的作业 (-j <jobid>, -u <user>, --state=R)
• scancel <jobid> — 取消作业
• sinfo — 查看集群节点状态 (-N, --states=idle, --partition=<queue>)
• sacct — 查看已完成作业报告 (-j <jobid>, --format=..., -S YYYY-MM-DD)
• scontrol — 查看/修改作业参数 (show job <jobid>, hold, release)
• srun — 启动交互式作业 (srun -p <queue> -n <cores> --pty /bin/bash)
• salloc — 申请资源后登录计算节点

作业状态: R(运行中), PD(排队中), CG(即将完成), CD(已完成), CANCELLED(已取消), FAILED(运行失败), TIMEOUT(超时), NODE_FAIL(节点故障)

集群队列与资源选择

集群	队列	适用场景	单节点配置	核数限制	最长运行时间
思源一号	64c512g	CPU通用计算	64核, 512G	1~60000核	7天
思源一号	a100	GPU计算(A100)	64核, 512G, 4×A100 40G	1~92卡	7天
Pi2.0	small	小规模测试	40核, 192G	1~20核	7天
Pi2.0	cpu	CPU大规模并行	40核, 192G	40~24000核	7天
Pi2.0	huge	大内存(3T)	80核, 3T	1~80核	2天
Pi2.0	192c6t	超大内存(6T)	192核, 6T	1~192核	2天
Pi2.0/AI	dgx2	GPU(V100)	96核, 1.45T, 16×V100	1~128卡	7天
ARM	arm128c256g	ARM计算	128核, 256G	1~12800核	7天
通用	debug	短时间测试	—	最多2节点	20~60分钟

选择原则: CPU大规模→cpu/64c512g; GPU→dgx2/a100; 大内存→huge/192c6t; 小测试→small/debug

Module 环境管理

集群通过 module 系统预部署数百种软件。用户无需自行安装即可加载使用。

• module avail — 列出所有可用模块
• module load <name> — 加载模块（不加版本号加载默认版）
• module list — 查看已加载模块
• module purge — 清除所有已加载模块
• module unload <name> — 卸载指定模块
• module show <name> — 查看模块具体信息

注意事项: 编译器与MPI库需匹配。加载 openmpi 模块时，若已加载 gcc 则加载 gcc 编译版，否则加载默认版。

文件系统体系

• /lustre (主文件系统, 25PB): HDD 搭建, 大容量高可用, 适合重要数据。路径: /lustre/home/acct-xxxx/yyyy
• /scratch (全闪存, 108TB): NVMe SSD, 高IOPS, 适合临时文件和IO密集型作业, 每3个月清理一次
• /dssg (思源一号 GPFS, 23.8PB): 思源一号主文件系统, metadata 3副本冗余, data 8+2p冗余
• /union (冷存储, 40.7PB): mergerfs虚拟文件系统合并 /archive + /vault, 有快照功能, 仅 data 节点可访问

数据传输原则

• 少量数据: 登录节点或 data 节点均可
• 大量数据: 必须用 data 传输节点（避免占用登录节点资源）
• 思源一号数据: sydata.hpc.sjtu.edu.cn
• Pi2.0/AI/ARM 数据: data.hpc.sjtu.edu.cn
• 单 SSH 连接上限 ~100-150MB/s, 大文件需多进程并发
• 推荐命令: scp -r, rsync --archive --partial --progress

---

Chapter Index

#	Title	Key Topics
ch01	平台概览与硬件资源	集群架构, 思源一号, Pi2.0, AI, ARM, 致远一号
ch02	账号申请与集群登录	主账号/子账号, SSH登录, HPC Studio, Tabby, VS Code, Tmux
ch03	文件系统与数据管理	Lustre, GPFS, /scratch, /union, 冷存储, 数据共享
ch04	数据传输	data节点, scp/rsync, 集群间传输, 线下迁移, 远程挂载
ch05	SLURM作业提交与管理	sbatch, squeue, scancel, 作业脚本, 交互式作业, 环境变量
ch06	队列详解与资源选择	各队列参数, GPU配比, 作业延长, debug队列
ch07	软件模块与编译器	module命令, GCC, Intel, MPI库, 数学库, 软件安装
ch08	GPU计算	A100, V100, GPU作业脚本, TensorFlow, CUDA
ch09	HPC可视化平台	HPC Studio, 远程桌面, Jupyter, RStudio, DeepSeek, MATLAB, ParaView
ch10	容器使用	Singularity镜像构建, AI平台容器编译
ch11	常见问题与排错	登录问题, 作业失败, 软件安装, 代理设置, node_fail
ch12	学科应用软件	GROMACS, LAMMPS, VASP, OpenFOAM, WRF, Quantum ESPRESSO, 生信软件
ch13	GPU深度学习实战	PyTorch, A100, debuga100, CUDA匹配, DDP多卡训练
ch14	并行配置与性能优化	BLAS线程, worker公式, 超额订阅, ProcessPoolExecutor
ch15	计费标准与成本管理	核时/卡时计费, 存储费用, 省钱策略, 查账充值
ch16	实用脚本与工具	批量作业, 自动化, 监控, 数据管理脚本
ch17	进阶故障排查	错误码, 性能诊断, 代理配置, fail2ban, 存储急救
ch18	Python/R 环境配置	Conda管理, GPU环境, R并行, Jupyter, 环境迁移, NLP/ML工作流
ch19	HPC REST API	Token认证, SSH证书自动化, 配额查询, Agent集成

Topic Index

• A100/A800 GPU → ch01, ch06, ch08, ch13
• ACL 权限 → ch03
• ARM 平台 → ch01, ch06
• Cold storage (冷存储) → ch03
• Conda → ch07, ch18
• Container (容器) → ch10
• Data transfer (数据传输) → ch03, ch04
• DGX-2 → ch01, ch06, ch08
• GPU 作业 → ch05, ch06, ch08, ch13
• GROMACS → ch12
• HPC Studio → ch02, ch09
• IDEKube (AI Lab) → ch02
• Jupyter → ch09, ch18
• LAMMPS → ch12
• MATLAB → ch09
• Module 命令 → ch07
• MPI 并行 → ch07
• OpenFOAM → ch12
• ParaView → ch09
• Python 环境 → ch07, ch18
• R 环境 → ch18
• Queue (队列) → ch06
• RStudio → ch09, ch18
• sacct → ch05
• sbatch → ch05
• scancel → ch05
• scratch 文件系统 → ch03
• scontrol → ch05
• sinfo → ch05
• Singularity → ch10
• Singularity → ch10
• SLURM → ch05
• squeue → ch05
• SSH 登录 → ch02
• TensorFlow → ch08, ch12
• Tmux → ch02
• V100 GPU → ch01, ch08
• VASP → ch12
• VS Code 连接 → ch02
• WRF → ch12
• 作业延长 → ch06
• REST API → ch19
• 代理设置 (Proxy) → ch11
• 账号管理 → ch02
• 计费与缴费 → ch15
• 调试队列 → ch06
• 并行配置 → ch14
• 计算外包工作流 → ch04

Supporting Files

• glossary.md — all key terms with definitions
• patterns.md — common SLURM job script patterns and workflows
• cheatsheet.md — quick reference for commands, queues, and troubleshooting

---

Scope & Limits

This skill covers the SJTU "交我算" HPC+AI platform based on the official user manual. It includes cluster architecture, SLURM job management, module environment, data transfer, GPU computing, HPC Studio visualization platform, containers, and common software applications. For topics beyond this cluster's documentation, check related skills or ask the agent directly.