Slurm使用

• 建议优先浏览港科广HPC用户手册
• 分区名查看网站
• 申请卡之前最后使用screen和tmux等指令开启可恢复窗口，避免电脑断点无法连接。（screen教程博客和tmux科广教程）
• （此条消息不确定）GPU占用率不满25%超过3个小时会警告，9个小时会停。停三回这个月就不能用。每个月超过十个警告会停止用户使用权限。所以空闲或者睡觉的时候需要注意。
  • 如果使用sbatch指令会让你的作业服从学校配置动态分配GPU，则不会用这个风险。

    新手配置

    linux指令

    参考科广教程——常见linux指令

    anaconda安装

    参考csdn博客

wget https://repo.anaconda.com/archive/Anaconda3-2025.06-1-Linux-x86_64.sh
chmod +x Anaconda3-2025.06-1-Linux-x86_64.sh 
./Anaconda3-2025.06-1-Linux-x86_64.sh 

source ~/.bashrc

#创建环境
conda create -n env_name python=x.x 
# 删除环境
conda remove -n env_name --all
# 激活环境 
conda activate env_name 
# 退出环境
conda deactivate

(我遇到的)常见问题

快速调试

srun -p debug -n 4 --gres=gpu:1 --time=00:30:00 --pty bash

• debug分区有8卡40G，每个人最多使用30min，所以适合快速调试，同时等待时间很短。
• -n代表CPU总核心数量

分配GPU

• 首先是申请GPU，salloc -p xx -n 4 --gres=gpu:1，等待GPU分配
  • 随后可以使用srun python xx.py
  • 或者使用srun --pty bash调出计算节点的bash，之后正常使用nvidia-smi和python xx.py
  • 常用的分区指令是salloc -p i64m1tga800ue -n 4 --gres=gpu:1
• [!] 注意如果是先salloc 再srun --pty bash，退出时候第一次使用exit 是退出srun但是GPU还是在占用，要再次使用exit取消任务才算彻底释放

出现找不到slrum指令

修改环境变量export PATH=$PATH:/opt/slurm/bin

• 想用开机自启使用vim ~/.bashrc修改启动设置，将export PATH=$PATH:/opt/slurm/bin添加到最后一行

  nvcc –version 没有找到这个指令

  /usr/local也没有对应的CUDAx.x的文件夹，是因为HPC(High-Performance Computing)/服务器通常使用“模块(module)”来管理软件环境。

• 运行命令 module avail，看看列表里有没有类似 cuda 或 cudatoolkit 的条目。
• 从上面的列表里选择一个版本进行加载。例如，加载 12.1 版本：module load cuda/12.1
• 取消load是使用module unload xx

卡死

squeue -u <username> 找到自己的job id ，然后使用scancel <jobid>直接中断作业

• 目前遇到卡死的情况，是在运行module avail之后使用ctrl+C。gpu分区是1-2

持续监测GPU使用情况

正常的多终端应该使用：watch -n 1 nvidia-smi 在slurm系统可用sgview -j <作业号> 相当于使用一次

缺乏ffmpeg，不一定要从module加载

也可以使用conda install -c conda-forge ffmpeg在环境下安装，同样可以使用。

修改transformer找缓存的路径

export TRANSFORMERS_CACHE=/hpc2hdd/home/$user_name$/.cache/huggingface/hub

下载数据集文件

一般是使用wget 网址下载文件，如果下载速度太慢，考虑以下：

• 找国内镜像源
• 先下载到本地，后使用filezilla软件上传到服务器。这种软件可以看到上传进度并使用多线程，我觉得应该会比VScode传递快。

This line appears after every note.