1台A100（80G）是否能跑起来？

[levinxo]

使用1台A100（80G），尝试跑了下，大约10分钟后就会异常退出。是不是需要2台A100才行？

启动指令是：

torchrun --nproc_per_node 8 test/single_req_test.py request.max_new_tokens=64 models=DeepSeek-R1 models.ckpt_dir=/mnt/ds/models/DeepSeek-R1 infer.pp_size=1 infer.tp_size=8

用top观察也有报错Killed：

服务器监控指标：

chitu运行期间的top：