Skip to main content

学院实验室到了台新服务器，想部署点模型玩玩本地agent，佬友们有什么推荐的吗🌐 链接:

  1. 学院实验室到了台新服务器，想部署点模型玩玩本地agent，佬友们有什么推荐的吗

    🌐 链接: https://linux.do/t/topic/2418677

    🔍 关键词: #api

    🏷️ 分组: LinuxDo论坛

    🕒 时间: 2026-06-17 01:52:00
    LINUX DO
    学院实验室到了台新服务器，想部署点模型玩玩本地agent，佬友们有什么推荐的吗
    rt， 今晚才有空 ssh 到服务器，看了下是型号是浪潮信息的 NF5468M6，64 张 VACC 加速卡 vastai@vastai-NF5468M6:~$ ls -l /dev/vacc* crw-rw-rw- 1 root root 321, 69 6月 3 02:11 /dev/vacc0 crw-rw-rw- 1 root root 321, 299 6月 3 02:11 /dev/vacc1 crw-rw-rw- 1 root root 321, 302 6月 3 02:11…