VLLm: Versionsgeschichte

Zur Navigation springen Zur Suche springen

Auswahl des Versionsunterschieds: Markiere die Radiobuttons der zu vergleichenden Versionen und drücke die Eingabetaste oder die Schaltfläche am unteren Rand.
Legende: (Aktuell) = Unterschied zur aktuellen Version, (Vorherige) = Unterschied zur vorherigen Version, K = Kleine Änderung

13. November 2025

  • AktuellVorherige 01:1601:16, 13. Nov. 2025‎ Hendrik Diskussion Beiträge‎ K 1.165 Bytes +1 Byte‎ →‎Ausführen
  • AktuellVorherige 00:3200:32, 13. Nov. 2025‎ Hendrik Diskussion Beiträge‎ 1.164 Bytes +1.164 Bytes‎ Die Seite wurde neu angelegt: „=== Beschreibung === === Download === Normal (ROCm) <syntaxhighlight lang="bash" line="1"> docker pull rocm/vllm-dev:nightly </syntaxhighlight> gfx906 <syntaxhighlight lang="bash" line="1"> docker pull nalanzeyu/vllm-gfx906 </syntaxhighlight> === Ausführen === <syntaxhighlight lang="bash" line="1"> docker run -it --rm --shm-size=8g --device=/dev/kfd --device=/dev/dri \ --group-add video -p 8086:8000 \ -v /mnt/share/models:/models \ nalanzey…“
Abgerufen von „https://wiki.fam-puls.de/index.php?title=VLLm“