Wie ihr große Sprachmodelle auf dem Laptop laufen lassen könnt | t3n

Es ist mittlerweile möglich, auch vernünftige LLMs auf dem eigenen Rechner laufen zu lassen. Das hat viele Vorteile – nicht nur beim Datenschutz. Das müsst ihr beachten. Simon Willison hat einen Plan, sollte das Ende der Welt nahen. Er besteht aus einem USB-Stick, auf dem er einige seiner bevorzugten Open-Weight-LLMs gespeichert hat – große Sprachmodelle […]