跳到主要内容

3 篇博文 含有标签「AI」

AI / LLM / Stable Diffusion / Novel AI / GPT-SoVITS

查看所有标签

关于WSL上玩Ollama把我C盘写满了的事

· 阅读需 1 分钟
RibomBalt
CTF enthusiastist, GeoPhysics PhD, Amateur coder

TL;DR

  • WSL的磁盘文件在C盘,我这里默认位置是C:\Users\<username>\AppData\Local\Packages\CanonicalGroupLimited.UbuntuonWindows_79rhkp1fndgsc\LocalState\ext4.vhdx
  • WSL磁盘空间会自动增长但不会收缩,可以用多种方法回收空间
  • 把C盘写满了会报错退出。
  • 可以用wsl --manage Ubuntu-22.04 --move /d/WSL/Ubuntu-22.04把WSL的磁盘文件移动到D盘。
  • 也可以用wsl --export Ubuntu-22.04 /d/WSL/Ubuntu-22.04.tar导出到tar文件,然后用wsl --import Ubuntu-22.04 /d/WSL/Ubuntu-22.04 /d/WSL/Ubuntu-22.04.tar导入到D盘。

WSL2 CUDA禁用共享内存

· 阅读需 4 分钟
RibomBalt
CTF enthusiastist, GeoPhysics PhD, Amateur coder

TL;DR;

  • 对于双显卡设备,当N卡显存不够用时,会使用集显提供的共享显存,会显著降低性能。
  • 可以通过torch.cuda.set_per_process_memory_fraction(1.0, 0)在torch模块中禁用共享显存。
  • 禁用共享显存会导致专用显存报错时直接退出而不是保持运行,出现共享显存问题首先应该调参减小模型显存占用。