肥猪のBlog

训练不同参数量的模型需要多少显存？

最近训练 72B 的 LLM，在挑选机器的时候显存是一个重要指标，下面是一个参考我的训练使用了 A100...

  • feizhuqwq
  • 2024 年 04 月 13 日
  • 暂无评论
    •

    缤纷云 S4「S3 + Smart」

    Bitiful(缤纷云) 是国内一个做低成本对象存储的他们的产品 S4 类似 Wasabi.com(低成...

  • feizhuqwq
  • 2024 年 04 月 03 日
  • 1 条评论

    • 使用 flask 实现的简单的 URL 反向代理

    有时候在一些特殊的网络受限的环境需要下载一些东西，又不方便添加代理，因此制作了这个简单的程序注：性能较差...

  • feizhuqwq
  • 2024 年 04 月 01 日
  • 暂无评论
    •

    Microsoft Edge 是我见过的有史以来最垃圾，最流氓，最无耻的国外大厂浏览器

    Edge 基本每怎么用过，但也没去删，正好有时候这样一个干净环境可以用来测试，测完就 ctrl+shif...

  • feizhuqwq
  • 2024 年 01 月 30 日
  • 6 条评论
    •

    基于 CFPS 数据的中国家庭工作性收入研究

    本文章是我学习 Stata 和 Python pandas, matplotlib 以及一些统计原理的...

  • feizhuqwq
  • 2023 年 12 月 08 日
  • 1 条评论