Discover Repositories

2025年05月17日 日详情

239 天前趋势

今天Github上出现了两个有趣的新项目,分别关注大模型内存优化和Rails文件存储监控。

  • KVSplit: 通过对KV缓存进行差异化量化,在Apple Silicon上实现更大的上下文窗口和更重的LLM,从而显著减少内存占用,并可能提高推理速度。
  • active_storage_dashboard: 这是一个Rails引擎,提供简洁、无依赖的仪表盘,用于监控和检查应用程序中的Active Storage数据。
更新 2025-05-17