Show HN:让GLM 5.2在我的慢电脑上运行
Pitch · 一个纯C实现的引擎,通过流式加载专家权重,在25GB内存的消费级机器上运行744B参数的MoE模型,仅激活约40B参数。
Community · 社区赞赏其工程实现,但指出int4量化可能影响精度,且磁盘I/O成为瓶颈,LRU缓存和热存储设计是关键优化点。
Pitch · 一个纯C实现的引擎,通过流式加载专家权重,在25GB内存的消费级机器上运行744B参数的MoE模型,仅激活约40B参数。
Community · 社区赞赏其工程实现,但指出int4量化可能影响精度,且磁盘I/O成为瓶颈,LRU缓存和热存储设计是关键优化点。
Pitch · 一个每日单词挑战游戏,快速、简洁,支持放松模式和分享分数。
Community · 用户喜欢其极简设计和每日挑战机制,但部分人认为难度曲线不够平滑,缺乏长期留存动力。
Pitch · 一个地图应用,汇总纽约市所有超市的每周优惠,帮助用户比较价格。
Community · 目前只有少量互动,社区期待更多数据源和实时更新功能。
了解欧盟大规模扫描私人通信的立法进程及其对加密通信的影响,适合关注隐私权和数字权利的读者。
有评论指出,该法案可能为未来更严格的监控措施铺平道路,需持续关注后续修正案。
pgrust项目展示了用Rust重写Postgres的可行性,通过全部回归测试,但尚未优化性能,适合对数据库内部实现和Rust应用感兴趣的开发者。
社区讨论强调,真正的挑战在于扩展生态兼容性,而非核心功能重写。
Meta通过CXL桥接芯片Vistara重用旧DIMM,解决内存成本问题,适合数据中心运维和硬件工程师。
有评论指出,CXL标准仍在演进,Meta的实践可能推动行业采用类似方案。
Ello分享实时AI导师架构,要求响应<1000ms并融入教学法,适合AI教育产品开发者和儿童学习研究者。
社区讨论强调,AI导师的‘等待时间’设计比成人应用更严格,2秒延迟即可导致学习中断。
苹果隐藏功能可将iPhone限制为基本功能,适合家长为孩子配置手机,社区讨论其可用性和限制。
有评论指出,该功能在iOS更新中可能被移除或改变,建议家长定期检查设置。
一篇关于MPMC队列设计与基准测试的深度文章,纠正了无等待性质的错误声明,适合并发编程和系统性能优化者。
社区讨论指出,无等待队列在现实中很少实现,有界等待是更实用的目标。
介绍内部服务TLS证书管理的最佳实践,包括自动化轮换和私有CA设置,适合运维和安全工程师。
有评论建议使用mTLS结合服务网格,进一步简化证书管理。
分析美国救护车费用高昂的系统性原因,包括保险、定价和监管因素,适合关注医疗政策和消费者权益的读者。
社区讨论指出,救护车费用问题与整个医疗体系定价不透明相关,需系统性改革。