## Unsloth Studio:本地AI模型训练与推理 Unsloth Studio (Beta) 是一款新的、开源的、无需代码的网页界面,旨在简化本地AI模型的使用。它允许用户在Mac、Windows和Linux上运行、训练和导出开源模型——即使对于基本的聊天推理,也不需要强大的GPU。 主要功能包括:训练速度提升2倍,VRAM使用量减少70%,支持500多种模型(文本、视觉、音频、嵌入),以及轻松微调Qwen3.5等LLM。用户可以通过PDF、CSV和JSON上传数据,使用“数据配方”创建自定义数据集。实时观测工具跟踪训练进度,模型可以导出为与llama.cpp和Ollama等流行平台兼容的格式。 Unsloth优先考虑隐私,提供完全离线操作和安全认证。目前仍处于Beta阶段,未来的更新将支持Apple MLX、AMD、Intel,并改进多GPU功能。提供Google Colab笔记本,方便快速探索。
## CPython JIT进展:提前一年达到目标
CPython JIT项目在性能提升方面取得了显著进展,在macOS AArch64上提前一年,在x86_64 Linux上提前数月达到了最初的目标。3.15 alpha版本的JIT在macOS AArch64上比标准解释器快11-12%,在x86_64 Linux上快5-6%——性能范围从20%减速到超过100%加速,具体取决于工作负载。
这一成功是在最初的JIT几乎没有改进,Faster CPython团队面临资金削减之后实现的。 这一转机归功于运气、一支敬业的团队(Savannah Ostrowski、Mark Shannon、Diego Russo、Brandt Bucher等)以及战略性地转向社区管理。
关键改进包括新的基于跟踪的前端(“双分派”)和引用计数消除,这两者都得益于将复杂任务分解为可管理的小贡献,从而吸引了11名贡献者组成的不断壮大的团队。Savannah Ostrowski领导的每日性能报告可靠的基础设施也至关重要。该项目强调与PyPy等其他项目的合作和学习,强调社区和共享知识在推动JIT开发方面的重要性。未来的工作将集中在3.15/3.16版本中的自由线程支持。
## Edge.js:在边缘安全地运行 Node.js
Edge.js 是一种新的开源 JavaScript 运行时,旨在安全高效地运行现有的 Node.js 应用程序,用于人工智能和边缘计算,绕过容器的开销。 与 Deno 或 Cloudflare Workers 等运行时需要修改代码不同,Edge.js 通过使用 WebAssembly (WASIX) 隔离潜在的不安全操作(系统调用和本机模块),从而保持完全的 Node.js 兼容性。
这种方法允许运行未修改的 Node.js 应用程序和本机模块,提供高密度和快速启动时间。 Edge.js 利用现有的 Node.js 架构和依赖项,旨在实现无缝集成。
由 Wasmer 开发,Edge.js 的出现源于对快速、兼容且沙盒化的 JS 运行时的需求。 之前的尝试,包括 WinterCG,面临速度和兼容性问题。 Edge.js 通过 WASIX 将 JS 引擎(V8、JavascriptCore 或 QuickJS)与操作系统级操作分离来实现沙盒化。
目前,Edge.js 在安全模式下以原生 Node.js 速度的 5-30% 运行,并且计划进行持续改进。 它支持绝大多数 Node.js 模块,并旨在成为服务器less环境中 Node 工作负载最无摩擦的运行时。 该项目的加速得益于 AI 工具(如 GPT-4)的使用。