该代码仓库提供了一系列具有教育意义的手写 PyTorch 实现,涵盖了现代大语言模型(LLM)架构。本项目灵感源自 Sebastian Raschka 的 LLM 架构画廊(LLM Architecture Gallery),与 `transformers` 等生产级库中的性能优化代码不同,本项目优先考虑代码的可读性和结构清晰度。 每个模型都包含在各自的目录中,能够直观地展示架构细节,例如注意力机制(MHA、GQA、MLA)、归一化策略以及 MoE 路由等——这些细节在经过高度优化和分布式处理的代码库中往往难以察觉。目前,该项目已包含 Llama 3、DeepSeek R1 和 Qwen 3 等主流模型的可用实现,并计划覆盖画廊中的全部 72 种架构。 作为一个学习资源,该仓库为那些希望从零开始理解现代大语言模型构建方式的学习者提供了理想的参考。作者欢迎社区贡献,包括新的模型实现、文档编写和测试,前提是这些贡献需秉持本项目清晰易懂的教育宗旨。所有代码均在 Apache License 2.0 许可下发布。
**FRANK** (frank.rh1.tech) 是一款专为树莓派 Pico 2 (RP2350) 设计的高性能 i386 PC 模拟器。它基于何春晖(Chunhui He)的 *Tiny386* 开发,使 RP2350 开发板能够运行 DOS、Windows 3.x、Windows 95 以及 Linux 系统。
**主要功能:**
* **硬件模拟:** 完整的 i386/i486/i586 CPU 模拟,可选 x87 FPU,支持最高 8MB PSRAM。
* **外设支持:** 支持 VGA/HDMI 输出、用于磁盘镜像(软盘/硬盘/ISO)的 SD 卡存储、PS/2 或 USB 键盘/鼠标,以及 NES 手柄支持。
* **音频:** 包含模拟的 AdLib (OPL2)、Sound Blaster 16、PC Speaker、Tandy、Covox 和 Disney Sound Source。
* **用户界面:** 提供运行时磁盘管理器(Win+F12)用于热插拔镜像,以及设置菜单(Win+F11)以便即时调整硬件配置。
**技术要求:**
该固件支持多种 RP2350 开发板(M1、M2、Olimex PC、Waveshare Z2),并要求 SD 卡中配置 `bios.bin`、`vgabios.bin` 和 `config.ini` 文件。构建选项允许对 CPU(最高 504MHz)和 PSRAM 进行超频,并针对 USB-HID 和视频输出提供了特定的标记。该项目基于 MIT 许可证开源,集成了包括 SeaBIOS 和 FatFs 在内的多个成熟模拟库。
在本期“五个关键词来自……”中,我们探索了克拉拉·帕克斯(Clara Parkes)的著作《消失的羊毛:美国羊毛产业的冒险》(*Vanishing Fleece: Adventures in American Wool*),该书揭开了羊毛生产技术领域的神秘面纱。书中重点介绍了五个核心术语:
* **条子(Sliver):** 指为纺纱准备的、未经加捻的均匀纤维束。
* **媒染(Mordanting):** 一种通常使用明矾的化学处理过程,能使天然染料永久地附着在羊毛纤维上。
* **碳化(Carbonizing):** 一种使用酸液去除羊毛中植物杂质的工业处理工艺,目前在美国已不再提供此类服务。
* **翻身困难(Casting):** 指绵羊翻倒在背上后无法自行站立,从而导致窒息风险的危险状况。
* **手工拔毛(Rooing):** 一种古老的传统方法,即在绵羊春季自然换毛期通过手工将羊毛拔下。
通过这些定义,帕克斯展示了纱线制作过程背后的工艺、历史以及农业现实。
本文介绍了一种针对 Android 的“一招鲜”提权策略,其目标并非通用的 Linux 内核或芯片组代码,而是各厂商(OEM)特有的内核驱动程序。作者将理想的漏洞利用定义为:**高可靠性**(成功率接近 100%)、**高可移植性**(设备间适配工作极少)以及**通用性**(覆盖多款设备)。
该策略分为两个阶段:
1. **沙箱逃逸**:利用 OEM 特有 IPC 端点(如 Binder)中的逻辑漏洞,绕过 SELinux 限制并进入特权域。
2. **页面释放后使用(UAF)**:利用 OEM 特有内核驱动中的页面生命周期漏洞。这提供了一种稳定的物理内存级原语,可绕过 KASLR、slab 加固及 CFI 等常见防御机制。
通过锁定 OEM 专有代码(如 One UI、HyperOS、ColorOS 等),作者构建了三条截然不同的漏洞利用链,分别覆盖了三星旗舰机型、多款小米机型以及 OPPO/一加/真我旗舰机型。作者认为,由于这些 OEM 驱动在编写时往往未考虑到恶意调用者,且绕过了许多现代内核保护措施,因此它们构成了一个被严重低估的攻击面。后续文章将详细分析各 OEM 专用漏洞链的技术细节。
在《当上帝说希腊语》(*When God Spoke Greek*)一书中,蒂莫西·迈克尔·劳(Timothy Michael Law)探讨了《七十士译本》(LXX)的历史及其重要性。这部《旧约》的希腊语译本曾是早期教会的主要圣经。凯文·哈特(Kevin Hart)在书评中强调了劳以通俗易懂的方式处理了这一复杂主题,并指出许多现代基督徒并未意识到,早期教会不仅将《七十士译本》视为一部译作,更将其视为上帝之言的直接启示。
该书追溯了《七十士译本》在希腊化时代的起源,以及它对新约作者所起的基础性作用——新约作者曾大量引用该译本。劳提出了一个引人深思的观点:《七十士译本》不仅是次要的翻译,更是见证比现行希伯来语正典更为古老且多样的希伯来语文本的关键证据。通过引用死海古卷的实证,该书阐述了《七十士译本》如何反映出不同的神学侧重(例如强调上帝是和平的缔造者而非战士),从而挑战了现代希伯来语文本的支配地位。最终,哈特称赞劳为《七十士译本》提供了一部至关重要且久违的导论,让非专业读者也能理解其丰富的历史。