LLM Memory: Learning and Editability
研究知识学习的三个层次：知识能被回答、能被组合、更新后能继续被使用。每一层都有独立的实验和机制解释，共同回答训练与模型结构怎样形成可提取、可复用、可更新的知识。
当前研究入口：Roadmap。 以三层已有观察为基础，推进实际Transformer的数学解释与通用架构的学习效率比较。顺序新知识迁移、写入目标比较和回放复测的完成结果见结果汇总；第一层的学习与提取、第二层的组合使用继续各自构成论文内容。
最新Loop同起点与规模开发比较完成16条训练及独立重载：共享、解共享、仅MLP共享、浅层参照，以及宽度/循环扩展。代码同时记录知识学习、组合使用、新增后使用和实际Transformer跨调用梯度；当前结果未建立Loop的三层统一效率优势。
MoE顺序学习开发比较也已完成：四条新增训练、两条普通基线复用，独立重载与W&B核验通过；MoE尚未建立新增组合及旧保持的稳定优势，三层学习曲线与成本均已保留。
| 文档 | 用途 |
|---|---|
| Roadmap | 唯一当前路线：论文立意、三层问题、证据用途与实验优先级 |
| 结果汇总 | 三层已有结果、最新科学状态及证据入口 |
| 理论依据 | 条件推导、数学假设及解释边界 |
| 实验协议 | 共同评价、执行规范与历史机器契约 |
| 项目工作入口 / 开发约定 | 环境、恢复、追踪和修改规则 |
各批科学结果、独立重载和云端同步状态分别核查，具体证据与解释边界见结果汇总；已完成批次不重新提交。当前实验范围与冻结入口由roadmap统一维护。
实验材料
本GitHub仓库保存源码、测试、配置、开发说明和当前roadmap。实验数据、原始预测、日志、学习曲线、详细研究报告与冻结材料按存储配置归档到 Hugging Face 数据集仓库。GitHub单文件小于200 MB；权重、优化器状态及Docker镜像不上传。
本机结果和理论文档可从上表阅读；仅克隆代码仓库时，按下节下载研究材料。远端是归档快照，可能落后于本机；当前roadmap随代码维护，不以远端旧计划覆盖。
| 归档材料 | 路径 |
|---|---|
| 数据与tokenizer | data/ |
| 原始预测、日志与运行状态 | results/ |
| 冻结配置、源码、审计与图表 | docs/development-artifacts/ |
| 数组归档及原路径索引 | array-archives/、ARRAY_ARCHIVES.json |
| 文件与哈希清单 | ARCHIVE_MANIFEST.json |
2026-10-04已核验的历史版本为 742098e8a543：62,376份逻辑材料，其中43,358份数组收录于24个归档包。此版本不代表其后的本机结果或本次文档已同步；后续归档以相应核验记录为准。
安装与下载
Python ≥3.10。按需要安装运行、分析、追踪或归档依赖：
python -m venv .venv
source .venv/bin/activate
python -m pip install -e '.[neural,dev,analysis,archive]'
本机 gpulingjun010010012239.os30 在启动Python前按AGENTS将 /lib64 放在 LD_LIBRARY_PATH 首位；独立容器采用其已验证环境。
下载指定批次及其冻结材料，避免用历史快照覆盖活动文档：
python scripts/download_experiment_artifacts.py \
--include 'results/parametric-architecture-development-v1/**' \
--include 'docs/development-artifacts/parametric-architecture-development-v1/**'
需要完整历史复现时，可用 --revision 742098e8a5437c2640ee0634a4617ae5a88fc46a 固定版本，在独立目录或检查原路径后下载。下载器核对归档及数组SHA256，并恢复原目录结构；私有访问凭据仅保存在本机。未上传权重从实验主机恢复。
开发
src/llm_memory_editability/：模型、数据生成、训练与分析。scripts/：执行、分析、审计、报告、追踪及下载入口。configs/：实验配置、来源和环境。tests/：真值、划分、训练契约、恢复及评分检查。docs/reports/：需要保留的历史详细报告；不维护新的研究路线。
python -m pytest
ruff check .
ruff format --check .
代码修改按范围检查；纯文档修改检查链接、锚点、状态及机器契约。部分检查依赖归档材料和未上传权重。静态检查排除冻结源码，不改历史审计哈希。memory-editability 与 memory-editability-neural 是工程示例，其结果不作为正式研究证据。