可观察的内部写入
将接受的写入、拒绝的提案和争用记录为数据。
Hytorch 培训仪器研究
看看培训试图写什么。
Hytorch 使内部残差流写入一个记录单元。提议的更新会收到明确的结果、持久的收据以及用于审核和重播的参考路径。
为研究人员提供另一种观察训练的工具，包括传统指标可以隐藏的失败。
01 / 为什么这很重要
为什么这项工作很重要
可审计的培训记录
门优化器踩在持久的收据上并保留所记录工作的身份。
重播并参考
根据固定的 CPU 软件合同检查已审核的微批次。
已发布的更正
让逆转、缺陷、不完整的比较和悬而未决的实验可见。
02 / 它是如何运作的
它是如何运作的
主要阶段使项目的边界清晰可见。
- 01
求婚
计算内核建议对残余流进行类型化更改
- 02
承认并记录
策略将写入分类为已提交、溢出或中止
- 03
提交
Hyphae 保留记录；持久的收据开启了优化器
- 04
审核和重播
固定的 CPU 引用检查审核的计算
03 / 能力
目前的能力
研究仪器
类型化写入、策略结果、生命周期收据和声明的旁路。
跨供应商参考
已发布的 NVIDIA、AMD 和 Trainium2 作品已根据明确的数字合同进行检查。
预印本 1.1
The Missing Medium 介绍了方法、实验观察和局限性。
双语技术报告
9 月的 V5/V6 报告包括 ES/EN PDF、简化表格、出处和预期协议。
04 / 证据
证据及其范围
预印本和 9 月份的报告回答了不同的问题：一方面是仪器和重放，另一方面是事实访问和控制设计。
预印本
V5批次
所有标准下均无匹配控制
未来V6武器
培训未执行
V5 返回 no-control-match。 V6 未执行。公共报告可以重现表聚合和选择，但不包括所有原始记录、检查点或分类账。
当前能力
- 记录候选人在支持的研究运行期间的写作和持久结果。
- 为审核和重播记录的微批次提供固定参考。
- 发布预印本、双语报告以及便携式报告数据的验证器。
下一步方向
- 在执行协议之前验证 V6 数值设置并集成其运行程序。
- 在修改受影响的索赔之前完成更正后的容量重新运行。
- 测试仪器是否在进一步受控的架构中仍能提供信息。
需要注意的限制
- 研究原型，而不是高效的培训架构或生产模型。
- 预先登记的比较推翻了早期的质量标题；测试的目录模型并没有优于其调整的密集孪生模型。
- 后来的梯度缺陷限制了已发布的容量运行；其更正后的重新运行正在等待中。
- 目前的事实获取报告并未表明学习过程中的通道死亡会导致幻觉。