可比实验
跨策略共享模型成分、数据身份、预算和评估规则。
Hyphae Transformer 可控变压器研究
将问题、实验和结果放在一起。
Hyphae Transformer 是用于受控残差策略实验的 PyTorch 研究框架。后来的工作研究了冻结模型上的小型控制器以及具有明确证据契约的有界导航。
通过固定协议、保留的工件和可见的故障使架构和控制实验可评估。
01 / 为什么这很重要
为什么这项工作很重要
明确的研究对象
将假设、种子、清单、检查点和结论放在一起。
冻结模型控制
训练一个小型控制器，同时保留骨干网的身份和主机拥有的策略边界。
可见的不确定性
除了成功的运行之外，还保留不确定的主要结果和失败的外部评估。
02 / 它是如何运作的
它是如何运作的
主要阶段使项目的边界清晰可见。
- 01
定义
修正假设、数据、种子、效果阈值和预算
- 02
验证
检查合同并进行小型正确性试点
- 03
评价
执行声明的培训和进行的比较
- 04
保留
发布结果、工件身份、限制和下一个决定
03 / 能力
目前的能力
残差研究
仅解码器残差策略的受控比较，包括共享门 ReZero。
实验管理
打印清单、可恢复检查点、证据记录、预算和报告。
有界控制器
冻结骨干实验包括回答、请求证据和弃权决定。
导航包
确定性已发布的控制器工件，包括校准的两步导航 v2。
04 / 证据
证据及其范围
历史 30M 结果和后来的控制/导航工作是独立的、有限的证据线。
配对最终 NLL 改进
30M 活动，八对种子
95%区间
具体到那个比较
校准导航包
框架仍为 alpha 0.2.0
30M实验清除了其预先注册的实用阈值。导航结果适用于规定的固定装置和证书，骨干冻结；两者都没有建立一般模型质量。
当前能力
- 使用固定来源、数据和预算运行受控架构活动。
- 保留成功、不确定和失败的实验结果。
- 在冻结模型特征上发布有界控制和导航工件。
下一步方向
- 测试在进一步的模型大小、语料库和架构中观察到的效果。
- 在生产索赔之前扩展独立注释的外部评估。
- 仅通过单独指定和测量的协议进行高级导航。
需要注意的限制
- 阿尔法研究框架，而不是生产模型服务。
- 导航包的 v2.0.0 标识符不会将框架版本更改为 2.0.0。
- 固定和保留的结果不会建立不受限制的自主代理。
- 早期的深度结果、外部阴影失败和预算缺陷仍然是记录的一部分。