Experimentos comparáveis
Compartilhe ingredientes de modelos, identidades de dados, orçamentos e regras de avaliação entre estratégias.
Hyphae Transformer Pesquisa de transformadores controlados
Mantenha a pergunta, o experimento e o resultado juntos.
Hyphae Transformer é uma estrutura de pesquisa PyTorch para experimentos controlados de estratégia residual. Trabalhos posteriores estudam pequenos controladores em um modelo congelado e navegação limitada com contratos de evidência explícitos.
Torne os experimentos de arquitetura e controle avaliáveis por meio de protocolos fixos, artefatos retidos e falhas visíveis.
01 / Por que isso importa
Por que este trabalho é importante
Objetos de pesquisa explícitos
Mantenha hipóteses, sementes, manifestos, pontos de verificação e veredictos juntos.
Controle de modelo congelado
Treine um pequeno controlador enquanto mantém a identidade do backbone e os limites da política de propriedade do host.
Incerteza visível
Mantenha resultados primários inconclusivos e avaliações externas fracassadas ao lado de execuções bem-sucedidas.
02 / Como funciona
Como funciona
As principais etapas tornam visíveis os limites do projeto.
- 01
Definir
Corrija a hipótese, os dados, as sementes, o limite de efeito e o orçamento
- 02
Validar
Verifique os contratos e execute um pequeno piloto de correção
- 03
Avaliar
Execute o treinamento declarado e as comparações realizadas
- 04
Reter
Publique resultados, identidades de artefatos, limitações e a próxima decisão
03 / Capacidades
Capacidades atuais
Pesquisa residual
Comparações controladas de estratégias residuais somente de decodificador, incluindo ReZero de porta compartilhada.
Gerenciamento de experimentos
Manifestos digitados, pontos de verificação recuperáveis, registros de evidências, orçamentos e relatórios.
Controladores limitados
Experimentos de estrutura congelada com respostas, solicitações de evidências e decisões de abstenção.
Pacotes de navegação
Artefatos determinísticos publicados do controlador, incluindo navegação calibrada em duas etapas v2.
04 / Evidência
Evidências e seu escopo
O resultado histórico de 30M e o trabalho posterior de controle/navegação são linhas de evidência separadas e limitadas.
melhoria NLL final emparelhada
Campanha 30M, oito sementes emparelhadas
Intervalo 95%
Específico para essa comparação
pacote de navegação calibrado
Framework permanece alfa 0.2.0
O experimento 30M ultrapassou seu limite prático pré-registrado. Os resultados da navegação aplicam-se aos equipamentos e certificados indicados, com o backbone congelado; nenhum deles estabelece a qualidade geral do modelo.
O que faz hoje
- Executa campanhas de arquitetura controlada com fontes, dados e orçamentos fixos.
- Retém resultados experimentais bem-sucedidos, inconclusivos e fracassados.
- Publica artefatos de controle e navegação limitados sobre recursos de modelo congelado.
Próximas direções
- Teste os efeitos observados em outros tamanhos de modelos, corpora e arquiteturas.
- Expanda a avaliação externa anotada de forma independente antes das declarações de produção.
- Navegação avançada apenas através de protocolos especificados e medidos separadamente.
Limites a manter em vista
- Uma estrutura de pesquisa alfa, não um serviço de modelo de produção.
- O identificador v2.0.0 do pacote de navegação não altera a versão da estrutura para 2.0.0.
- Resultados fixos e suspensos não estabelecem um agente autônomo irrestrito.
- Resultados anteriores de profundidade, falhas externas e defeitos orçamentários continuam fazendo parte do registro.
Hyphae Transformer