비교 가능한 실험
전략 전반에 걸쳐 모델 성분, 데이터 ID, 예산, 평가 규칙을 공유합니다.
Hyphae Transformer 제어 변압기 연구
질문, 실험, 결과를 함께 유지하세요.
Hyphae Transformer는 통제된 잔여 전략 실험을 위한 PyTorch 연구 프레임워크입니다. 이후 작업에서는 명시적 증거 계약이 포함된 고정 모델 및 제한된 탐색에 대한 소규모 컨트롤러를 연구합니다.
고정된 프로토콜, 보존된 아티팩트 및 가시적인 오류를 통해 아키텍처 및 제어 실험을 평가할 수 있도록 만듭니다.
01 / 왜 중요한가요?
이 작업이 중요한 이유
명시적 연구 개체
가설, 시드, 매니페스트, 체크포인트, 평결을 함께 유지하세요.
동결 모델 제어
백본의 ID와 호스트 소유 정책 경계를 유지하면서 소규모 컨트롤러를 교육합니다.
눈에 보이는 불확실성
성공적인 실행 외에 결론이 나지 않은 기본 결과와 실패한 외부 평가를 유지합니다.
02 / 작동 원리
작동 원리
주요 단계는 프로젝트의 경계를 가시화합니다.
- 01
정의
가설, 데이터, 시드, 효과 임계값 및 예산을 수정합니다.
- 02
검증
계약을 확인하고 소규모 정확성 파일럿을 실행하세요.
- 03
평가하다
선언된 훈련 및 유지 비교를 실행합니다.
- 04
유지
결과, 아티팩트 ID, 제한 사항 및 다음 결정 게시
03 / 기능
현재 기능
잔여 연구
공유 게이트 ReZero를 포함한 디코더 전용 잔여 전략의 제어된 비교.
실험 관리
입력된 매니페스트, 재개 가능한 체크포인트, 증거 기록, 예산 및 보고서.
제한된 컨트롤러
답변, 요청 증거, 기권 결정을 포함한 동결된 백본 실험입니다.
탐색 번들
보정된 2단계 탐색 v2를 포함하여 결정적으로 게시된 컨트롤러 아티팩트.
04 / 증거
증거와 그 범위
과거 30M 결과와 이후의 제어/탐색 작업은 별개의 경계가 있는 증거입니다.
쌍을 이루는 최종-NLL 개선
30M 캠페인, 8쌍의 씨앗
95% 간격
해당 비교에만 해당
보정된 탐색 번들
프레임워크는 알파 0.2.0로 유지됩니다.
30M 실험은 사전 등록된 실제 임계값을 삭제했습니다. 탐색 결과는 백본이 고정된 상태에서 명시된 설비 및 인증서에 적용됩니다. 둘 다 일반 모델 품질을 설정하지 않습니다.
현재 기능
- 고정된 소스, 데이터 및 예산을 사용하여 제어된 아키텍처 캠페인을 실행합니다.
- 성공, 비결론, 실패한 실험 결과를 유지합니다.
- 고정된 모델 기능에 대한 제한된 제어 및 탐색 아티팩트를 게시합니다.
다음 방향
- 추가 모델 크기, 말뭉치, 아키텍처 전반에 걸쳐 관찰된 효과를 테스트합니다.
- 생산 청구 전에 독립적으로 주석이 달린 외부 평가를 확장합니다.
- 별도로 지정되고 측정된 프로토콜을 통해서만 탐색을 진행합니다.
계속해서 살펴봐야 할 한도
- 프로덕션 모델 서비스가 아닌 알파 연구 프레임워크입니다.
- 탐색 번들의 v2.0.0 식별자는 프레임워크 버전을 2.0.0로 변경하지 않습니다.
- 픽스처 및 홀드아웃 결과는 무제한 자율 에이전트를 설정하지 않습니다.
- 이전의 깊이 결과, 외부 섀도우 실패 및 예산 결함은 기록의 일부로 남아 있습니다.