財団設立準備中 暫定管理:Celiums Solutions LLC 状況説明を読む

Hytorch トレーニング器具の研究

トレーニングがどのような内容を書こうとしたのかを確認してください。

Hytorch は、内部残差ストリーム書き込みをレコード単位にします。提案された更新は、明示的な結果、永続的な受信、および監査と再生のための参照パスを受け取ります。

従来の指標では隠蔽できる失敗も含め、トレーニングを観察するための別の手段を研究者に提供します。

01 / なぜそれが重要なのか

なぜこの仕事が重要なのか

監視可能な内部書き込み

許可された書き込み、拒否された提案、および競合をデータとして記録します。

監査可能なトレーニング記録

ゲート オプティマイザーは耐久性のあるレシートを踏んで、記録された作業の ID を保持します。

リファレンスを使用して再生する

監査済みのマイクロバッチを、固定された CPU ソフトウェア契約と照合してチェックします。

公開された修正内容

反転、欠陥、不完全な比較、保留中の実験を常に見えるようにします。

02 / 仕組み

仕組み

主要な段階では、プロジェクトの境界が明確になります。

  1. 01

    プロポーズする

    計算カーネルは、残差ストリームに対する型指定された変更を提案します

  2. 02

    認めて記録する

    ポリシーは、書き込みをコミット、オーバーフロー、または中止として分類します。

  3. 03

    コミット

    Hyphae はレコードを保持します。耐久性のあるレシートがオプティマイザーをゲートします

  4. 04

    監査と再生

    固定された CPU 参照は、監査された計算をチェックします

03 / 能力

現在の機能

研究機器

入力された書き込み、ポリシーの結果、ライフサイクルの受信、および宣言されたバイパス。

クロスベンダーリファレンス

公開された NVIDIA、AMD、Trainium2 の動作は、明示的な数値契約に照らしてチェックされています。

プレプリント 1.1

The Missing Medium は、方法、実験による観察、および制限を示します。

バイリンガル技術レポート

9 月の V5/V6 レポートには、ES/EN PDF、縮小表、来歴、および将来のプロトコルが含まれています。

04 / 証拠

証拠とその範囲

プレプリントと 9 月のレポートは、一方では計測と再生、もう一方では事実へのアクセスと制御設計など、さまざまな質問に答えています。

1.1

プレプリント版

2,190

V5 バッチ

すべての基準で一致するコントロールがありません

17

将来の V6 アーム

トレーニングは実施されませんでした

V5 は no-control-match を返しました。 V6 は未実行です。パブリック レポートはテーブルの集計と選択を再現できますが、元の生のレコード、チェックポイント、台帳がすべて含まれるわけではありません。

05 / 現在できること

現在できること

  • サポートされている研究実行中の候補者の書き込みと永続的な結果を記録します。
  • 記録されたマイクロバッチを監査および再生するための固定された参照を提供します。
  • プレプリント、バイリンガル レポート、ポータブル レポート データの検証ツールを発行します。
06 / 今後の方向性

次の道順

  • プロトコルを実行する前に、V6 数値セットアップを修飾し、そのランナーを統合します。
  • 影響を受ける請求を修正する前に、修正された容量の再実行を完了してください。
  • さらに制御されたアーキテクチャ全体にわたってインストルメンテーションが情報を提供し続けるかどうかをテストします。
07 / 明示的な境界

視野に入れておくべき制限

  • 研究用プロトタイプであり、効率的なトレーニング アーキテクチャや実稼働モデルではありません。
  • 事前に登録された比較により、以前の品質に関する見出しが覆されました。テストされたカタログ モデルは、調整された高密度ツインを上回るパフォーマンスを発揮しませんでした。
  • その後の勾配欠陥により、公開された容量の実行が制限されます。修正された再放送は保留中です。
  • 現在の事実アクセス報告書は、学習中のチャンネルの死が幻覚を引き起こすことを示していません。

Hytorch

従来の指標では隠蔽できる失敗も含め、トレーニングを観察するための別の手段を研究者に提供します。