Skip to main content

sigreg

Sketched Isotropic Gaussian Regularization primitive. Scalar loss matching the embedding distribution to a standard-normal target via Cramér-Wold slicing and the Epps-Pulley empirical characteristic function test. Port of rbalestr-lab/lejepa (MIT). Default-off in v1.49.571.

소스 정보

저장소
Tibsfox/gsd-skill-creator
최근 소스 활동
2026년 6월 6일 00:28
감지된 SKILL.md 언어
영어
스타
71
포크
10

설치 방법

기본적으로 소스를 먼저 확인하는 Prompt가 선택됩니다. 직접 명령으로 전환하거나 로컬 사본을 다운로드할 수도 있습니다.

소스 파일 검토

설치 여부를 결정하기 전에 SKILL.md와 SkillsMP에 표시된 보조 파일을 읽어 보세요.

파일 탐색기
6 개 파일

SKILL.md 표시 중

SKILL.md
소스 지침 · 읽기 전용 미리보기
name
sigreg
description
Sketched Isotropic Gaussian Regularization primitive. Scalar loss matching the embedding distribution to a standard-normal target via Cramér-Wold slicing and the Epps-Pulley empirical characteristic function test. Port of rbalestr-lab/lejepa (MIT). Default-off in v1.49.571.
version
1.49.571
tier
T1
phase
729
source_paper
arXiv:2511.08544v3
license_attribution
rbalestr-lab/lejepa (MIT)
# SIGReg — Sketched Isotropic Gaussian Regularization Port of SIGReg from Balestriero & LeCun (2025, *LeJEPA*) arXiv:2511.08544v3. The primitive computes a scalar loss measuring how far an embedding distribution is from the standard-normal target, using Cramér-Wold slicing plus the Epps-Pulley empirical characteristic function test. Linear O(N·M·K) time, naturally differentiable, multi-GPU friendly (all_reduce over ECF averages). ## Public API ```typescript import { sigreg } from './src/sigreg/index.js'; const loss = sigreg(embeddings); // embeddings: number[num_samples][num_dims] // scalar loss; use as L_total = L_pred + λ · loss ``` For telemetry: ```typescript import { sigregWithBreakdown } from './src/sigreg/index.js'; const { loss, perSliceStatistic, maxSliceStatistic, runTag } = sigregWithBreakdown(embeddings); ``` ## Configuration Default matches the LeJEPA reference implementation: ```typescript const LEJEPA_DEFAULT_CONFIG = { numSlices: 1024, univariateTest: { numPoints: 17, sigma: 1.0 }, }; ``` ## Feature flag Default-off. Opt-in via `.claude/gsd-skill-creator.json`: ```json { "heuristics-free-skill-space": { "sigreg": { "enabled": true } } } ``` ## Attribution Ported from https://github.com/rbalestr-lab/lejepa under the MIT license. © Randall Balestriero and LeJEPA Contributors. See `../../license_notices.md`. ## Related modules - `src/skill-isotropy/` — Skill Space Isotropy Audit (Phase 728) — read-only audit use case
GitHub에서 보기