Dalam makalah Anthropic "Verbalizable Representations Form a Global Workspace in Language Models", para peneliti memperkenalkan J-space, analog LLM (didemonstrasikan pada Claude Opus 4.6) dari ruang kerja global di korteks manusia. Para penulis menyajikan bukti empiris yang luas dan mendemonstrasikan J-space sebagai alat audit untuk penyelarasan LLM.

Kami meninjau ulang definisi formal dan sifat matematika J-space, memberikan justifikasi tepat untuk intervensi bedah Anthropic. Gaya ringkas makalah asli dapat membuat mekanisme kunci menjadi implisit; kami menawarkan penjelasan yang jelas dan bertahap melalui lensa matematika terapan.

Representasi semantik sebuah token pada posisi t di lapisan 𝓁 dalam aliran residual didefinisikan. Dampak kausal rata-rata pada lapisan akhir L adalah ekspektasi atas prompt, posisi, dan konteks masa depan. Mengalikan dengan matriks unembedding menghasilkan vektor J-lens. Ini membentuk kerangka overcomplete; J-space adalah himpunan kombinasi linear non-negatif k-sparse dari vektor-vektor ini—gabungan kerucut.

Komponen yang dapat diverbalisasi adalah proyeksi ortogonal ke J-space, ekspansi k-sparse perkiraan. Komponen yang tidak dapat diverbalisasi adalah residunya.

Entitas Kunci: Perusahaan: Anthropic, Towards Data Science