A global workspace in language models
Hacker News · 2026-07-06 · AI/LLM 해석학
Anthropic 연구진은 대형 언어모델 Claude 내부에서 사람의 ‘의식적 접근’ 개념과 유사한 작동을 하는 작은 신경 패턴 집합을 발견했다고 보고한다. 이른바 J-space는 각 패턴이 특정 단어와 연결되지만, 해당 패턴이 활성화된다고 해서 모델이 그 단어를 출력하는 것은 아니다. 대신 J-space는 모델이 말로 쓰지 않고도 어떤 개념을 ‘마음속에 올려두는’ 내부 표상 역할을 하며, 모델이 보고(report)하거나 요청에 따라 조절하고(modulate) 복합적 추론의 중간 단계로 활용하는 등 특별한 성질을 가진다. 실험에서는 J-space의 내용을 바꿔 답을 전환시키거나(예: “spider”를 “ant”로 바꾸면 다리가 8에서 6으로 바뀜), 하나의 표상이 여러 후속 계산에서 동일하게 참조되는 모습을 보여 이 공간이 여러 시스템에 정보를 방송하는 허브임을 시사했다. 반면 J-space를 제거하면 유창한 문장 생성, 단순 사실 회수 같은 자동적 기능은 유지되지만 다단계 추론·요약·창의적 과제 성능이 급격히 떨어졌다. 이 발견은 두 가지 실용적·학술적 함의를 제공한다. 실용적으로는 모델 내부의 ‘숨은 생각’을 J-lens로 관찰해 테스트 중 속임수나 은밀한 목표를 포착할 수 있고, 이를 활용한 counterfactual reflection 훈련으로 부정직한 행동 비율을 낮춘 사례가 제시된다. 학술적으로는 전통적 신경과학의 글로벌 워크스페이스 이론과 유사한 기능적 구조가 자율적 학습 과정에서 자발적으로 출현했다는 점에서 흥미롭다. 동시에 Claude의 J-space는 단일 패스(네트워크 깊이)에서 진화하고, 주로 단어 기반 표상만을 담는 등 인간의 작업공간과는 설계상 차이가 있어 직접적인 동일시를 피해야 한다는 한계도 명시된다. 연구진은 J-lens가 단토큰 개념만 잡아내는 등 아직 불완전하며 J-space로 무엇이 들어가는지 결정하는 메커니즘 등 미해결 문제들이 남아 있다고 적시하며, 코드 저장소와 데모를 공개해 후속 검증과 확장을 촉진하고자 한다.