인공 지능 안전을 위한 의식 측정에 대한 고전적인 생각 실험의 재조명

이 연구 논문은 리비니츠의 물고기 밀, 튜링의 유사 게임, 세어들의 중국 방의 문제를 보존-동일한 인코딩(CCE) 프레임워크를 통해 다시 검토한다. 이 논문은 성공적인 행동을 작업 성과($W_{causal,T}$)로 측정하는 심볼릭 설정을 공식화하고, 내부 구조가 행동을 지원하는 효율성을 작업 성과에 대한 운영 의식($\kappa_T$)으로 측정한다. 이 설정 내에서, 압축되지 않은 검색 시스템과 compact 생성 시스템은 이론적으로 비슷한 행동 성공을 달성할 수 있지만, $\kappa_T$에서 크게 분기한다: former는 재사용되지 않은 매핑의 확장된 서재에 의존하지만, latter는 compact한 내부 구조를 재사용한다. 이에 따라, 이 논문은 이해를 위한 고전적인 논쟁을 재구성하여 외적인 성과와 이를 지지하는 조직을 분리하고, 이 차이가 이후 AI 안전 분석에 중요하다고 제안한다.