복제된 잠재 저장소의 내용 주소 읽기 : MaSRead

연구자들은 latent space에서 추론하는 독립 agent들이 텍스트 대신 계산된 상태를 key-value 캐시 프래그먼트로 공유할 수 있음을 발견했습니다. 이러한 프래그먼트는 conflict-free replicated data type에 의해 병합되며, 배달 순서나 복제 여부에 관계없이 수렴합니다. 그러나 encode 시점에 알려지지 않은 후속 질의로 인해 병합 캐시를 신뢰할 수 없습니다: colocated 프래그먼트는 서로 간섭하기 때문에 colocated 프래그먼트는 주소 가능성을 제공하지 못합니다. MaSRead는 colocated 프래그먼트 간의 간섭을 해결하기 위해 개발된 시스템입니다. 프래그먼트의 단어를 기반으로 opaque key-value pair set을 생성하고, 하드 attention mask를 사용하여 선택된 프래그먼트를 각기 독립적으로 디코딩합니다. lexical connectivity가 존재할 때, graph walk는 multi-hop 질의에 필요한 프래그먼트를 방문할 수 있습니다. chain, pipeline, symmetric, hub, 및 natural-language store에서 MaSRead는 방문한 프래그먼트를 독립적으로 recovers하고, 관련되지 않은 프래그먼트가 쌓이더라도 효과적입니다. 또한 다른 model family로 전환할 수 있습니다. routing 이후 materialized decoding은 프래그먼트 길이에 따라 total store size에 의존하지 않습니다. 그러나 end-to-end 작업은 store-dependent routing과 visited 프래그먼트당 하나의 read가 포함됩니다. limit은 explicit합니다: lexical routing은 disconnected evidence를 놓치거나, answer composition은 frozen reader에 의해 제한됩니다. 따라서 latent store가 replicated되면, 필요 프래그먼트가 질의와 content를 통해 연결될 때, later 질의에 대해 선택적으로 읽을 수 있습니다.