LLM 솔버 루프 내의Narr레이션 간격 분석

논문 제목은 'arXiv:2606.19588v1'이며, 발표 형식은 '새 논문'입니다. 논문의 요약은 다음과 같습니다. 논문에서 논의하는 formal 도구, 즉 SAT 및 SMT 해결기는 Increasingly 언어 모델의 추론 pipe라인에 통합되고 있으며, 안전성이나 보안이 중요한 문제가 논리적으로 표현될 때 사용됩니다. chain of thought와 달리, 모델 분포에서 단계를 샘플링하는 것과 달리, 해결기는 sound하고 independently verifiable한 답을 생산합니다. 그러나 해결기와 모델 사이의 상호 작용에서 soundness 보증이 손실될 수 있습니다. hybrid pipeline은 formalizing the question, deciding it, and narrating the result로 구성됩니다. Prior work는 formalization 및 decision에 대한 연구가 있지만 narration, 즉 formal tool의 output을 사용자 답으로 바꾸는 단계는 연구되지 않았습니다. 이를 해결하기 위해, 우리는 먼저 LLM-solver loop를 verified decision procedure로 모델링합니다. 또한 우리는 five open-sourced models를 prompt injection에서 평가하고, certificate gating이 해결기 판결을 sound하게 만들지만, verified conclusion을 phrasings 및 channels로 invert하는 adversary가 존재할 수 있습니다. 또한 우리는 hardened prompt를 통해 injection을 감소시키는 mitigation을 연구하였지만, injection을 완전히 제거할 수 없으며, adaptive attack에서 여전히 취약합니다. formal analysis 및 empirical studies를 combination하여, 우리는 LLM-solver loop에서, robustness가 사용자가 finally 읽는 답에 이를 수 없음을 보여줍니다. 이번 논문에서 논의하는 전문 용어는 다음과 같습니다. - Formal tool: formal 도구 - SAT solver: SAT 해결기 - SMT solver: SMT 해결기 - LLM: 대규모 언어 모델 - Chain of thought: chain of thought - Prompt injection: prompt injection - Certificate gating: certificate gating - Verified conclusion: verified conclusion - Phrasings: phrasings - Channels: channels - Hardened prompt: hardened prompt - Adaptive attack: adaptive attack - Robustness: robustness - Verified decision procedure: verified decision procedure - Formal analysis: formal analysis - Empirical studies: empirical studies - Hybrid pipeline: hybrid pipeline - Narration: narration - Decision: decision - Formalization: formalization - Solver: 해결기 - Model: 모델 - Distribution: 분포 - Interaction: 상호 작용 - Guarantee: 보증 - Safety: 안전성 - Security: 보안 - Critical: critical - Question: 문제 - Logic: 논리