CoT 사고의 논리적 일관성 검사: 인공지능 안전 평가의 새로운 프레임워크

인공지능 모델의 Chain-of-Thought (CoT) 사고는 종종 불충실하다는 연구 결과가 있습니다. CoT 사고의 불충실성을 검증하기 위해서는 실험적 조작이 필요하지만, 이 조작은 이전에 발생한 평가 결과를 후속적으로 검증하는 데 사용할 수 없습니다. 이에 따라 논리적 일관성을 평가하는 새로운 방법을 개발하기 위해 노력했습니다.

논리적 일관성을 검사하는 새로운 방법을 개발하기 위해, 우리는 사고 과정의 일관성을 평가하는 새로운 프레임워크를 개발했습니다. 이 프레임워크를 사용하면, 인공지능 모델의 사고 과정의 논리적 일관성을 평가할 수 있습니다.

논리적 일관성의 정의와 분류

논리적 일관성을 평가하기 위해, 우리는 논리적 일관성을 정의하고, 일관성과 불일관성의 분류를 다음과 같이 정의했습니다.

• 일관성: 사고 과정의 논리적 일관성이 유지되는 경우
• 불일관성: 사고 과정의 논리적 일관성이 유지되지 않는 경우

논리적 일관성 검사 프레임워크

논리적 일관성 검사 프레임워크는 다음과 같이 구성됩니다.

• 일관성 평가: 사고 과정의 논리적 일관성을 평가하는 알고리즘
• 불일관성 분류: 사고 과정의 논리적 일관성을 평가한 결과를 분류하는 알고리즘

실험 결과

논리적 일관성 검사 프레임워크를 사용하여, 우리는 대규모 언어 모델(LLM)의 사고 과정의 논리적 일관성을 평가했습니다. 실험 결과는 다음과 같습니다.

• 대규모 언어 모델(LLM)의 사고 과정의 논리적 일관성이 유지되지 않는다는 것을 확인했습니다.
• 사고 과정의 논리적 일관성이 모델과 평가 유형에 따라 변동하는 것을 확인했습니다.

논리적 일관성 검사 프레임워크를 사용하면, 인공지능 모델의 사고 과정의 논리적 일관성을 평가할 수 있습니다. 이러한 결과는 인공지능 모델의 안전성을 평가하는 데 사용할 수 있는 새로운 프레임워크를 제공합니다.