LLM 시스템을 위한 의사결정 중심 설계 프레임워크

LLM 시스템은 제어 결정을 포함하여 출력을 생성해야 합니다. 이러한 결정을 현재 많은 아키텍처에서 암시적으로 생성에 통합하여 평가와 행동을 단일 모델 호출로 결합하고 실패를 검사, 제한 또는 修復하기 어렵게 만듭니다. 우리는 제어를 시스템의 명시적이고 검사 가능한 계층으로 변환하는 결정 중심 프레임워크를 제안합니다. 이 분리는 실패를 신호 추정, 결정 정책 또는 실행에 귀속하고 각 구성 요소를 모듈적으로 개선할 수 있도록 합니다.

2026년 4월 3일 AI 자동 생성

Decision-Centric Design for LLM Systems

LLM 시스템은 제어 결정을 포함하여 출력을 생성해야 합니다. 이러한 결정을 현재 많은 아키텍처에서 암시적으로 생성에 통합하여 평가와 행동을 단일 모델 호출로 결합하고 실패를 검사, 제한 또는 修復하기 어렵게 만듭니다.

Decision-Centric Framework

우리는 제어를 시스템의 명시적이고 검사 가능한 계층으로 변환하는 결정 중심 프레임워크를 제안합니다. 이 분리는 실패를 신호 추정, 결정 정책 또는 실행에 귀속하고 각 구성 요소를 모듈적으로 개선할 수 있도록 합니다.

분리된 제어 계층

이 프레임워크는 제어 계층을 분리하여 신호 추정, 결정 정책, 실행 간의 결합을 방지합니다. 이를 통해 실패를 신호 추정, 결정 정책 또는 실행에 귀속할 수 있으며 각 구성 요소를 모듈적으로 개선할 수 있습니다.

실험 결과

제안된 프레임워크를 사용한 세 가지 제어 실험에서, 제어 계층을 분리함으로써 불필요한 행동을 줄이고 작업 성공률을 향상할 수 있습니다. 실패 모드를 해석할 수 있으며, 더 나아가 더 신뢰할 수 있는, 제어할 수 있는, 진단할 수 있는 LLM 시스템을 구축하는 일반적인 아키텍처 원칙을 제공합니다.

결론

LLM 시스템의 제어를 명시적이고 검사 가능한 계층으로 변환하는 결정 중심 프레임워크를 제안했습니다. 이 프레임워크는 실패를 신호 추정, 결정 정책 또는 실행에 귀속하고 각 구성 요소를 모듈적으로 개선할 수 있도록 합니다. 실험 결과에서, 제어 계층을 분리함으로써 불필요한 행동을 줄이고 작업 성공률을 향상할 수 있습니다. 더 나아가, 더 신뢰할 수 있는, 제어할 수 있는, 진단할 수 있는 LLM 시스템을 구축하는 일반적인 아키텍처 원칙을 제공합니다.

Decision-Centric Design: 제어를 명시적이고 검사 가능한 계층으로 변환하는 프레임워크
LLM SYSTEM: Large Language Model
Decision Policy: 결정 정책
실험: 제어 실험

원문 보기 arXiv AI

함께 읽으면 좋은 기사

AI 모델 8월 19일

Anthropic의 연간 매출액 6,500억 달러로 급증

모델 제작자(MODEL MAKER)는 2개월 만에 연간 $18 억 달러의 매출을 추가했다.

AI 모델 8월 19일

아마존이 책을 처음으로 판매하기 시작한 이후로 귀중한 책을 파괴하여 AI를 교육하고 있습니다.

진귀한 책들은 대규모 언어 모델(LLM) 교육에 매우 가치가 높다. 왜냐하면 이 모델들은 이미 온라인에서 접근할 수 있는 모든 것을 통해 교육을 받았기 때문이다.

AI 모델 8월 16일

구글 지니미(Google Gemini)의 보이는 워터마크를 끄는 방법이 나왔다!

구글은 이제 지니미와 플로(Google's AI video generator, Flow)에서 AI工具을 이용해 만든 미디어에 보이는 워터마크를 제거할 수 있는 기능을 제공합니다. 이 업데이트로, 사용자는 지니미와 플로의 새로운 '미디어 워터마크' 설정을 끌 수 있습니다. 워터마크가 끄면, 지니미에서 생성된 이미지, 비디오, 음악에 나타나는 '스파클(sparkle)' 워터마크가 사라집니다.

AI 모델 8월 16일

애플, 중국 위해 알리바바와 함께 자체 AI 모델을 교육

애플은 중국 시장에 맞는 맞춤형 AI 모델을 중국 기술巨인 알리바바와 함께 개발하고 훈련했다고 보고되었다. 이는 베이징과 워싱턴 간 커져가는 긴장감을 무시하고 중국과 미국 사이에 드문 획기적인 협력이다. 알리바바의 지원을 받으며 개발된 중국을 대상으로 한 대규모 언어 모델(LLM) 훈련은 알리바바와 함께 개발되었으며, 리트저스는 훈련에 대한 지원을 받았다고 세 명의 익명한 사람들의 진술에 근

AI 모델 8월 15일

대량 언어 모델(LLM) 개인화에 대한 대응: Meta-LoRA를 이용한 다원 도메인 선호도 학습

대규모 언어 모델(LLM)의 개인화를 위한 다원 도메인 선호도 학습은 새로운 대화 도메인에서 사용자 선호도에 맞는 응답을 생성하는 것을 목표로 합니다. 하지만 기존의 적응 방법은 적은 수의 대상 도메인 상호 작용만으로 업데이트한 크기를 조정하기 어려워 오버피팅을 일으키며, 역전파 방법은 사용자 선호도를 소스 도메인 오류와 혼동하여 불신할 수 있는 개인화 전제 조건과 부정적인 전이를 일으킵니다. 이러한 문제를 해결하기 위해, 우리는 PAC-Bayes-정규화된 Meta-LoRA를 제안하여, 업데이트한 크기를 증거의 질에 맞게 조정하고, 오버피팅을 최소화하며, 증거가 증가할 때 강한 개인화를 허용합니다.