본문으로 건너뛰기

기업 AI_AGENT의 사전 배치 보증을 향해: Ontology 기반 시뮬레이션 및 신뢰 인증

AI 자동 생성

기업용 인공지능(AI) agent의 전개 전 검증은 대규모 언어 모델(LLM) 능력 평가와 운영 배포 사이에 존재하는 중요한 빈틈입니다. 운영 배포 이후 모니터링, 인간의 participation을 포함한 제어, 프롬프트 단위의 경계는 한 agent가 운영 배포에 참여할 경우에 제한된 보장을 제공합니다. 우리는 ontology-grounded verification framework를 제안합니다. 이 framework는 다음 3개의 component로 구성됩니다: Agent Operational Envelope가 formalizing permission, domain constraint, safety property, governance rule, autonomy level에 대한 certification space; regulatory, operational, adversarial test scenario를 자동으로 도출하는 ontology-to-scenario generation pipeline; Machine-verifiable attestation을 포함하는 Trust Certificate가 graduated deployment verdicts(Approved, Conditional, Rejected)를 carry하는 component입니다. 네 개의 규제 산업(Fintech, Banking, Insurance, Healthcare)에서 1,800 scenario가 125 primary-source regulatory requirements와 25 injected faults에 대해 평가되었으며, Vietnam과 United States에서 instantiated five industry-by-regulatory-regime cells가 생성되었습니다. Ontology-grounded generation(G4)은 48.3%의 regulatory coverage를 달성했으며, 33.1%의 persona-based baseline에 비해 p = .0006의 corrected p value를 가졌습니다. domain specificity는 4.77/5.0을 달성했으며, p = 2e-6의 p value를 가졌습니다. baseline과 retrieval-augmented prompting에 대한 coverage advantage는 Bonferroni correction 이후 robust하지 않았습니다. 3개의 LLM family(Claude Sonnet 4, Qwen 2.5 72B, Gemma 4 26B; 5,400 total scenarios)에서 cross-validation이 수행되었으며, persona-versus-ontology pattern이 반복되었습니다. 결과는 ontology-grounded scenario generation이 regulatory-intensive domain에서 persona-based test suite의 신뢰할 수 있는 보완 요소로 작용하는 것을 establish했습니다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

에이전트 18시간 전

Meta의 영감은 OpenAI와 Anthropic에서 본격적으로 빛나는 AI를 훔쳤습니다.

AI 리더들이 OpenAI와 Anthropic에서 "선도 경계를 맞춰가기"라는 주제로 논의를 시작했을 때, 누군가는 "어느 속도로?"라는 질문을 해야 했을 수도 있었다. 이제는 두 회사가 모두 모델을 출시하는 모델 출시 주간이 되었는데, Anthropic이 Opus 5.5을 출시한 후 OpenAI가 GPT-6 모델 업데이트를 90분만에 출시했다. 그러나 스포트라이트를 잡은 것은 Meta 였는

에이전트 2일 전

강화 학습 기반 역할 놀이 에이전트의 역할 학습을 위한 적대적 폐쇄 루프 교육과정

역할 연기하는 agent는 대규모 언어 모델을 기반으로 한 것들이 개인화된 지원 및 사회 시뮬레이션과 같은 분야에서 광범위하게 적용되어 왔다. 최근 RL 방법들은 학습이 시작되기 전에 미리 수집한 고정된 시나리오 풀에서 훈련을 받는다. 이로 인해 분포적 병목 현상이 발생한다: agent가 향상될수록 agent가 나쁜 성능을 보이는 시나리오도 변하고, 훈련 분포는 정적이다. 따라서, 우리는 역

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.