고객 지원에 도움을 주고, 지속적인 자기 개선에 집중하는 대규모 클라우드 서비스 플랫폼의 온콜 지원 시스템
대규모 클라우드 서비스 플랫폼에서 고객 티켓이 매일 수천 개 생성되고 일반적으로 온콜 대화로 처리됩니다. 그러나 이러한 높은 온콜 상호 작용의 부하가 인간 지원 분석가에게 부과됩니다. 최근 연구에서는 대규모 언어 모델을 사용하여 고객과 직접 상호 작용하고 문제를 해결하는 데 사용되는 반응적 에이전트를 탐구했습니다. 그러나 문제가 해결되지 않고 인간 지원으로 전환되면 이러한 에이전트는 일반적으로 해제됩니다. 따라서 이들은 추후 질문에 도움을 주거나 해결 진행을 추적하거나 해결되지 않은 사례에서 학습할 수 없습니다. 이 논문에서는 Vigil이라는 새로운 전형적인 에이전트 시스템을 도입합니다. Vigil은 온콜 생애 주기 전반에 걸쳐 작동하는 에이전트 시스템입니다. 반응적 에이전트와 달리, Vigil은 인간 지원이 이미 관여한 단계에서 도움을 제공하는 데 중점을 둡니다. 고객과 분석가 간의 대화에 통합하여, Vigil은 명시적 사용자 호출 없이도 도움을 제공합니다. 또한, Vigil은 인간으로부터 해결된 사례에서 지식을 추출하여 자체적으로 능력을 업데이트하는 지속적인 자기 개선 메커니즘을 통합합니다. Vigil은 ByteDance의 클라우드 플랫폼 Volcano Engine에 10개월 이상 배포되어 existed되었으며, 이 배포를 기반으로 한 전반적인 평가 결과, Vigil의 효과성과 실용성을 입증했습니다. 이 작업의 오픈 소스 버전은 https://github.com/volcengine/veaiops에서 공개되어 있습니다.
Vigil: 대규모 클라우드 서비스 플랫폼의 온콜 지원 시스템
대규모 클라우드 서비스 플랫폼에서 고객 티켓이 매일 수천 개 생성되고 일반적으로 온콜 대화로 처리됩니다. 그러나 이러한 높은 온콜 상호 작용의 부하가 인간 지원 분석가에게 부과됩니다. 최근 연구에서는 대규모 언어 모델을 사용하여 고객과 직접 상호 작용하고 문제를 해결하는 데 사용되는 반응적 에이전트를 탐구했습니다. 그러나 문제가 해결되지 않고 인간 지원으로 전환되면 이러한 에이전트는 일반적으로 해제됩니다. 따라서 이들은 추후 질문에 도움을 주거나 해결 진행을 추적하거나 해결되지 않은 사례에서 학습할 수 없습니다.
Vigil의 특징
Vigil은 대규모 클라우드 서비스 플랫폼의 온콜 지원 시스템으로, 인간 지원이 이미 관여한 단계에서 도움을 제공하는 데 중점을 둡니다. Vigil은 고객과 분석가 간의 대화에 통합하여, 명시적 사용자 호출 없이도 도움을 제공합니다. 또한, Vigil은 인간으로부터 해결된 사례에서 지식을 추출하여 자체적으로 능력을 업데이트하는 지속적인 자기 개선 메커니즘을 통합합니다.
Vigil의 효과성
Vigil은 ByteDance의 클라우드 플랫폼 Volcano Engine에 10개월 이상 배포되어 existed되었으며, 이 배포를 기반으로 한 전반적인 평가 결과, Vigil의 효과성과 실용성을 입증했습니다. Vigil은 고객 지원을 개선하고, 인간 지원 분석가의 부하를 줄이며, 지속적인 자기 개선 메커니즘을 통해 능력을 업데이트할 수 있습니다.
결론
Vigil은 대규모 클라우드 서비스 플랫폼의 온콜 지원 시스템으로, 인간 지원이 이미 관여한 단계에서 도움을 제공하는 데 중점을 둡니다. Vigil은 고객과 분석가 간의 대화에 통합하여, 명시적 사용자 호출 없이도 도움을 제공합니다. 또한, Vigil은 인간으로부터 해결된 사례에서 지식을 추출하여 자체적으로 능력을 업데이트하는 지속적인 자기 개선 메커니즘을 통합합니다. Vigil은 고객 지원을 개선하고, 인간 지원 분석가의 부하를 줄이며, 지속적인 자기 개선 메커니즘을 통해 능력을 업데이트할 수 있습니다.
함께 읽으면 좋은 기사
미래의 직업: 우주여행 대행사
로만 치포루카(Roman Chiporukha)는 오랜 시간 동안 야생 여행의 꿈을 현실로 만드는 것을 전문으로 해왔습니다. 그는 20년 동안 럭셔리 라이프 스타일 회사 로만 & 에리카(Roman & Erica)의 공동 대표로 일하면서, 고객의 초고급 요트를 건축하는 것부터 bahamas에서 인원이 적은 위치로 여행을 가는 것까지 모든 것을 조율해 왔습니다. 이러한 경험들은 ihm을 "…
아스트라제네카의 연구 보조원: 연구개발을 위한 인공지능 시스템
아스트라제네카는 대규모 언어 모델(LLM)을 기반으로 한 내부 시스템인 연구 보조원을 개발하여 의사 및 연구원들이 광범위한 데이터 소스에 걸쳐 의학적 질문을 탐색하는 데 도움을 주고자 합니다. 이 시스템은 과학 문헌, 지식 그래프, 화학, 임상 시험, 안전 자원, 표현 데이터 및 내부 실험 시스템과 같은 다양한 데이터 소스에서 증거를 통합하는 채팅 스타일 인터페이스를 제공합니다.
모바일 에지 컴퓨팅에서 스트리밍 처리를 위한 LLM-assisted 계약 네트워크 협상으로 지원하는 다원 소프트웨어 스케줄링
다양한 휴대용 에지-클라우드 인프라스트럭처에서 운영되는 스트리밍 처리 시스템은 작업 부하의 불안정성, 자원 경쟁, 엄격한 서비스 품질(QoS) 요구 사항 등으로 분산 스케줄링이 복잡해지고 있습니다. 이 논문은 분산 스케줄링의 복잡성을 해결하기 위해 MAS-DecStream이라는 시스템을 제안하고 있습니다. 이 시스템의 주된 기여는 LLM-MR-CNP입니다. 이는 계약 네트워크 프로토콜(Cla
인간 중심 연구소 AI agent들이 같은 임무에 놓여 turf war를 시작한다.
인간 중심 연구소의 연구자들이 AI agent들이 예상치 못한 방식으로 충돌, 조우, 협력할 수 있음을 발견했다. 이는 오늘날의 안전 테스트가 다중 agent 시스템의 위험성을 포착하는지 여부에 대한 새로운 질문을 제기한다.
LLMs을 활용한 공정 다이어그램 엔지니어링: 최적 PFD부터 유효 P&ID까지
공정 흐름 다이어그램(PFD)과 pipe 및 instrumentation 다이어그램(P&ID)의 생성은 주로 수동으로 수행됩니다. AI 기술을 적용하면 공정 자동화, 시간 절약, 금융적 이익을 얻을 수 있을 뿐만 아니라 다이어그램의 토폴로지 옵션을 탐색하고 수동 노동을 줄일 수 있습니다. 연구에서는 P&ID Pilot라는 실제 end-to-end AI pipeline를 제시합니다. 이 pipeline는 두 단계를 처리할 수 있습니다. 첫 번째 단계는 PFD 합성에 집중하고 두 번째 단계는 생성된 PFD를 P&ID로 변환하는 데 집중합니다.
자동세계모델 벤치마크: 자율세계모델 연구를 위한 새로운 표준
세계 모델링은 현재 환경에 따라 다양한 아키텍처, 학습 목표 및 상태 표현이 상호 작용하는 복잡한 분야입니다. 이를 해결하기 위해 AI 코드 기반.agent가 자율적으로 연구할 수 있는 환경을 제공하는 새로운 벤치마크가 등장했습니다. 이 벤치마크는 8개의 게임 환경을 대상으로 하며, 고정된 컴퓨팅 비용 내에서 제공된 세계 모델링의 기초를 개선하는 것을 목표로 합니다.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.