문서 AI를 운영화하는 방법: OCR 및 LLM 파이프라인을 프로덕션에서 운영하는 마이크로서비스 아키텍처
문서 이해를 위한 새로운 모델을 연구하는 학술 연구는 모델 정의와 프로덕션 규모에서 모델을 실행하는 격차를 메우기 위해 마이크로서비스 아키텍처를 제시합니다. 이 아키텍처는 분류, OCR, 대규모 언어 모델(structured field extraction) 파이프라인을 포함합니다. 이 아키텍처를 프로덕션에서 운영하면서 우리의 경험을 공유합니다.