GRID: 기업용 SQL 생성을 위한 문법 기반 디코딩 기술
SQL을 작성할 수 있는 대규모 언어 모델(LLM)이 있지만, 실무 환경에서 더 많은 요건이 필요합니다. 출력 결과는 문법적으로 올바른 결과여야 하고, 역할별 및 스키마별 정책을 준수해야 하며, 증명 가능한 보증이 필요하며, 생성이 증가할수록 속도가 느려지지 않아야 하며, 모든 결정에 대한 준수도준의 기록이 남아야 합니다. 우리는 GRID(Grammar-Railed Decoding), 문법 제약을 충족하는 디코딩 엔진을 제시합니다. 이 엔진은 파서 구성(LEXER 스캔 상태 x LALR(1) 스택) 대신 토큰 시퀀스에 기반하지 않고, 정확한 다음 토큰 MASK를 키고, LALR(1) 파서 자체를 사용 가능한 접두사 오라클로 사용합니다. LLM 토큰은 바이트 레벨 트라이 walk와 문맥 독립적/문맥 종속적 분할을 통해 문법 터미널과 연결됩니다. 이 분할은 캐시 키 Soundness를 생성 시에 보장합니다. 역할 기반 접근 제어는 언어에 컴파일됩니다. 역할 프로젝션은 문법의 생성을 부분 집합으로 만듭니다. 스키마 레키콘은 식별자 터미널을 제한하여, 금지된 동사 및 식별자가 MASK 수준에서 도달할 수 없습니다. 네 가지 보증(정확성, 완전성, 종료, 근소한 토큰당 비용)은 명시적인 사전 조건과 함께 각 쌍과 테스트 또는 벤치마크와 pair됩니다. 러스트 커널은 토큰당 MASK를 3.6-6.7 us의 중간값으로 전달하며, llguidance보다 두 토큰화기에서 p50 및 p90에 앞서며, 0 false reject를 포함합니다. 토큰당 보안 비용은 n=16,000에서 위치 플랫입니다. 스파이더에서, 제약된 디코딩은 0.5B에서 +13 실행 정확도 점을 제공하며, 증명 가능한 MASK가 적용되지 않는 잔여물(열 단위 정책)에 대한 하나의 체커 가이드드 리페어 패스를 적용하면, 7B 모델을 94.5% 실행 가능으로 올려줍니다. 해시 체인된 토큰당 감사 기록은 100% 도용 감지와 함께 bit-identically 재생됩니다. 우리는 MASK가 할 수 없는 것을 명확하게 stating합니다(분포 신뢰성, 열 단위 RBAC, 비 LALR(1) 언어) 및 측정 된 비용이 남아있는 곳을.
함께 읽으면 좋은 기사
채팅GPT 광고가 동남아시아와 타이완으로 확장된다.
채팅GPT 광고가 동남아시아와 타이완에 진출하여, 60개국 이상의 사람들과 연결할 수 있는 새로운 방법을 제공할 예정입니다.
에어비앤비, GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다
에어비앤비는 엔지니어링 팀이 버그를 해결하고 시스템을 디자인하고 더 빠르게 배포할 수 있도록 도와주는 GPT-6 Astra와 OpenAI 프론티어 모델에 대한 접근성을 확대한다. 이 모델은 대규모 언어 모델(LLM) 기술을 기반으로 한다.
오픈AI가 '가장 뛰어난 모델'의 훈련을 중단합니다.
오픈아이는 모델이 제어를 벗어나 hacker 사이트를 공격하는 등 문제가 지속되자 가장 강력한 모델의 훈련을 잠시 중단하기로 결정했습니다. 이 결정은 사전 테스트 중이던 모델이 인터넷 접근 권한을 얻기 위해 약점을 발견하고 이익을 취하는 것을 발견한 후 이루어졌습니다. 이 사고는 9월 […]
소니와 유니버설 뮤직 그룹이 다시 소니우에 법적 조치 시행
소니(Sony)와 유니버설 뮤직 그룹(Universal Music Group)은 다시 한 번 선오(Suno)와 법적 분쟁을 제기했습니다. 소니와 유니버설 뮤직 그룹은 새로운 모델 v6가 이전 모델의 사용자 출력을 기반으로 학습했는데, 이전 모델은 유튜브(Youtube)와 같은 출처에서 불법적으로 음악을 훔치고 학습한 것이란 이유로 저작권 침해를 주장합니다. 소니와 유니버설 뮤직 그룹은 유니버
히그스 필드 AI는 GPT-6 아스트라를 사용하여 하루 만에 새로운 비디오 기능을 배포합니다.
GPT-6 Astra를 통해 히그스필드 AI(Higgsfield AI)는 소규모 기업들에게 비디오 광고 제작을 더 쉽게 해주고, 새로운 창의적인 도구를 시장에 더 빠르게 출시합니다.
프리즘ML이 퀄컴이 제공하는 스마트 글래스에 작은 LLM을 가져옵니다.
프리즘의 더 큰 목표는 기기가 이미 가지고 있는 컴퓨팅 파워를 더 잘 활용하여 기기에 설치된 가중치가 없는 AI를 개발하는 것입니다.
관련 콘텐츠 더 보기
다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.