본문으로 건너뛰기

스케일보다는 접근 구조에서 성능이 나옵니다: 하이브리드 시퀀스 모델의 하한값 및 사전에 등록된 테스트

AI 자동 생성

arXiv:2607.14144v1 Announce Type: new 플라톤적 표현 가설(Platonic Representation Hypothesis, PRH)은 모델이 규모를 키울 때, 다종의 네트워크의 표현이 현실에 대한 공유 모델로 수렴한다고 말한다. 우리는 이 가설의 후속과 경계, 능력 수렴 가설(Capability Convergence Hypothesis, CCH)을 제안한다: 고정된 토큰당 추론 비용 하에서 표현 수렴은 능력 수렴을 의미하지 않는다. 대신, 능력은 완전한 접근 클래스로 수렴한다: 오(1)-상태 채널과 확장 가능한 원문-인덱스 채널을 모두 갖는 아키텍처. 우리는 이를 한 개의 witness 작업, 무한한 스트림에서 뉴턴의 사과 문제, 그리고 세 개의 자원 벽으로 anchor한다: Shannon 벽이 o(Nb)-상태 아키텍처를 막고, horizon 벽이 고정된 창을 막고, circuit 벽이 고정된 깊이의 attention-only 합성을 막는다(conditional on TC0 != NC1). 명시적인 독립성 가정 하에서, 하이브리드는 각 벽의 가격을 지불하여 모든 세 벽을 넘어선다, 따라서 합성 하에서 능력은 엄격히 초과적이다. 우리는 증명된 것과 추측된 것을 분리한다: 접근 완전성 원리는 정보 이론적 하한 bounds와 사전 등록된 실험에 의존하고, field-level 수렴 경향은 경제가동 추측이다. 우리는 사전 등록된 작은 규모의 테스트를 보고한다: 데이터가 존재하기 전에 동결된 기준에 따라, 예측된 가위 자르는 간격이 측정되었으며 (exact-retrieval error 0.994 vs. 0.000 once a 64-scalar state gains one global-attention layer), 상태 추적 분기점이 등록된 경계에 도달하였으며, conjunction witness가 불가분적인 두 채널 솔루션을 보여주었으며, 하나의 예측은 방향이 반전되었고 그에 따라 보고되었다. 표현 수렴은 규모에 따라 자유롭게 제공되지만, 능력 수렴은 접근 구조로 구입되어야 한다.

원문 보기 arXiv AI

함께 읽으면 좋은 기사

AI 모델 23시간 전

소니와 유니버설 뮤직 그룹이 다시 소니우에 법적 조치 시행

소니(Sony)와 유니버설 뮤직 그룹(Universal Music Group)은 다시 한 번 선오(Suno)와 법적 분쟁을 제기했습니다. 소니와 유니버설 뮤직 그룹은 새로운 모델 v6가 이전 모델의 사용자 출력을 기반으로 학습했는데, 이전 모델은 유튜브(Youtube)와 같은 출처에서 불법적으로 음악을 훔치고 학습한 것이란 이유로 저작권 침해를 주장합니다. 소니와 유니버설 뮤직 그룹은 유니버

관련 콘텐츠 더 보기

다른 플랫폼에서 이 주제에 대한 더 많은 정보를 확인하세요.