본문으로 건너뛰기

검색

전체 기사

산업 5월 14일

테슬라 시미: 전기 트럭 혁명이 시작된다

테슬라 시미는 공식적으로 출시되었습니다. 테슬라는 최근 완전 규모의 생산 라인에서 첫 번째 차량이 출시된 사진을 공개했습니다. 이 순간은 거의 10년이 걸려서야 이루어졌습니다. 회사에서는 2017년 말에 테슬라 시미를 처음 발표했습니다. 이제 우리는 최종 배터리 사양, 공식 가격, 그리고 대단한 소식에 대해 알 수 있습니다.

산업 5월 14일

그 일을 위한 앱을 만들 수 있습니다.

소프트웨어의 독재는 거의 끝나가고 있습니다. 컴퓨터 프로그램을 처음 작성한 컴퓨터 프로그래머들이 처음부터 컴퓨터 프로그램을 작성한 이래로, 우리는 그 프로그램을 사용하는 사용자로서, 그 프로그램이 만든 세계에서 살아가고 있습니다. 기능은 기능입니다. 디자인은 디자인입니다. 다른 것을 원하나요? 더 좋은 것을 원하나요? 프로그래밍을 배워라, 가거든요. [...]

LLM PC 5월 14일

주의가 닫히는 순간: LLM이 멀티 턴 상호 작용에서 주제를 잃는 이유

대규모 언어 모델(LLM)은 단일 턴에서 복잡한 지시를 따르지만, 장기적인 멀티 턴 상호 작용에서 지시, 인격, 규칙을 잃을 수 있다. 이 감소는 행동적으로 측정되었지만, 기계적으로 설명되지 않았다. 우리는 주제 정의 토큰이 주의의 통로를 통해 더 이상 액세스할 수 없게 되며, 주제 관련 정보는 잔여 표현에서 지속될 수 있다는 채널 전환 설명을 제안한다. 주제 액세스성 비율(GAR)을 도입하여 생성된 토큰에서 목표 정의 토큰으로 주의를 측정하고, 슬라이딩 윈도우 절단 및 잔여 스트림 프로브를 결합한다. 주의가 지시를 닫는 순간, 무엇이 살아남는지가 아키텍처를 드러낸다. 다양한 아키텍처에서 전환은 질적으로 다른 실패 모드를 산출한다: 일부 모델은 주의가 사라지더라도 목표 조건된 행동을 보존하고, 다른 모델은 잔여 목표 정보가 디코딩될 수 있더라도 실패한다. 이 인코딩이 발생하는 레이어는 2에서 27까지 다양하다. 모델 내의 인과적 절단이 Mistral의 주의 통로를 강제로 닫으면, 20개 사실 보존 태스크에서 반환률이 11%에서 거의 완벽한 11%로 떨어지고, 불편한 압력 기반 대조군보다 인격 제약 위반률이 높아지며, 이 모든 효과는 예측 가능한 교차 턴에서 발생한다. 선형 프로브는 Aimed 표현에서 회귀 결과를 회복시키는 AUC가 0.99까지 모든 네 가지 주요 아키텍처에서 0.99까지 달성한다. 입력 임베딩은 기대치에 머물러 있다. 다양한 아키텍처와 모델 규모에서 주의 손실과 잔여 디코딩 가능성의 간격이 목표 조건된 행동이 주의 통로가 닫히는 경우에 살아남는지 여부를 예측한다. GAR를 진단도구로, 채널 전환 프레임워크를 제어된 기계적 설명으로, 윈도우드 주의 닫기로 실패 시간을 예측하는 파라미터 예측을 기여한다.

AI 모델 5월 14일

협력 시뮬레이터를 넘어서: 강력한 LLM 에이전트 평가를 위한 실제 사용자 프로필 생성

협력 시뮬레이터를 넘어서: 강력한 대규모 언어 모델(LLM) 에이전트 평가를 위한 실제 사용자 프로필 생성 대규모 언어 모델(LLM) 에이전트는 사용자와 다양한 사람을 상호작용하는 환경에서 점점 더 많이 배치되고 있다. 이들은 사용자가 불분명한, 서두르는, 또는 정보를 공유하기 꺼리는 사람들을 포함한다. 그러나 대규모 사용자 상호작용 데이터를 수집하는 것은 여전히 비용이 많이 들다. 이 분야는 대규모 언어 모델 기반 사용자 시뮬레이터를 대신 사용하기로 결정했지만, 이 시뮬레이터는 기본 모델의 행

LLM PC 5월 14일

다중 모드 히든 마르코프 모델을 이용한 지속적인 감정 상태 추적

대화의 감정 상태를 추적하는 것은 의료 및 임상적인 대화 상황에서 이해하고 대화의 지침을 줄 수 있는 중요한 요소입니다. 기존의 감정 인식 방법은 대화 단위로 작용하여 실제 대화 동적의 지속적인 단계를 숨기고 있습니다. 우리는 다중 모드 감정 표현을 이용하여 대화의 감정 상태를 지속적인 감정 상태로 모델링하는 가벼운 프레임워크를 제안합니다. 이 프레임워크는 지속적인 감정 상태를 추적하는 데 있어 가중치 요인 분산 혼합 모델-히든 마르코프 모델(Sticky Factorial HDP-HMM)을 이용합니다.