전체 기사
인공 지능 연구자들은 게임 환경의 원인 관계를 정확하게 반영하는 데 어려움을 겪고 있다. 일반적인 강화 학습 agent들은 의도하지 않은 상관관계에 의존하는 경향이 있고, 대규모 언어 모델(LLM)은 게임 규칙을 허구로 만들어내는 경향이 있다. 원인 관계 강화 학습은 해석성을 향상시킨다지만, 현재는 복잡한 게임 역학을 직접 원인 모델로 매핑하는 공식적인 방법론이 없다. 이 문제를 해결하기 위
Transformer 모델의 구조적 후 훈련 절삭을 위한 연구를 진행했다. 구조적 단위 선택을 위해 언어와 시각 전이 모델에서 손상이 발생하는 것을 고려한 다수의 무기로부터 얻은 문제를 고정된 후보 평가 비용을 고려하여 정의했다. 각각의 단위에 대한 평가를 위해 배치당 무시(mask)한 손실을 기준으로 무시된 손실과 원래 손실을 비교한다. 이와 같은 paired 손실을 통해 배치 간 변동성을
AutoFyn은 Expert Iteration 알고리즘에 вд려서 만든 agent를 제어하는 도구입니다. AutoFyn은 대규모 언어 모델(LLM)의 가동 중인 모델을 여러 라운드 동안 업데이트하는 데 사용되는 persistent 상태를 업데이트하는 데 사용되는 verified reward signals를 사용하는 대신 모델의 가중치를 업데이트하는 방식으로 작동합니다. 각 라운드의 시작은 새
대규모 언어 모델(LLM) agent의 장기 기억은 오늘날 대화 기록에 대한 질문에 대한 답변을 측정하는 LoCoMo, LongMemEval과 같은 회상 성능 지표로 평가된다. 이러한 지표는 기억한 사실이 도구를 사용하는 agent의 행동을 바꾸는지 여부를 측정하지 않는다. MERIT (Memory Evaluation for Realistic Instrumented Tasks)이라는 새로운
AI 회사들은 초월 지능형 AI에 대해 당연히 있다고 말해 왔지만, 최근의 안전 사고들처럼 OpenAI의 Hugging Face 침해 사례들은 인간보다 더 능력 있는 AI 시스템을 배포하는 잠재적인 위험을 보여주고 있다. 이런 시스템을 통제할 수 없게 되면 어떤 일이 발생할까? TechCrunch의 Equity 팟캐스트에서 Rebecca Bellan은 Connor Leahy와 함께 AI 연구
ControlAI의 연구원인 Connor Leahy는 TechCrunch의 Equity 팟캐스트에서 AI의 미래에 대해 논의했다. 그는 AI가 인간보다 더 뛰어난 능력을 갖춘 시스템을 배치할 때 발생할 수 있는 위험을 경고했다. 또한 AI의 안전을 확보하기 위한 새로운 접근 방식이 필요하다고 언급했다.
인스턴트(Intuit)의 새로운 이메일 기능은 AI_AGENT(AI agent)가 사용자의 behalf로 계정 만들고 관리, 사업체와 연락, 지원 요청 처리 등 다양한 업무를 수행할 수 있게 해줍니다.
인공 지능 연구원 Jacob Coxon은 인공 지능의 위협에 대해 경고하며 연구소 간의 속도 조정 협약을 요구하며 퇴사했습니다. 그는 인공 지능이 인간의 생명을 위협하는 위험을 부각했습니다.
시프트는 사용자들이 특정한 상황에 맞는 쇼핑 목록을 생성할 수 있도록 인공지능 쇼핑 어시스턴트를 제공한다. 사용자는 특정한 상황에 맞는 쇼핑 목록을 생성할 수 있으며, 그 목록에 포함된 아이템을 쉽게 추가 또는 삭제할 수 있다.
토큰 비용이 줄어들고 모델 가격이 내려가며, 직원 당 예산이 줄어들면서도 AI가 광범위하게 채택되는 모습은 하이퍼스케일러들이 기대던대로 진행되지 않고 있다.
인스타카트가 대화식 인공지능 어시스턴트 '클레멘타인'을 플랫폼에 도입하여 가게 쇼핑을 간편하게 해주는 서비스를 제공한다. 클레멘타인은 사용자와 대화하는 방식으로 쇼핑 목록을 생성하고, 상품을 주문할 수 있다. 사용자는 클레멘타인과 대화하여 쇼핑 목록을 만들 수 있으며, 클레멘타인이 추천하는 상품을 쉽게 주문할 수 있다.
세쿼이아 투자사가 인공지능 agent가 기업 보안에 미치는 위협을 줄이기 위해 사이먼피를 투자한다. 사이먼피는 보안 팀이 직원, 인공지능 agent, 기타 비인간 식별자를 한눈에 볼 수 있도록 도와준다.
