인공지능 계산력 격차: 기업들이 인프라를 구매하는 속도보다 비용을 측정하는 속도가 느려진다

기업이 인공지능(AI) 인프라에 투자하는 비용은 현재 그 경제학을 볼 수 없거나 통제할 수 없이는 가속화되고 있습니다. 대부분의 조직은 친숙한 하이퍼스케일러와 모델 제공자 API를 통해 AI를 운영하지만, 다음 달러는 현재 사용하지 않는 특수 컴퓨팅을 목표로 하고 있습니다. 대부분의 조직은 내년 또는 다음 분기 내에 제공업체를 변경하거나 추가할 계획이며, 많은 조직은 분기 내에 제공업체를 변경하거나 추가할 계획입니다. 구매 결정은 통합과 총 소유 비용에 따라 헤드라인 토큰 가격보다 중요합니다. 이는 fortunate 인데, 대부분의 기업이 현재 유닛 경제학을 rõ ràng하게 볼 수 없기 때문입니다. GPU는 절반 이하의 활용률 또는 그 이하의 상태로 있습니다. 그리고 compute 실제 비용을 엄격하게 추적하는 기업은 44% 미만입니다. 결과적으로 compute 격차가 발생합니다. - 고성능, 빠르게 움직이는 투자가 경제학을 볼 수 없거나 통제할 수 없이는 가속화되고 있습니다. 이 연구는 기업 AI 인프라와 컴퓨팅에 대해 조사했습니다. 기업은 현재 AI를 운영하는 곳, AI를 운영하는 방법, 현재 사용하는 인프라 제공자, AI 인프라에 대한 투자 평가, AI 인프라의 경제학을 측정하고 통제할 수 있는지 여부에 대해 조사했습니다. 중요한 발견은 compute 격차입니다. 기업이 인공지능 인프라에 투자하는 비용은 현재 그 경제학을 볼 수 없거나 통제할 수 없이는 가속화되고 있습니다. 현재 기업은 AI를 운영하는 곳이 21% 미만이고, 투자 의향은 성숙도보다 앞서고 있습니다. 기업은 현재 사용하지 않는 특수 컴퓨팅을 목표로 하고 있으며, 현재 사용하는 GPU를 절반 이하의 활용률 또는 그 이하의 상태로 운영하고 있습니다. 기업은 AI 인프라의 경제학을 측정하고 통제할 수 있는지 여부를 엄격하게 추적하는 기업은 44% 미만입니다. 기업은 현재 인프라 제공자에 대한 투자에 대한 만족도가 평균적이지만 열렬하지 않으며, 가장 낮은 점수는 비용입니다. 기업은 현재 AI 인프라에 대한 투자에 대한 만족도가 평균적이지만 열렬하지 않으며, 가장 낮은 점수는 비용입니다. 기업은 현재 AI 인프라의 경제학을 측정하고 통제할 수 있는지 여부를 엄격하게 추적하는 기업은 44% 미만입니다. 기업은 현재 인프라 제공자에 대한 투자에 대한 만족도가 평균적이지만 열렬하지 않으며, 가장 낮은 점수는 비용입니다. 기업은 현재 AI 인프라의 경제학을 측정하고 통제할 수 있는지 여부를 엄격하게 추적하는 기업은 44% 미만입니다. 기업은 현재 인프라 제공자에 대한 투자에 대한 만족도가 평균적이지만 열렬하지 않으며, 가장 낮은 점수는 비용입니다. 기업은 현재 AI 인프라의 경제학을 측정하고 통제할 수 있는지 여부를 엄격하게 추적하는 기업은 44% 미만입니다.