토큰에서 태스크로: 에이전틱 AI가 인프라의 초점을 어떻게 바꾸는가
에이전틱 AI는 토큰 생성에서 완전한 워크플로우 실행으로 초점을 이동시키고 있습니다. 새로운 패러다임에서 핵심 지표는 모델 속도가 아니라 태스크 비용, 도구 호출 지연 시간, 샌드박스 시작 시간입니다. 중앙 처리 장치(CPU)와 헤드 노드는 오케스트레이션에서 중요한 역할을 합니다. 토큰 처리량을 강조하는 전통적인 벤치마크는 더 이상 실제 성능을 반영하지 않습니다.
Arm
InfoQ 中国28.07 · 01:03
