엔비디아, 데이터 센터를위한 가장 빠른 카드 인 테슬라 T4 출시

엔비디아 는 머신 러닝 및 데이터 센터 추론을위한 새로운 GPU를 발표했다. 새로운 Tesla T4 카드는 Turing 아키텍처를 기반으로하고 있으며 사실상 모든 주요 클라우드 컴퓨팅 제공 업체를 포괄하는 현재 Tesla P4 모델의 후속 제품입니다.

엔비디아 테슬라 T4, 데이터 센터 혁신

엔비디아는 테슬라 T4가 P4보다 훨씬 빠르다고 주장했다. 예를 들어 언어 유추의 경우 T4는 CPU를 사용하는 것보다 34 배 빠르고 P4보다 3.5 배 더 빠릅니다. Tesla P4의 최대 처리량은 4 비트 정수 연산의 경우 260 TOPS, 부동 소수점 연산의 경우 65 TOPS입니다. T4는 표준 프로파일 75 와트 PCI-e 카드에 있습니다.

Nvidia의 Turing 아키텍처 세부 정보에 대한 게시물을 읽는 것이 좋습니다.

가장 중요한 점은 Nvidia가 AI 추론을 위해 특별히 이러한 칩을 설계했기 때문에 Tesla T4를 추론하기위한 효율적인 GPU로 만드는 것은 Turing의 새로운 Tensor Core 입니다. Jensen Huang은 이미 새로운 텐서 코어와 게임, 렌더링 및 AI 작업을 위해 무엇을 할 수 있는지에 대해 이야기했습니다. 전체적으로이 칩에는 320 개의 텐서 코어 튜링과 2, 560 개의 CUDA 코어가 있습니다.

새로운 칩 외에도 Nvidia는 딥 러닝 모델을 최적화하기 위해 TensorRT 소프트웨어에 대한 업데이트를 제공하고 있습니다. 이 새로운 버전에는 기존 Kubernetes 인프라에 완벽하게 연결되는 데이터 센터 추론을위한 완전히 컨테이너화 된 마이크로 서비스 인 TensorRT 추론 서버도 포함되어 있습니다.

튜링은 게임 시장에서도 가장 혁신적인 Nvidia 아키텍처 중 하나이며, 실시간으로 레이 트레이싱을 사용하여 최첨단 게임의 그래픽 마무리를 향상시킬 수 있습니다.

Techpowerup 글꼴