NVIDIA Jetson Thor 리뷰 및 개봉기

lambda 25.08.26

7,949 9 1

facebook twitter kakao link

9 1

facebook twitter kakao link

DEVOTEE 요약: 2025년 CES에서 NVIDIA의 젠슨 황은 Disney Research와 Google DeepMind와 협력하여 개발된 AI 로봇 "블루"를 공개하며 NVIDIA의 차세대 AI 기술을 선보였습니다. 이 데모는 새로운 Blackwell 아키텍처 기반의 Jetson Thor 플랫폼을 활용한 뛰어난 AI 성능으로, 고성능 로봇과 생성형 AI 애플리케이션을 지원하는 데 중점을 두고 있습니다. Jetson Thor는 이전 모델 대비 최대 3~4배 향상된 AI 처리 속도와 최대 128GB 메모리를 제공하여 의료, 산업, 로봇 등 다양한 분야에서 최첨단 기술을 적용할 수 있는 기반을 마련합니다.

CES 2025

2025년 CES 키노트 발표에서 젠슨 황은 Disney Research, Google DeepMind와의 협력으로 개발된 첨단 AI 로봇 "블루(Blue)"를 소개했습니다.

스타워즈에서 영감을 받은 이 드로이드형 로봇은 NVIDIA의 물리 AI 기술력을 보여주는 상징적인 데모였습니다.

블루의 상세 스펙은 알려지진 않았으나, 최신 엔비디아 컴퓨팅 플랫폼 2대가 사용되었다는 언급이 있는 것으로 보아 아마도 Jetson Thor가 사용된것이 아닌가 하는 추측이 있습니다.

두 대만 있으면 누구나? ~~약 1000만원~~ 로봇을 가질 수 있는 시대가 올 수 있는걸까요?

"그래서 Jetson Thor 가 뭔데?" 하시는 분들을 위해 간단히 소개 드리도록 하겠습니다.

NVIDIA Jetson Thor 소개

Jetson Thor는 기존 Jetson Orin의 대체재가 아닌, Jetson 제품군의 최고급 모델인 최신 Blackwell GPU 아키텍처로 포지셔닝되어 있습니다.

128GB LPDDR5X 메모리와 함께 최대 2,070 TOPS의 AI 연산 성능을 제공하며, 휴머노이드 로봇과 생성형 AI와 같은 자원 집약적 애플리케이션의 하드웨어 요구사항을 충족합니다.

Jetson Thor의 핵심인 Blackwell GPU 아키텍처는 NVIDIA의 최신 GPU 기술을 집약한 혁신적인 설계입니다.

최근 출시된 NVIDIA DGX Spark도 같은 Blackwell 아키텍처를 공유 합니다.

Jetson Thor

Jetson Thor는 다음과 같은 핵심 특징을 제공합니다.

항목	내용
AI Performance	Up to 2070 TFLOPS (FP4-sparse) Up to 1035 TFLOPS (FP4-dense)
GPU	2560-core NVIDIA Blackwell architecture GPU with 96 fifth-gen Tensor cores Multi-Instance GPU with 10 TPCs
CPU	14-core Arm® Neoverse®-V3AE 64-bit CPU
Memory	128 GB 256-bit LPDDR5X, 273 GB/s
Frequency	1.57 GHz max-GPU 2.6 GHz max-CPU
Storage	Supports NVMe through PCIe Supports SSD through USB3.2
Vision Accelerator	PVA v3.0
Video Encode	Up to 6×4Kp60 (H.265/H.264)
Video Decode	Up to 4× 8Kp30 (H.265) Up to 4× 4Kp60 (H.264)
Camera	Up to 20 cameras via HSB Up to 6 cameras through 16× lanes MIPI CSI-2 Up to 32 cameras using Virtual Channels C-PHY 2.1 (10.25 Gbps) D-PHY 2.1 (40 Gbps)
Display	4× shared HDMI2.1 VESA DisplayPort 1.4a – HBR2, MST
Power	40 W–130 W

T5000을 포함한 Thor Developer Kit에서 제공되는 스팩은 다음과 같습니다:

항목	내용
Integrated NVIDIA Jetson Thor Module	NVIDIA Jetson T5000 module
Storage	- Integrated 1 TB NVMe on M.2 Key M Slot
Camera	- HSB camera via QSFP slot USB Camera
PCIe	- M.2 Key M slot with x4 PCIe Gen5 (populated with 1 TB NVMe) - M.2 Key E slot with x1 PCIe Gen5 (Populated with WiFi 6E + Bluetooth Module)
USB	- 2× USB Type-A 3.2 Gen2 - 2× USB Type-C 3.1 Gen1 - 1× USB Type-C — (Debug only)
Networking	- 1× 5GbE RJ45 connector - 1× QSFP28 (4× 25 GbE)
Wi-Fi	802.11ax Wi-Fi 6E
Display	- 1× HDMI 2.0b - 1× DisplayPort 1.4a
Other I/Os	- 2× 13-pin CAN header - 2× 6-pin Automation header - 2× 5-pin header JTAG Connector - 1× 4-pin Fan Connector — 12V, PWM, and Tach - 2× 5-pin Audio Panel Header - 2-pin RTC Backup Battery Connector - Microfit Power Jack - Power, Force Recovery, and Reset buttons
Power	140 W–160 W
Mechanical	- 243.19 mm × 112.40 mm × 56.88 mm - (height includes feet, carrier board, module, and thermal solution)

특징	Jetson Thor	Jetson AGX Orin	Jetson Orin NX	Jetson Orin Nano
GPU	Blackwell, 2,560 CUDA	Ampere, 2,048 CUDA	Ampere, 1,024 CUDA	Ampere, 512/1,024 CUDA
AI 성능	2,070 TFLOPs	275 TOPS	100 TOPS	40 TOPS
메모리	128GB LPDDR5X	32/64GB LPDDR5	8/16GB LPDDR5	4/8GB LPDDR5
네트워킹	4×25GbE	1×10GbE + 1×1GbE	1×1GbE	1×1GbE
전력	75-120W	15-60W	10-40W	7-20W
대상 용도	고급 로봇, 생성형 AI	고성능 로봇, 비전	스마트 카메라, 드론	IoT, 키오스크

기존 Jetson AGX Origin 시리즈에 비해 시대에 맞게 AI 성능이 크게 향상되었고 AI 처리를 위해 메모리도 2배 증가 되었습니다. 하지만 그만큼 전력도 더 필요해졌습니다.

Category	Model	Thor (tokens/s)	Orin (tokens/s)	Speed-up (×)
LLM	Llama 3.1 8B	150.8	112.3	1.34
LLM	Llama 3.3 70B	12.6	7.4	1.70
LLM	Qwen 3 30B-A3B	226.4	76.7	2.95
LLM	Qwen 3 32B	79.1	16.8	4.71
LLM	DeepSeek R1 7B	304.8	180.4	1.69
LLM	DeepSeek R1 32B	82.6	17.0	4.86
VLM	Qwen2.5-VL 3B	356.86	216.0	1.65
VLM	Qwen2.5-VL 7B	252.0	154.02	1.64
VLM	Llama 3.2 11B Vision	69.63	44.22	1.57
VLA	GROOT N1 2.2B	46.7	18.5	2.52
VLA	GROOT N1.5 3B	41.5	15.2	2.73