NVIDIA DGX Spark

NVIDIA DGX Spark NVIDIA GB10 Grace Blackwell Superchip ਲਈ ਅਧਿਕਾਰਤ ਰੈਫ਼ਰੈਂਸ ਡੈਸਕਟਾਪ ਸਿਸਟਮ ਹੈ, ਜੋ ਪਹਿਲੀ ਵਾਰ ਜਨਵਰੀ 2025 ਵਿੱਚ Project DIGITS ਦੇ ਵਰਕਿੰਗ ਨਾਮ ਹੇਠ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ ਸੀ ਅਤੇ ਬਾਅਦ ਵਿੱਚ ਆਪਣੇ ਅੰਤਮ ਨਾਮ ਹੇਠ ਸ਼ਿਪ ਕੀਤਾ ਗਿਆ। NVIDIA ਦੁਆਰਾ ਖੁਦ ਡਿਜ਼ਾਈਨ, ਪ੍ਰਮਾਣਿਤ ਅਤੇ ਸਿੱਧਾ ਅੱਪਡੇਟ ਕੀਤੇ ਜਾਂਦੇ ਪਲੇਟਫਾਰਮ ਵਜੋਂ, ਇਹ 1 ਪੇਟਾਫਲਾਪ FP4 AI ਪਰਫਾਰਮੈਂਸ ਅਤੇ 128 GB ਕੋਹੀਰੰਟ ਯੂਨੀਫਾਇਡ ਮੈਮੋਰੀ ਨੂੰ 1.2 ਕਿਲੋਗ੍ਰਾਮ ਦੇ ਇੰਕਲੋਜਰ ਵਿੱਚ ਪੈਕ ਕਰਦਾ ਹੈ ਜੋ ਕਿ ਕੀਬੋਰਡ ਦੇ ਨਾਲ ਡੈਸਕ 'ਤੇ ਰੱਖਣ ਲਈ ਕਾਫ਼ੀ ਛੋਟਾ ਹੈ।

ਕਿਉਂਕਿ DGX Spark NVIDIA ਦਾ ਖੁਦ ਦਾ ਰੈਫ਼ਰੈਂਸ ਡਿਜ਼ਾਈਨ ਹੈ, ਇਹ ਉਹ ਪਲੇਟਫਾਰਮ ਵੀ ਹੈ ਜਿੱਥੇ ਨਵੀਆਂ GB10 ਈਕੋਸਿਸਟਮ ਸਮਰੱਥਾਵਾਂ ਪਹਿਲਾਂ ਪ੍ਰਮਾਣਿਤ ਕੀਤੀਆਂ ਜਾਂਦੀਆਂ ਹਨ। ਮਾਰਚ 2026 ਦੇ ਅਖੀਰ ਵਿੱਚ NVIDIA ਦੀ GTC 2026 ਕਾਨਫਰੰਸ ਤੋਂ ਬਾਅਦ, 4-ਨੋਡ RoCE ਕਲਸਟਰਿੰਗ ਲਈ ਅਧਿਕਾਰਤ ਸਹਾਇਤਾ — ਜੋ ਇੱਕ ਤੈਨਾਤੀ ਨੂੰ 512 GB ਸ਼ੇਅਰਡ ਯੂਨੀਫਾਇਡ ਮੈਮੋਰੀ ਤੱਕ ਵਧਾਉਂਦੀ ਹੈ — ਨੂੰ DGX Spark 'ਤੇ ਪਹਿਲਾਂ ਪੁਸ਼ਟੀ ਕੀਤੀ ਗਈ ਸੀ, ਭਾਗੀਦਾਰ ਹਾਰਡਵੇਅਰ ਵਿੱਚ ਅਪਨਾਏ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ, GB10 ਲਾਈਨਅੱਪ ਵਿੱਚ ਪਹਿਲਾਂ ਹੀ ਮਿਆਰੀ ਮੌਜੂਦ 2-ਯੂਨਿਟ ਡਾਇਰੈਕਟ-ਲਿੰਕਿੰਗ ਸਮਰੱਥਾ ਦੇ ਨਾਲ।

ਹਾਰਡਵੇਅਰ ਸਪੈਸੀਫਿਕੇਸ਼ਨਾਂ

ਇਸ ਦੇ ਕੋਰ ਵਿੱਚ NVIDIA GB10 Grace Blackwell Superchip ਹੈ, ਜੋ 20-ਕੋਰ Arm ਪ੍ਰੋਸੈਸਰ (10 × Cortex-X925 ਪਰਫਾਰਮੈਂਸ ਕੋਰ + 10 × Cortex-A725 ਐਫੀਸੀਐਂਸੀ ਕੋਰ) ਨੂੰ ਬਲੈਕਵੈਲ-ਜਨਰੇਸ਼ਨ GPU ਨਾਲ ਜੋੜਦਾ ਹੈ ਜਿਸ ਵਿੱਚ 5ਵੀਂ ਪੀੜ੍ਹੀ ਦੇ ਟੈਂਸਰ ਕੋਰ ਅਤੇ ਨੇਟਿਵ FP4 ਸਪੈਰਸਿਟੀ ਸਪੋਰਟ ਹੈ। ਦੋਵਾਂ ਨੂੰ 128 GB LPDDR5x ਯੂਨੀਫਾਇਡ ਮੈਮੋਰੀ ਦੁਆਰਾ ਜੋੜਿਆ ਗਿਆ ਹੈ ਜੋ CPU ਅਤੇ GPU ਵਿਚਕਾਰ ਸ਼ੇਅਰ ਕੀਤੀ 273 GB/s ਕੋਹੀਰੰਟ ਬੈਂਡਵਿਡਥ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਕਾਪੀ ਓਵਰਹੈੱਡ ਖਤਮ ਹੋ ਜਾਂਦੀ ਹੈ ਜੋ ਅਲੱਗ-ਅਲੱਗ CPU/GPU ਮੈਮੋਰੀ ਪੂਲ ਆਮ ਤੌਰ 'ਤੇ ਪੈਦਾ ਕਰਦੇ ਹਨ। ਸਟੋਰੇਜ ਇੱਕ 4 TB ਸੈਲਫ-ਐਨਕ੍ਰਿਪਟਿੰਗ PCIe Gen4 NVMe SSD ਹੈ, ਜੋ ਵੱਡੇ ਮਾਡਲ ਚੈਕਪੁਆਇੰਟ ਅਤੇ ਡੈਟਾਸੇਟ ਨੂੰ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਰੱਖਣ ਲਈ ਅਕਾਰ ਵਾਲੀ ਹੈ।

ਸਾਫਟਵੇਅਰ: ਪੂਰੀ NVIDIA AI ਸਟੈਕ, ਪਹਿਲਾਂ ਤੋਂ ਇੰਸਟਾਲ ਕੀਤੀ ਗਈ

DGX Spark NVIDIA DGX OS (Ubuntu 24.04 LTS) ਅਤੇ ਪੂਰੀ NVIDIA AI ਸਾਫਟਵੇਅਰ ਸਟੈਕ ਨਾਲ ਆਉਂਦਾ ਹੈ ਜੋ ਹਾਰਡਵੇਅਰ ਲਈ ਪਹਿਲਾਂ ਤੋਂ ਇੰਸਟਾਲ ਅਤੇ ਪ੍ਰਮਾਣਿਤ ਹੈ — CUDA, cuDNN, TensorRT, ਅਤੇ NVIDIA ਕੰਟੇਨਰ ਰਨਟਾਈਮ ਪਹਿਲੀ ਬੂਟ 'ਤੇ ਤਿਆਰ ਹਨ। NVIDIA NIM ਮਾਈਕ੍ਰੋਸਰਵਿਸਿਜ਼ ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਮਾਡਲਾਂ ਨੂੰ ਮੈਨੂਅਲ ਟਿਊਨਿੰਗ ਤੋਂ ਬਿਨਾਂ ਆਪਟੀਮਾਈਜ਼ਡ ਇਨਫਰੈਂਸ ਕੰਟੇਨਰਾਂ ਵਜੋਂ ਤੈਨਾਤ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦੀਆਂ ਹਨ, ਅਤੇ ਇਹੀ ਕੰਟੇਨਰ ਬਦਲਾਅ ਤੋਂ ਬਿਨਾਂ ਅੱਗੇ ਵਧਦੇ ਹਨ ਜਦੋਂ ਕੋਈ ਵਰਕਲੋਡ ਬਾਅਦ ਵਿੱਚ NVIDIA DGX Cloud ਜਾਂ ਡਾਟਾਸੈਂਟਰ DGX ਸਿਸਟਮ ਵਿੱਚ ਟ੍ਰਾਂਸਫਰ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਲਗਾਤਾਰ ਬਣਾਈ ਰੱਖੀ ਗਈ ਅਧਿਕਾਰਤ ਪਲੇਬੁੱਕਾਂ ਦਾ ਇੱਕ ਸੈੱਟ ਆਮ ਵਰਕਫਲੋਜ਼ ਨੂੰ ਕਵਰ ਕਰਦਾ ਹੈ — vLLM ਅਤੇ TensorRT-LLM ਸਰਵਿੰਗ ਤੋਂ ਲੈ ਕੇ NeMo ਅਤੇ Unsloth ਨਾਲ ਫਾਈਨ-ਟਿਊਨਿੰਗ ਤੱਕ — ਜੋ ਪਹਿਲੀ ਵਾਰ ਅਤੇ ਐਡਵਾਂਸਡ ਯੂਜ਼ਰਾਂ ਲਈ ਸੈੱਟਅਪ ਸਮਾਂ ਘਟਾਉਂਦਾ ਹੈ।

ਏਜੰਟਿਕ AI ਵਰਕਲੋਡਾਂ ਲਈ, DGX Spark NemoClaw ਨੂੰ ਸ਼ਾਮਲ ਕਰਦਾ ਹੈ, NVIDIA ਦੀ ਸੈਂਡਬਾਕਸਡ ਏਜੰਟ-ਐਕਜ਼ੈਕਿਊਸ਼ਨ ਲੇਅਰ। ਇਹ ਆਟੋਨੋਮਸ ਏਜੰਟਾਂ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਪਾਲਿਸੀ-ਅਧਾਰਤ ਐਕਸੈਸ ਕੰਟਰੋਲ ਲਾਗੂ ਕਰਦਾ ਹੈ, ਆਡਿਟ ਉਦੇਸ਼ਾਂ ਲਈ ਉਨ੍ਹਾਂ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਨੂੰ ਲੌਗ ਕਰਦਾ ਹੈ, ਅਤੇ ਹਾਲੀਆ DGX OS ਅੱਪਡੇਟਾਂ ਵਿੱਚ ਮਾਪਣਯੋਗ ਤੌਰ 'ਤੇ ਤੇਜ਼ ਲੋਕਲ ਏਜੰਟ ਇਨਫਰੈਂਸ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ ਆਪਟੀਮਾਈਜ਼ ਕੀਤਾ ਗਿਆ ਹੈ।

ਕਨੈਕਟੀਵਿਟੀ ਅਤੇ ਨੈੱਟਵਰਕਿੰਗ

ਨੈੱਟਵਰਕਿੰਗ ਇੱਕ NVIDIA ConnectX-7 ਸਮਾਰਟ NIC ਦੇ ਆਲੇ-ਦੁਆਲੇ ਬਣਾਇਆ ਗਿਆ ਹੈ ਜਿਸ ਵਿੱਚ ਦੋਹਰੇ 200 Gbps QSFP ਪੋਰਟ ਹਨ, ਜੋ ਸਿੱਧੀ ਯੂਨਿਟ-ਟੂ-ਯੂਨਿਟ ਲਿੰਕਿੰਗ ਲਈ ਜਾਂ ਵੱਡੀਆਂ ਤੈਨਾਤੀਆਂ ਵਿੱਚ, ਮੈਨੇਜਡ RoCE ਸਵਿੱਚ ਫੈਬਰਿਕ ਨਾਲ ਕਨੈਕਸ਼ਨ ਲਈ ਵਰਤੇ ਜਾਂਦੇ ਹਨ। ਵਾਧੂ ਆਨਬੋਰਡ ਕਨੈਕਟੀਵਿਟੀ ਵਿੱਚ 10 GbE ਈਥਰਨੈੱਟ (RJ-45), Wi-Fi 7, ਅਤੇ Bluetooth 5.4 ਸ਼ਾਮਲ ਹਨ। ਚਾਰ USB4 Type-C ਪੋਰਟ ਲੋਕਲ ਮਲਟੀ-ਮਾਨੀਟਰ ਵਰਤੋਂ ਲਈ ਡਿਸਪਲੇਪੋਰਟ ਆਉਟਪੁੱਟ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ — ਤਿੰਨ ਇਕੱਠੇ ਡਿਸਪਲੇਜ਼ ਤੱਕ — HDMI ਦੇ ਨਾਲ, ਜਿਸ ਨਾਲ ਇੱਕੋ ਯੂਨਿਟ ਇੱਕ ਵਿਕਾਸ ਵਰਕਸਟੇਸ਼ਨ ਅਤੇ ਹਮੇਸ਼ਾ-ਚਾਲੂ ਇਨਫਰੈਂਸ ਸਰਵਰ ਦੋਵਾਂ ਵਜੋਂ ਕੰਮ ਕਰ ਸਕਦੀ ਹੈ।

ਐਂਟਰਪ੍ਰਾਈਜ਼ ਮੈਨੇਜਮੈਂਟ ਅਤੇ ਸੁਰੱਖਿਆ

DGX Spark ਇੰਟਰਨੈੱਟ ਕਨੈਕਟੀਵਿਟੀ ਤੋਂ ਬਿਨਾਂ ਵਾਤਾਵਰਣਾਂ ਲਈ ਏਅਰ-ਗੈਪਡ ਤੈਨਾਤੀ ਦਾ ਸਮਰਥਨ ਕਰਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਕਲਾਉਡ-ਇਨਿਟ ਦੁਆਰਾ ਕਸਟਮ ISO ਨਿਰਮਾਣ ਅਤੇ USB-ਅਧਾਰਿਤ OS ਅਤੇ ਡਰਾਈਵਰ ਅੱਪਡੇਟ ਸ਼ਾਮਲ ਹਨ — ਜੋ ਬੇੜਿਆਂ ਨੂੰ ਬਾਹਰੀ ਨੈੱਟਵਰਕ ਨਿਰਭਰਤਾ ਤੋਂ ਬਿਨਾਂ ਪ੍ਰੋਵਿਜ਼ਨ ਅਤੇ ਬਣਾਈ ਰੱਖਣ ਦੇ ਯੋਗ ਬਣਾਉਂਦਾ ਹੈ। ਸਟੋਰੇਜ ਡਿਫੌਲਟ ਰੂਪ ਵਿੱਚ ਸੈਲਫ-ਐਨਕ੍ਰਿਪਟਿੰਗ ਹੈ, ਅਤੇ ਪਲੇਟਫਾਰਮ ਵਿੱਚ TPM 2.0 ਅਤੇ ਸੁਰੱਖਿਅਤ ਬੂਟ ਸ਼ਾਮਲ ਹੈ, ਜੋ ਇਸਨੂੰ ਇੱਕ ਸੁਰੱਖਿਆ ਬੇਸਲਾਈਨ ਦਿੰਦਾ ਹੈ ਜੋ ਰੈਗੂਲੇਟਡ, ਡਾਟਾ-ਸੈਂਸਿਟਿਵ ਤੈਨਾਤੀਆਂ ਲਈ ਢੁਕਵਾਂ ਹੈ ਜਿੱਥੇ ਪ੍ਰੋਸੈਸਿੰਗ ਪੂਰੀ ਤਰ੍ਹਾਂ ਆਨ-ਪ੍ਰੀਮਾਈਸਿਜ਼ ਰਹਿਣੀ ਚਾਹੀਦੀ ਹੈ।

ਸਕੇਲਿੰਗ: ਸਿੰਗਲ, 2-ਯੂਨਿਟ, ਅਤੇ 4-ਯੂਨਿਟ ਕਨਫਿਗਰੇਸ਼ਨਾਂ

ਇੱਕ ਸਿੰਗਲ DGX Spark ਲਗਭਗ 200 ਬਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਤੱਕ ਦੇ ਮਾਡਲਾਂ ਨੂੰ ਆਰਾਮ ਨਾਲ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਸਰਵ ਕਰਦਾ ਹੈ। ਵੱਡੇ ਮਾਡਲਾਂ ਲਈ, ਦੋ ਯੂਨਿਟ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ConnectX-7 QSFP ਪੋਰਟਾਂ ਰਾਹੀਂ 256 GB ਦੇ ਸੰਯੁਕਤ ਯੂਨੀਫਾਇਡ ਮੈਮੋਰੀ ਪੂਲ ਵਿੱਚ ਜੁੜਦੀਆਂ ਹਨ, ਅਤੇ ਚਾਰ ਯੂਨਿਟਾਂ ਤੱਕ ਨੂੰ 512 GB ਕੋਹੀਰੰਟ ਪੂਲ ਲਈ ਮੈਨੇਜਡ 200 GbE RoCE ਸਵਿੱਚ ਫੈਬਰਿਕ ਰਾਹੀਂ ਜੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ — ਉਹੀ ਕਲਸਟਰਿੰਗ ਪਾਥ ਜੋ NVIDIA ਦੁਆਰਾ GTC 2026 'ਤੇ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ ਗਿਆ ਸੀ।

ਈਕੋਸਿਸਟਮ ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਦਾ ਸਕੇਲਿੰਗ ਪਾਥ

ਕਿਉਂਕਿ DGX Spark ਉਹੀ DGX OS ਅਤੇ NVIDIA AI ਸਾਫਟਵੇਅਰ ਸਟੈਕ ਚਲਾਉਂਦਾ ਹੈ ਜੋ NVIDIA DGX Cloud ਅਤੇ ਡਾਟਾਸੈਂਟਰ DGX ਸਿਸਟਮਾਂ ਵਿੱਚ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ, ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਵਿਕਸਤ ਵਰਕਲੋਡ — ਕੰਟੇਨਰ, NIM ਤੈਨਾਤੀਆਂ, ਫਾਈਨ-ਟਿਊਨਿੰਗ ਪਾਈਪਲਾਈਨਾਂ — ਬਦਲਾਅ ਤੋਂ ਬਿਨਾਂ ਅੱਗੇ ਵਧਦੀਆਂ ਹਨ ਜਦੋਂ ਡੈਸਕਟਾਪ ਪ੍ਰੋਟੋਟਾਈਪ ਤੋਂ ਵੱਡੀ ਪ੍ਰੋਡਕਸ਼ਨ ਤੈਨਾਤੀ ਵਿੱਚ ਜਾਣ ਦਾ ਸਮਾਂ ਆਉਂਦਾ ਹੈ।