NVIDIA Jetson: Mimari, Çalışma ve Uygulamaları

NVIDIA Jetson gibi dünyanın önde gelen platformu, çoğunlukla otonom makinelerde ve diğer cihazlarda kullanılan bir dizi gömülü bilgi işlem kartıdır. gömülü uygulamalar . Bu kart temel olarak yüksek performanslı bilgisayarlar olan Jetson modüllerini içerir. Jetson, benzer AI yazılımları ve diğer NVIDIA platformlarında kullanılan bulut tabanlı bir iş akışı ile çok uygundur ve müşterilerin yazılım tabanlı otonom makineler oluşturması için güç açısından verimli performans sağlar. NVIDIA Jetson, bilgisayarla görme uygulamaları için kullanılır. Bu nedenle, bu makale NVIDIA Jetson'ın çalışmasına ve uygulamalarına genel bir bakış sunar.

NVIDIA Jetson nedir?

NVIDIA Jetson gelişmiş bir gömme sistemi çeşitli sektörlerde yenilikçi yapay zeka ürünleri oluşturmak için kullanılan kart. NVIDIA Jetson, teknoloji meraklıları ve ayrıca öğrencilerin bir dizi yenilikçi AI projesi aracılığıyla uygulamalı deneyim kazanmaları için çok yararlı olan lider donanım platformlarından biridir. Bu kart, modüler, küçük form faktörlü ve yüksek performanslı uç bilgisayarları içeren yapay zeka için çok verimli bir karttır. Buna ek olarak, bu kart, yazılım hızlandırma için kullanılan JetPack SDK'nın yanı sıra özel yapay zeka projelerinin geliştirme prosedürünü artırmaya yardımcı olmak için eksiksiz bir ekosistem içerir.

NVIDIA Jetson Mimarisi

Nvidia'nın Nvidia Jetson modülünün bir dizi gömülü bilgi işlem kartı olduğunu biliyoruz. Jetson TX1, TX2 ve TK1'in tüm modelleri, ARM mimarili bir CPU içeren Nvidia'nın SoC veya Tegra işlemcisini taşır. Burada Jetson, temel olarak makine öğrenimi uygulamalarını hızlandırmak için tasarlanmış düşük güçlü bir sistemdir.

NVIDIA Jetson Xavier NX mimarisi aşağıda gösterilmiştir. Edge bilgi işlem cihazları için kullanılan en gelişmiş ve küçük yapay zeka süper bilgisayarıdır. otonom robotik . Bu modül, sağlam bir 70x45mm form faktörü içinde sunucu sınıfı performansı dağıtma kapasitesine sahiptir ve ayrıca 15W gücün altında 21 TOPS'a kadar işlem sağlar, aksi takdirde 10W'ın altında 14 TOPS'a kadar işlem sağlar.

Yukarıdaki diyagram, entegre bir 384 çekirdekli NVIDIA Volta içerir GPU 6 çekirdekli NVIDIA Carmel ARMv8.2 64 bit CPU, 48 Tensör Çekirdeği, 8 GB 128 bit LPDDR4x, 4K video kodlayıcılar ve kod çözücüler, çift NVDLA (NVIDIA Derin Öğrenme Hızlandırıcı) motorları, altı adede kadar anlık yüksek çözünürlüklü kamera dahil sensör akışları, çift Ekran Bağlantı Noktası veya HDMI 4K ekranlar, PCIe Generation 3 genişletme, I2C, SPI, I2S, UART ve CAN veri yolu ile USB 3.1 ve GPIO'lar.

NVIDIA Jetson'un teknik özellikleri aşağıdakileri içerir.

• Güç 10W veya 15W modları ve 5V girişidir.
• CPU, 1400MHz'de 6 çekirdekli NVIDIA Carmel 64-bit ARMv 8.2'dir.
• GPU, 48 Tensör Çekirdeği aracılığıyla 1100MHz'de 384 çekirdekli NVIDIA Volta'dır.
• DL, Çift NVDLA motorlarıdır.
• Bellek, 1600 MHz'de 8 GB 128 bit LPDDR4x'tir.
• 16 GB eMMC 5.1 depolama.
• Kamera 12x MIPI CSI-2 şerididir | 3×4 veya 6×2 kameralar.
• 6 adede kadar kamera (sanal kanallar aracılığıyla 36).
• -25°C ila 90°C arası termaller.
• Ekran, 4Kp60'ta DP 1.4 veya eDP 1.4 veya HDMI 2.0 a/b'dir.
• Ethernet, 10 veya 100 veya 1000 BASE-T Ethernet'tir.
• USB 3.1 ve USB 2.0.

Bu modül, NVIDIA'nın tüm CUDA-X yazılım yığını ve ayrıca AI geliştirme için JetPack SDK tarafından desteklenir. Eksiksiz bir masaüstü Linux ortamında gerçek zamanlı bilgisayar görüşü, grafikler ve multimedya uygulamalarına ek olarak, çok sayıda yüksek çözünürlüklü sensör akışında aynı anda çok popüler makine öğrenimi çerçevelerini ve zorlu DNN'leri çalıştırır.

Şu anda geliştiriciler, Jetson AGX Xavier Developer Kit'in yardımıyla Jetson Xavier NX için AI uygulamaları tasarlamaya başladılar. JetPack'in yakınında bir cihaz modeli yaması uygulamak, cihazın bir Jetson Xavier NX gibi çalışmasını sağlar. Bu, yazılım yoluyla elde edilebilen GPU ve CPU çekirdeği sayısını değiştirecek ve sistem genelinde çekirdeklerin saat frekanslarını ve voltajlarını ayarlayacaktır.

Yama, Jetson Xavier NX performansına yaklaşmak için kullanılan tamamen tersine çevrilebilir. Bu modül, aktif moda dayalı olarak 14 ve 21 TOPS zirve performansına ulaşan varsayılan 10W ve 15W güç modlarını sınıflandırır. nvpmodel aracı, çeşitli CPU kümeleriyle birlikte GPU, CPU, çeşitli SoC saatleri ve bellek denetleyicisi için en yüksek CLK frekanslarını ayarlamak amacıyla güç profillerini işlemek için kullanılır.

İş yüküne bağlı olarak, DVFS (Dinamik Voltaj ve Frekans Ölçeklendirme) yöneticisi, aktif nvpmodeli tarafından açıklanan şekilde çalışma zamanındaki frekansları en yüksek limitlerine kadar dengeler, böylece güç kullanımı boştayken ve işlemci çalışmasına bağlı olarak azalır. nvpmodel aracı, TDP ve uygulama gereksinimlerine dayalı olarak yeni güç modlarının oluşturulmasına ve değiştirilmesine yardımcı olur.

NVIDIA Jetson modülü, süper bilgisayarın performansını küçük bir form faktörlü SOM (modül üzerinde sistem) içinde uca taşır. 21 TOPS'a eşit hızlandırılmış bilgi işlem, mevcut sinir ağlarını paralel olarak çalıştırmak ve çeşitli yüksek çözünürlüklü sensörlerden gelen verileri işlemek için beygir gücü gönderir. Bu modül, tıbbi aletler, ticari robotlar, AIoT gömülü sistemler, akıllı kameralar, otomatik optik inceleme, yüksek çözünürlüklü sensörler, akıllı fabrikalar vb. gibi yüksek performans tabanlı AI sistemleri için idealdir.

Yazılım

NVIDIA Jetson modülü, yazılım geliştiricilerin çok daha kolay çalışmasını sağlayacak şekilde birleşik yazılım mimarileri aracılığıyla basit bir şekilde desteklenir. Bu birleştirilmiş yaklaşım, diğer Jetson modüllerindeki oluşumlarını geliştirirken, geliştiricileri tekrarlayan kodlama zahmetinden kurtarır.

NVIDIA JetPack SDK, bilgisayar görüşü, derin öğrenme vb. gibi farklı makine öğrenimi alanları için bir Linux işletim sistemi, CUDA-X hızlandırılmış kitaplıklar ve API'ler ile birlikte sunulur. Ayrıca Caffe, TensorFlow, Keras ve OpenCV bilgisayar görüşü gibi makine öğrenimi çerçevelerini de destekler kitaplıklar.
NVIDIA Jetson, modülleri için aşağıda açıklanan farklı yazılım araçları sunar.

NVIDIA JetPack SDK'sı

TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV ve Visionworks gibi Jetson platform yazılımı Paketlerinin tümü, LTS Linux çekirdeği aracılığıyla L4T'nin üzerinde toplanır.

NVIDIA Jetson Linux Sürücü Paketi

Jetson platformu için Linux çekirdeği, NVIDIA sürücüleri, önyükleyici, örnek dosya sistemi, flash yardımcı programları ve çok daha fazlasını sağlar.

NVIDIA Derin Akış SDK'sı

Geliştiricilerin Jetson platformunda güçlü IVA (akıllı video analitiği) çözümleri tasarlamasına ve düzenlemesine yardımcı olan bir dizi API ve kitaplıktır. Kodlama, görüntü yakalama, kod çözme, TensorRT ile çıkarım vb. gibi karmaşık uygulamalar oluşturmak için kullanılır.

NVIDIA Isaac SDK'sı

Navigasyon, algılama ve manipülasyon için yeni nesil robotlara yapay zeka ekleyecek bir dizi kitaplık, API, sürücü ve diğer araçlardır. Bu nedenle, yapay zeka destekli robotların oluşturulmasına ve dağıtılmasına yardımcı olur.

NVIDIA Jetson Türleri

NVIDIA Jetson modülü, bellek, GPU, CPU, yüksek hızlı arabirimler, güç yönetimi vb. ile birlikte gelir. Bu modüller, çeşitli endüstrilerde kullanılmalarını sağlamak için farklı performanslarda, güç verimliliğinde ve çeşitli form faktörlerinde mevcuttur. Aşağıda tartışılan farklı NVIDIA Jetson cihazları mevcuttur.

NVIDIA Jetson Nano

NVIDIA Jetson Nano modülü, temel olarak uygulamalı öğrenme ve öğretme için tasarlandığından, geliştiriciler veya öğrenciler ve ayrıca yeni başlayanlar için uygundur. Bu modülün boyutu küçüktür, ancak güç verimliliği ve performansı, onu mevcut çoklu paralel sinir ağlarını, yapay zeka iş yüklerini ve yüksek çözünürlüklü sensörlerden gelen veri işlemeyi tek seferde çalıştırmak için mükemmel hale getirecek şekilde yüksektir. Bu nedenle, Jetson Nano modülü, gömülü AI ürünleri ve çözümleri yapmak için kullanılan çok popüler bir uç cihazdır.

Bu modül, yapay zeka tabanlı bilgisayarla görme uygulamaları için mükemmeldir ve nesne algılama, görüntü segmentasyonu, görüntü sınıflandırması vb.

NVIDIA Jetson TX2 Serisi

NVIDIA Jetson TX2 Series modülü, kredi kartı boyutunda tasarlanmıştır. Bu modülün özellikleri temel olarak bir NVIDIA Pascal GPU, 8 GB'a kadar bellek, 59,7 GB/s bellek bant genişliği ve standart donanım arabirimlerini içerir. Bu modül, NVIDIA Jetson Nano modülüne kıyasla 2,5 kata kadar performans sağlar.

Bu modül, daha yüksek doğruluk elde etmek için uç cihazlarda derin sinir ağlarını çok verimli bir şekilde çalıştırır. Seride bulunan modüller başlıca Jetson TX2 4GB, Jetson TX2i, Jetson TX2 ve Jetson TX2 NX'i içerir. NVIDIA Jetson TX2 NX modülü, Jetson Xavier NX ve Jetson Nano aracılığıyla pin ve form faktörü uyumluluğunu basitçe paylaşır.

Kalan üç modül, orijinal Jetson TX2 modülünün form faktörünü paylaşacaktır. TX2 serisinin kullanımı basitçe tarım, imalat, yaşam bilimleri, perakende vb. güçlü tasarımı sayesinde.

Bu modül, 7,5 W gibi yüksek güç verimliliği, özellikle uç yapay zeka cihazları için süper bilgisayar yetenekleri ve ayrıca farklı ürünlere ve form faktörlerine kolayca dahil etmek için çeşitli donanım arabirimleri sunan çok hızlı bir yerleşik yapay zeka bilgi işlem cihazıdır.

NVIDIA Jetson Xavier NX

NVIDIA Jetson Xavier NX modülü, yüksek performans ve güç verimliliğine sahip bir kredi kartına kıyasla çok küçüktür. Bu aynı zamanda dünyadaki kenar ve gömülü sistemler için en küçük yapay zeka süper bilgisayarı olarak da bilinir. Bu modül özellikle eksiksiz AI sistemlerinin çalıştırılmasına yardımcı olur.

Jetson Xavier NX'in özellikleri aynı zamanda bulut tabanlı teknolojileri de destekler, bu nedenle geliştiriciler için AI ürünlerini yükseltme ve yönetme kolaydır. Bu modül, tüm popüler AI modellerini ve çerçevelerini destekler. Dolayısıyla bu modül, akıllı kameralar, yapay zeka destekli yüksek çözünürlüklü görüş sistemleri, dronlar, ticari robotlar veya tıbbi ekipman gibi yüksek performanslı yapay zeka sistemlerine tamamen uygundur.

NVIDIA Jetson Xavier NX modülü, 10 W güç tüketerek mevcut bir yapay zeka iş yükünü çalıştırmak için Saniyede 21 Tera İşlem veya TOPS sunar. Bu modülün form faktörü, bir kredi kartına kıyasla daha derli topludur. Xavier NX modülü, çeşitli sinir ağlarını aynı anda çalıştırır ve farklı yüksek çözünürlüklü sensörlerden gelen verileri işler. Bu tür bir modül, önemli ağırlık, boyut ve güç kısıtlamalarına rağmen yüksek performansa ihtiyaç duyan gömülü ve uç bilgi işlem cihazları için uygulamalar tasarlamak için kullanılır.

NVIDIA Jetson AGX Xavier Serisi

NVIDIA Jetson AGX Xavier Serisi modülü, temel olarak yeni nesil otonom akıllı makineler için geliştirilmiştir. Bu modül, 10 watt kadar az güç kullanırken 32'ye kadar TOPS veya Saniyede Tera İşlemi yapay zeka performansı sunar. Yazılım geliştiricinin, NVIDIA'nın bir dizi AI yazılım aracıyla sinir ağlarını hızla düzenlemesine izin verilir.

Bu modül, geliştiricilerin güvenlik veya endüstriyel sertifikalı ürünler oluşturması için çeşitli spesifikasyonlar ve işlevsel güvenlik yetenekleri sağlar. Bu modülün yüksek performansı, onları lojistik ve endüstriyel robotlar, fabrika sistemleri ve büyük dronlar gibi çok sayıda otonom makine için uygun hale getirebilir.

Jetson Xavier NX Geliştirici Kiti

Jetson xavier nx geliştirici kiti, yapay zeka destekli uç cihazlar için kullanılan sağlam, güç açısından verimli bir Xavier NX modülü içerir. Bu modül, bulutta yerel destek gibi bazı özelliklere sahiptir ve Jetson TX2'nin 10 katından fazla performansla NVIDIA yazılım yığınını yalnızca 10 W'ta hızlandırır. Bu geliştirici kiti, akıllı makine üreticileri, yapay zeka startup'ları ve uygulama geliştiricileri tarafından kompakt, son derece hassas yapay zeka çıkarımı ve güç açısından verimli form faktörü ile modern ürünler tasarlamak için kullanılır.

Jetson AGX Xavier Endüstriyel

Jetson AGX Xavier Industrial modülü, AGX Xavier serisinin bir parçasıdır. Bu modülün tasarımı, zorlu uygulamalarda en güncel AI modellerini kontrol eden pin uyumlu bir form faktörüdür. Bu modül, genişletilmiş titreşim, şok, sıcaklık özellikleri, gelişmiş güvenlik özellikleri, TX2i modülünün 4 katına kadar bellek ve 20 katına kadar performans sağlar.

Bu modül, tasarımcıların otomasyon, robotik ve diğer akıllı ürünleri tasarlamasına çok yardımcı olur. Buna ek olarak, sağlam ve güç açısından verimli form faktörü tasarımında endüstriyel, yapay zeka gömülü işlevsel ve güvenlik uygulamaları için yüksek performans sağlamak üzere güvenlik sertifikalı ve sağlam ürünler tasarlar.

Avantajlar

bu NVIDIA Jetson'un avantajları aşağıdakileri dahil edin.

• NVIDIA Jetson, öğrenciler, bireysel geliştiriciler ve farklı kuruluşlar için uygundur.
• Jetson Platformu, modüler esneklik, birleştirilmiş yazılım ve bulut tabanlı teknolojiler için destek gibi çeşitli avantajlarla birlikte geldiği için çok popülerdir.
• Bu kart, temel AI uygulamalarından çok karmaşık AI destekli cihazlara kadar her şey için çok yararlı olan bir dizi modül sağlar.
• Bu kart, geliştiricilerin tekrarlayan kodlamadan kurtulmasına yardımcı olan birleşik bir yazılım mimarisi aracılığıyla güçle çalıştırılır. AI/ML kapasitesine ihtiyaç duyduklarında, cihaza ilgili bir Jetson modülünü dahil edebilirler ve ağır işleri o üstlenir.
• NVIDIA Jetson platformu, düzenleme ve konteynerleştirme gibi bulut tabanlı teknolojileri ve iş akışlarını basitçe destekleyerek, geliştiricilere yapay zeka ürünlerini hızla geliştirme ve genişletme yeteneği sağlar.
• NVIDIA JetPack SDK, bilgisayar görüşü ve derin öğrenme gibi çeşitli makine öğrenimi alanları için bir Linux işletim sistemi, API'ler ve CUDA-X hızlandırma kitaplıklarıyla birlikte sunulur. Ayrıca Caffe ve Keras gibi makine öğrenimi çerçeveleri, TensorFlow ve OpenCV bilgisayar görüşü kitaplıkları için destek sağlar.

Dezavantajları

Fiyat dikkate alındığında çok az dezavantajı vardır.

• NVIDIA Jetson nano modülü, içinde wifi ile mevcut değildir.
• NVIDIA Jetson nano modülü, kart üzerinde yalnızca iki PWM pini içerir.

Uygulamalar

NVIDIA Jetson uygulamaları aşağıdakileri içerir.

• NVIDIA Jetson modülü, çeşitli senaryolar için AI ürünleri yapmak için kullanılan üstün yerleştirme sistemleri sunar. Bu, yüksek performanslı, modüler ve küçük form faktörlü uç bilgisayarları içeren, yapay zeka için kullanılan güç açısından verimli bir modüldür.
• Nvidia Jetson anakartları, küçük bir form faktörü içinde güçlü işlemeye ihtiyaç duyan dronlar, robotlar ve diğer cihazlar gibi gömülü sistemlerde kullanılmak üzere tasarlanmıştır. Jetson panolarının yaygın uygulamaları arasında başlıca tıbbi cihazlar, otonom araçlar, dijital tabelalar, AR/VR kulaklıklar, akıllı şehir uygulamaları vb. yer alır.
• Bu modül, yazılım geliştiricilerin işini çok daha basit hale getirmek için birleşik yazılım mimarilerini destekler.
  NVIDIA Jetson modülleri ve cihazları, Edge AI sistemlerini geliştirmek için kullanılan optimize edilmiş uç cihazlardır.
• NVIDIA Jetson Nano Developer Kit, nesne algılama, görüntü sınıflandırma, konuşma işleme ve segmentasyon gibi çeşitli uygulamalar için birkaç sinir ağını paralel olarak çalıştıran çok güçlü ve küçük bir bilgisayardır.
• NVIDIA Jetson Nano modülü, yapay zekaya dayalı bilgisayarla görme uygulamaları için mükemmeldir ve görüntü bölümleme, görüntü sınıflandırma, nesne algılama vb. gibi yapay zekayla görme görevlerini yerine getirir.
• NVIDIA Jetson'un Nano modülleri, binlerce güç açısından verimli ve küçük AI sistemine inanılmaz yeni yetenekler getiriyor
• NVIDIA Jetson Nano modülü, OpenCV makine öğrenimi kitaplıkları ve açık kaynaklı bilgisayar görme yazılımı ile uyumludur.

Q). Jetson modüllerinin güç tüketimi nedir?

A). Jetson modülünün güç tüketimi, modele ve kullanıma göre değişir. Örneğin, Jetson Xavier modülü 15w ila 30w civarında tipik bir güç tüketimine sahipken, Jetson TX2 7w ila 15w arasında tüketebilir.

Q). Jetson, gerçek zamanlı nesne algılama ve izleme için kullanılabilir mi?

A). Evet, Jetson Platformları görüntü algılama ve izleme işlemlerini gerçekleştirebilir. Nano modül, uç bilgi işlem platformuna sahip yüksek performanslı bir GPU'dur ve esas olarak algılama, sayma ve izleme için kullanılabilir.

Q). Jetson ne tür sensörlerle arabirim kurabilir?

A). Görüş sensörleri, Jetson'u USB, MIPI CSI ve Ethernet gibi çeşitli kamera arabirimleriyle arabirim oluşturmak için kullanılır. Ayrıca lidar, Ultrasonik sensör ve diğer türlerle ve ayrıca I2C, SPI vb. farklı arabirim türlerini kullanarak arabirim oluşturabilirler.

Q). Jetson ve Raspberry Pi arasındaki fark nedir?

A). Bu iki board arasındaki temel fark ise; NVIDIA Jetson, yüksek talepkar yapay zeka ve bilgisayarla görme görevlerinin üstesinden gelmek için geliştirildi, Raspberry Pi 4 kartı ise genel amaçlı bilgi işlem ve eğitim için kullanılan düşük güç tabanlı multimedya GPU'ya sahip. Jetson, güçlü GPU (Grafik İşlem Birimi) ve CPU'yu (Merkezi İşlem Birimi) kullanarak donanım hızlandırmalı video kod çözme ve kodlama gibi daha gelişmiş özellikler için kullanılabilir.

Q). Jetson otonom robot uygulamaları için kullanılabilir mi?

A). Yarının otonom robot teknolojisi ve endüstrisi, Intelligent Machines & Robotics için NVIDIA Jetson aracılığıyla güçle çalışacak.

Böylece, bu NVIDIA Jetson'a genel bakış – avantajları ve uygulamaları. Bu modül, geliştiriciler tarafından tüm sektörlerde gelişmiş yapay zeka ürünleri yapmak için kullanılan dünya çapında lider platformdur. Bu modüller ayrıca öğrenciler ve ayrıca meraklılar tarafından harika projeler yapmak için yapay zeka öğreniminde uygulamalı deneyim kazanmak için kullanılır. Jetson platformu temel olarak güç tasarruflu, küçük geliştirici kitleri ve üretim modüllerinden oluşur. İşte size bir soru, NVIDIA nedir?