Google Coral Mini PCIe Accelerator Edge TPU 4 TOPS

Model producenta: G650-04528-01

Google Coral Mini PCIe Accelerator to kompaktowa karta rozszerzeń przeznaczona do sprzętowego przyspieszania obliczeń związanych ze sztuczną inteligencją. Moduł został wyposażony w koprocesor Google Edge TPU, który umożliwia lokalne wykonywanie zgodnych modeli TensorFlow Lite bez konieczności przesyłania danych do chmury.

Karta wykorzystuje interfejs PCIe Gen 2 x1 i format Half-Mini PCIe. Jest przeznaczona między innymi do systemów embedded, komputerów przemysłowych, urządzeń IoT, systemów wizyjnych oraz bram komunikacyjnych wyposażonych w zgodne gniazdo Mini PCIe.

Oferowany wariant to G650-04528-01 w formacie Half-Mini PCIe. Model G650-04527-01 jest odrębną wersją w formacie M.2 2230 A+E Key i wykorzystuje inne złącze.

Najważniejsze cechy

• koprocesor Google Edge TPU,
• maksymalna wydajność 4 TOPS dla operacji 8-bitowych,
• efektywność obliczeniowa do 2 TOPS/W,
• interfejs PCIe Gen 2 x1,
• format Half-Mini PCIe,
• lokalne wykonywanie modeli AI,
• brak konieczności stałego połączenia z chmurą,
• obsługa odpowiednio przygotowanych modeli TensorFlow Lite,
• napięcie zasilania 3,3 V DC ±10%,
• temperatura pracy od -20°C do +85°C,
• wymiary 30 × 26,8 × 2,55 mm.

Maksymalna temperatura pracy zależy od obciążenia oraz sposobu odprowadzania ciepła w urządzeniu docelowym.

Przykładowe zastosowania

• systemy wizyjne i analiza obrazu,
• inteligentny monitoring i wykrywanie obiektów,
• automatyka przemysłowa,
• robotyka,
• urządzenia embedded,
• IoT i edge AI,

Dlaczego warto

Coral Mini PCIe pozwala przenieść wykonywanie modeli AI bezpośrednio do urządzenia końcowego. Dane nie muszą być każdorazowo przesyłane do zewnętrznej chmury, co może zmniejszyć opóźnienia, ograniczyć obciążenie sieci i zwiększyć kontrolę nad przetwarzanymi informacjami.

Dedykowany układ Edge TPU wykonuje obliczenia związane z wnioskowaniem modeli znacznie wydajniej niż standardowy procesor ogólnego przeznaczenia. Rozwiązanie sprawdza się szczególnie w urządzeniach pracujących lokalnie, systemach przemysłowych, monitoringu oraz aplikacjach wymagających szybkiej reakcji.

Karta osiąga szczytową wydajność 4 TOPS dla obliczeń 8-bitowych i została zaprojektowana do energooszczędnego wykonywania zgodnych modeli uczenia maszynowego.

Obsługiwane systemy operacyjne

Według dokumentacji producenta karta współpracuje z:

• 64-bitowym Debianem 10 lub nowszym,
• 64-bitowym Ubuntu 16.04 lub nowszym,
• architekturami x86-64 oraz ARMv8 w systemie Linux,
• Windows 10 64-bit w architekturze x86-64.

Platforma sprzętowa musi obsługiwać mechanizm MSI-X zgodnie ze specyfikacją PCI 3.0.

Informacja dotycząca Windows 11

Możliwa jest praca karty w systemie Windows 11 64-bit w zgodnych konfiguracjach sprzętowych. Producent oficjalnie wskazuje Windows 10 64-bit, dlatego działanie w Windows 11 zależy od zastosowanych sterowników, płyty głównej, rodzaju połączenia, obsługi MSI-X oraz pozostałych elementów konfiguracji i nie może być zagwarantowane dla każdego komputera.

Obsługa modeli TensorFlow Lite

Edge TPU nie przyspiesza automatycznie każdego modelu TensorFlow Lite. Model powinien:

• być w pełni skwantyzowany do wartości 8-bitowych,
• wykorzystywać operacje obsługiwane przez Edge TPU,
• zostać skompilowany za pomocą Edge TPU Compiler.

Jeżeli model zawiera nieobsługiwane operacje, część obliczeń może zostać wykonana przez procesor komputera, co może znacząco obniżyć wydajność.

Szczegółowy opis

Karta wykorzystuje dedykowany układ ASIC Edge TPU zaprojektowany przez Google do przyspieszania wnioskowania zgodnych modeli TensorFlow Lite. Układ może wykonywać do 4 bilionów operacji na sekundę w obliczeniach 8-bitowych.

Przetwarzanie odbywa się lokalnie na urządzeniu, co ogranicza konieczność przesyłania obrazu lub innych danych do usług zewnętrznych. Może to zmniejszyć opóźnienia, zwiększyć prywatność danych oraz umożliwić pracę również wtedy, gdy urządzenie nie ma stałego dostępu do internetu.

Kompatybilność sprzętowa

Karta wymaga gniazda Half-Mini PCIe udostępniającego magistralę PCIe Gen 2 x1.

Samo fizyczne dopasowanie modułu do gniazda nie gwarantuje poprawnego działania. Niektóre gniazda Mini PCIe w laptopach, mini-PC i komputerach przemysłowych mogą:

• obsługiwać wyłącznie połączenie USB,
• być przeznaczone tylko do modemów lub kart Wi-Fi,
• posiadać ograniczenia w BIOS-ie,
• nie obsługiwać mechanizmu MSI-X,
• nie zapewniać odpowiednich parametrów zasilania.

Przed zakupem należy sprawdzić dokumentację płyty głównej lub urządzenia docelowego.

Przykładowe urządzenia docelowe

Karta może być stosowana w:

• mini-PC i komputerach przemysłowych ze zgodnym gniazdem Mini PCIe,
• urządzeniach embedded i bramach IoT,
• komputerach stacjonarnych z odpowiednim adapterem Mini PCIe → PCIe,
• wybranych laptopach posiadających gniazdo Mini PCIe z aktywną magistralą PCIe.

W przypadku korzystania z adaptera należy upewnić się, że przekazuje on linię PCIe x1 i zapewnia prawidłowe zasilanie 3,3 V.

Kompatybilność z Raspberry Pi

Standardowe modele Raspberry Pi nie posiadają bezpośredniego gniazda Mini PCIe.

Raspberry Pi 5 udostępnia zewnętrzny interfejs PCIe, jednak oferowana karta nie pasuje bezpośrednio do oficjalnych adapterów Raspberry Pi M.2 HAT+ oraz Raspberry Pi M.2 HAT+ Compact.

Oficjalne adaptery Raspberry Pi udostępniają złącze M.2 M Key, natomiast Google Coral G650-04528-01 wykorzystuje złącze Mini PCIe.

Podłączenie karty do Raspberry Pi 5 może wymagać zewnętrznego adaptera PCIe → Mini PCIe, odpowiedniego zasilania oraz dodatkowej konfiguracji systemowej. Nie jest to rozwiązanie typu plug and play.

Montaż

Montaż polega na umieszczeniu karty w zgodnym gnieździe Half-Mini PCIe i zabezpieczeniu jej śrubą. Instalację należy wykonywać przy całkowicie wyłączonym urządzeniu, odłączonym od zasilania.

Po zamontowaniu karty należy zainstalować:

• sterownik Coral PCIe,
• środowisko Edge TPU Runtime,
• odpowiednie biblioteki i środowisko programistyczne zależne od wykorzystywanej aplikacji.

Podczas wykonywania modeli mogą występować krótkotrwałe skoki poboru prądu, dlatego system zasilania urządzenia docelowego powinien być przystosowany do obsługi takich obciążeń.

Parametry techniczne

• Numer producenta: G650-04528-01
• Koprocesor: Google Edge TPU
• Wydajność szczytowa: 4 TOPS, obliczenia 8-bitowe
• Efektywność: do 2 TOPS/W
• Interfejs: PCIe Gen 2 x1
• Format: Half-Mini PCIe
• Napięcie zasilania: 3,3 V DC ±10%
• Wymiary: 30 × 26,8 × 2,55 mm
• Masa: 3,6 g
• Temperatura pracy: od -20°C do +85°C
• Temperatura przechowywania: od -40°C do +85°C
• Obsługiwane modele: w pełni skwantyzowane modele TensorFlow Lite skompilowane dla Edge TPU

Wymagania systemowe

• zgodne gniazdo Half-Mini PCIe z magistralą PCIe,
• obsługa mechanizmu MSI-X,
• odpowiednie zasilanie 3,3 V,
• system operacyjny 64-bit,
• sterownik Coral PCIe,
• Edge TPU Runtime,
• zgodny model TensorFlow Lite skompilowany dla Edge TPU,
• odpowiednie chłodzenie dostosowane do obciążenia i warunków pracy.