Raspberry Pi AI HAT+ 2

Akcelerator AI Hailo-10H z 8 GB własnej pamięci RAM, zaprojektowany do Raspberry Pi 5. Raspberry Pi AI HAT+ 2 umożliwia lokalne uruchamianie zadań związanych z generatywną AI, modelami językowymi LLM, modelami wizyjno-językowymi VLM oraz widzeniem komputerowym.

Moduł zapewnia do 40 TOPS wydajności wnioskowania INT4. Dedykowana pamięć pozwala wykonywać obciążenia AI na akceleratorze bez zajmowania pamięci operacyjnej Raspberry Pi 5, dzięki czemu komputer może równolegle obsługiwać pozostałe zadania systemowe.

Przetwarzanie odbywa się lokalnie, dlatego rozwiązanie dobrze sprawdza się tam, gdzie znaczenie mają niskie opóźnienia, praca bez połączenia z usługą chmurową oraz przetwarzanie danych bezpośrednio na urządzeniu.

Najważniejsze cechy

• ⚡ Hailo-10H - 40 TOPS INT4 - dedykowany akcelerator do obliczeń AI.
• 🧠 8 GB wbudowanej pamięci RAM - pamięć przeznaczona do pracy akceleratora AI.
• Obsługa generatywnej AI - możliwość pracy z modelami LLM i VLM.
• Widzenie komputerowe - wydajność dla modeli wizyjnych porównywalna z wariantem Raspberry Pi AI HAT+ 26 TOPS.
• Integracja z Raspberry Pi 5 - komunikacja przez interfejs PCI Express.
• Integracja ze stosem kamer Raspberry Pi - obsługa zgodnych zadań AI przez oprogramowanie Raspberry Pi.
• Zgodność ze specyfikacją HAT+ - konstrukcja przygotowana do montażu na Raspberry Pi 5.

AI lokalnie na Raspberry Pi 5

AI HAT+ 2 rozszerza Raspberry Pi 5 o sprzętowe przyspieszanie modeli AI. Może być wykorzystany zarówno do analizy obrazu, jak i bardziej wymagających zastosowań generatywnych.

Przykładowe zastosowania obejmują analizę scen wizualnych, rozpoznawanie i przetwarzanie obrazu, zamianę mowy na tekst, tłumaczenie, robotykę, bezpieczną analizę danych oraz sterowanie procesami działającymi offline.

Hailo udostępnia przykładowe modele, a użytkownik może również przygotowywać własne modele wizyjne lub dostosowywać modele generatywne do konkretnego zastosowania.

Integracja z Raspberry Pi OS i kamerami

AI HAT+ 2 komunikuje się z Raspberry Pi 5 przez interfejs PCI Express. Przy aktualnym systemie Raspberry Pi OS wbudowany akcelerator Hailo jest automatycznie wykrywany i może zostać udostępniony aplikacjom korzystającym z obliczeń AI.

Moduł jest zintegrowany ze stosem oprogramowania kamer Raspberry Pi. Aplikacje rpicam-apps mogą wykorzystywać akcelerator do zgodnych zadań przetwarzania obrazu, dzięki czemu AI HAT+ 2 nadaje się m.in. do systemów wizyjnych i projektów wykorzystujących kamerę.

Specyfikacja techniczna

• Akcelerator AI: Hailo-10H
• Wydajność wnioskowania: 40 TOPS INT4
• Pamięć: 8 GB wbudowanej pamięci RAM przeznaczonej dla akceleratora
• Obsługiwane zastosowania: generatywna AI, LLM, VLM i widzenie komputerowe
• Interfejs komunikacyjny: PCI Express Raspberry Pi 5
• Standard: Raspberry Pi HAT+
• Integracja programowa: stos oprogramowania kamer Raspberry Pi
• Temperatura pracy: 0°C - 50°C temperatury otoczenia
• Planowana produkcja: co najmniej do stycznia 2036 r.

Wymiary i konstrukcja

AI HAT+ 2 ma format nakładki przeznaczonej do Raspberry Pi 5. Wymiary płytki wynoszą około 66 x 56,5 mm.

Sam układ Hailo NPU ma około 15 x 15 mm, natomiast pamięć SDRAM około 14,5 x 10 mm. Rysunek techniczny pozwala sprawdzić rozmieszczenie elementów oraz otworów montażowych przed zastosowaniem modułu we własnej konstrukcji lub obudowie.

Radiator do intensywnych obciążeń AI

W komplecie znajduje się radiator przeznaczony do AI HAT+ 2. Jego zastosowanie jest opcjonalne, ale producent zaleca montaż przy długotrwałych testach wydajności oraz intensywnych obciążeniach AI, aby ograniczyć możliwość obniżania wydajności z powodu temperatury.

Radiator ma około 42,5 x 64 mm. Po zamontowaniu z bolcami wysokość zestawu AI HAT+ 2 wynosi około 14 mm.

📌 Producent zaleca, aby po zamontowaniu radiatora nie zdejmować go ponownie, ponieważ może to pogorszyć stan bolców mocujących i termopadów, a także doprowadzić do uszkodzenia produktu.

Elementy montażowe w zestawie

• ✅ Raspberry Pi AI HAT+ 2 z akceleratorem Hailo-10H
• Radiator do modułu AI HAT+ 2
• Cztery gwintowane podkładki dystansowe
• Cztery długie śruby do mocowania podkładek dystansowych do Raspberry Pi 5
• Cztery krótkie śruby do montażu AI HAT+ 2 do podkładek dystansowych
• Złącze GPIO do montażu piętrowego
• Kabel taśmowy

Zastosowane elementy umożliwiają montaż AI HAT+ 2 na Raspberry Pi 5 również przy zainstalowanym oficjalnym aktywnym chłodzeniu Raspberry Pi.

Dla kogo jest Raspberry Pi AI HAT+ 2?

To rozwiązanie dla użytkowników Raspberry Pi 5, którzy chcą przenieść obliczenia AI bezpośrednio na urządzenie. Sprawdzi się w projektach wymagających lokalnego przetwarzania danych, krótkiego czasu reakcji i sprzętowego przyspieszania modeli AI.

Może być wykorzystany w robotyce, automatyce, systemach wizyjnych, analizie danych, urządzeniach edge AI, eksperymentach z LLM i VLM oraz zaawansowanych projektach badawczych i edukacyjnych.