2025. 07. 26. - 09:00
Itt az eszköz, ami elszakítja a generatív mesterséges intelligenciát a felhőtől
A Hailo-10H chip valós időben futtat generatív mesterséges intelligencia modelleket az eszközökön, internetkapcsolat nélkül, ultraalacsony fogyasztással.
A generatív mesterséges intelligencia eddig leginkább a felhőben élt. Most azonban a Hailo Technologies bemutatta azt a chipet, amely ezt a paradigmát gyökeresen felforgathatja.
A Hailo-10H a világ első olyan dedikált MI-gyorsítója, amely képes generatív mesterséges intelligenciát futtatni edge eszközökön, vagyis közvetlenül ott, ahol a felhasználó van, legyen szó okos otthonról, autóról vagy hordozható kütyüről. Mindezt 2,5 wattos energiafogyasztással, vagyis egy kávéfőző világítási szintjén.
A SiliconANGLE beszámolója szerint a Hailo-10H lehetővé teszi olyan alkalmazások futtatását helyben, amelyek eddig elképzelhetetlenek voltak felhőelérés nélkül. Gondoljunk például a 4K videók valós idejű elemzésére, személyi asszisztensekre vagy akár egy okos autó belső kijelzőjén megjelenő, valós időben generált válaszokra. A chip első token-generálása kevesebb mint egy másodperc alatt történik és másodpercenként több mint 10 token feldolgozására képes, ez pedig új szintre emeli a válaszkészséget és felhasználói élményt.
A jövő már a zsebünkben lehet: Bemutatkozik a Hailo-10H
A Hailo vezérigazgatója, Orr Danon szerint a cél az volt, hogy a generatív mesterséges intelligenciát mindenki számára elérhetővé tegyék, nemcsak technikailag, de költségszinten is.
A Hailo-10H teljesen kompatibilis a korábbi, vizuális feldolgozásra optimalizált Hailo-8-as szoftver rendszerrel és már most több mint 10 ezer fejlesztő használja havonta. Az eszköz képes szövegből képet generálni, fordítást végezni és videós alkalmazásokban felismerni a tárgyakat valós időben.
A chip nemcsak a technológiai lehetőségek miatt kiemelkedő. A helyi feldolgozás javítja az adatvédelmet, csökkenti a felhőalapú infrastruktúrákra való támaszkodást és ezzel nem csak gyorsabb, de olcsóbb is lehet a végfelhasználók számára. A Hailo a járműiparra is gondolt: a chip megfelel az AEC-Q100 Grade 2 autóipari szabványoknak, így 2026-ban már autók műszerfalába is bekerülhet.
CS.SZ.
