A Xiaomi bemutatta az AI Cube-ot: egy alumínium kockát három saját chippel, ami otthon 120milliárdnyi AI modellt futtat. Internet nélkül

A Xiaomi mozgalmas hetet zárt. Egy nappal azután, hogy bemutatta a XRING O3 mobilchipet, a színpadra valami olyasmit hozott, amire senki sem számított — egy visszafogott alumínium kockát, amely inkább tűnik hi-fi erősítőnek, mint számítógépnek. A neve Xiaomi AI Cube, és az egyetlen feladata, hogy egy nagy nyelvi modellt futtasson közvetlenül nálad otthon, felhőkapcsolat nélkül és egyetlen idegen chip nélkül a belsejében.

Három saját chip egyetlen kockában

Az AI Cube lényege nem a doboz, hanem az, amit a Xiaomi belül összekötött benne. Három különböző chip az XRING családból, mindegyik teljesen más kategóriából: egy mobil SoC, egy memória-gyorsító és egy processzor, amelyet eredetileg autóvezérlésre szántak. A cég arra bírta őket, hogy egyetlen feladatban működjenek együtt — a nagy modellek helyi futtatásában.

A fő agy az XRING O3 — ugyanaz a chip, amely egy nappal korábban az AnTuTu-ban ötmillió pont fölé emelte a lécet. Tízmagos CPU-val rendelkezik, amely kizárólag nagy magokból áll, tizenhatmagos G2-Ultra NX GPU-val és 200 TOPS teljesítményű NPU-val. Mobilokban hamarosan a hajlítható Xiaomi 18 Foldban látjuk majd, itt pedig ő a tábornok, aki az egész rendszert irányítja.

XRING O100: memória közvetlenül a számításra pakolva

A kocka legérdekesebb szilíciumdarabja az XRING O100, egy 6 nm-es gyártástechnológiával készült gyorsító. A Xiaomi itt a Wafer-on-Wafer típusú 3D egymásra építéshez nyúlt — az NPU-t tartalmazó logikai rétegre két DRAM-memóriaréteget pakolt, és ezeket hybrid bonding technikával kötötte össze mindössze 1,4 mikrométeres érintkezési távolsággal.

Ez gyártástechnikai részletnek hangzik, de az eredmény nagyon is gyakorlati: az adatok a memóriából csak töredéknyi utat tesznek meg a számítási egységig. A Xiaomi 28 672 hatékony adatkapcsolatot és 1,22 TB/s sávszélességet említ. A nagy nyelvi modelleknél éppen az adatmozgatás az, ami a leginkább visszafogja őket — nem maga a számítás.

Az XRING D100 az autóból érkezett, és 160 GB memóriát hozott

A harmadik chip az XRING D100, amely 3 nm-es eljárással készült. Eredetileg intelligens járművezérlő chipről van szó, ami logikus — a Xiaomi ma már autókat is gyárt, és saját számítási hardverre van szüksége bennük. Húszmagos CPU-t kombinál tizenhatmagos NPU-val, és mindenekelőtt akár 160 GB megosztott memóriát támogat.

És éppen a memória a legfontosabb szám a helyi AI-nál — ez határozza meg, mekkora modell fér el egyáltalán a gépedben. A Xiaomi szerint magában a D100 akár 200 milliárd paraméteres modellt is képes megtartani. Összehasonlításképp: az NVIDIA a saját otthoni AI-gépében, a DGX Sparkban 128 GB megosztott memóriát kínál valamivel 4 700 dollár alatt. A kínai gyártó tehát pontosan arra a kategóriára lő, amely eddig szinte teljesen az NVIDIA terepe volt.

Mit jelent ez a hétköznapi felhasználónak?

A Xiaomi bemutatója konkrét volt: az AI Cube egyszerre tart a memóriájában egy 120 milliárd paraméteres modellt és egy 3 milliárd paraméteres kis modellt, és képes közöttük váltani attól függően, mire van éppen szükséged. A kis modell azonnal válaszol az egyszerű kérdésekre, a nagy pedig akkor kapcsol be, amikor tényleg gondolkodni kell — a Xiaomi szóhasználatában ez a „gyors” és a „lassú” rendszer közötti váltást jelenti.

Az egész legfeljebb 150 W tartós teljesítményfelvétellel működik, ami nagyjából egy gyengébb gamer videókártyás asztali számítógép fogyasztása. A hűtést az alumínium unibody adja, amelybe a Xiaomi 33 874 darab pontos furatot maratott bele — innen jön a hi-fi komponensre emlékeztető megjelenés. A gyakorlati előny itt egyértelmű: beszélgetések, dokumentumok vagy hangutasítások nem hagyják el a saját otthonodat.

Mikor és mennyiért? Egyelőre semmi

Itt jön a hideg zuhany. Az AI Cube mérnöki prototípus, nem termék. A Xiaomi nem közölt hozzá árat, megjelenési dátumot, és azt sem, hogy egyáltalán valaha forgalomba kerül-e. A vállalat vezetője, Lei Jun a Weibo-n megerősítette, hogy mindhárom chip mögött megvan már a tervezés és a verifikáció, de az O100 és D100 sorozatgyártásba csak jövőre, azaz 2027-ben kerül. A korábban az emberekhez eljutó egyedüli verzió az O3 lesz a Xiaomi 18 Foldban.

A VideoCardz a prezentációban egy apró ellentmondásra is felfigyelt: míg a Xiaomi szerint a D100-nek olyan modelleket kell kezelnie, amelyek 200 milliárd paraméterrel dolgoznak, addig maga a bemutató az AI Cube-on egy 120B és egy 3B párossal futott. Nem egyértelmű tehát, hogy ebben a konkrét összeállításban hardveres korlátról van szó, vagy csak egy konzervatív választásról a demo kedvéért. A választ 2027-ig kell várni — és vele együtt arra is, hogy a Xiaomi tényleg boltokba hozza-e a kockát.

A további Xiaomi-világból származó újdonságokért kövesd továbbra is weboldalunkat a Xiaomi Planet-en, csatlakozz a Facebook csoportunkhoz, ahol egy aktív közösséget építünk, és egymást segítjük. Emellett feliratkozol a Telegram csatornánkra is, ahol nap mint nap feltöltjük a legjobb ajánlatokat és kuponokat Kínából.