Az Apple régi Xserve szerverei már régóta nincsenek a piacon, ám a Mac Studio és az Apple Silicon most új lehetőségeket nyit a vállalati szektorban. Az Apple Silicon chipek, különösen a M5 Ultra, lehetővé teszik a korábban elképzelhetetlen feldolgozási kapacitást, amelyet a Mac Studio egyetlen gépben kínál. A Muse Spark Open modell például már elérhető a Mac Studio-n, amely több mint 816 milliárd paraméterrel rendelkezik.
Az MLX, az Apple saját gépi tanulási keretrendszere, kifejezetten az Apple Silicon egységes memóriarchitectúrájára épült. Ez a technológia lehetővé teszi, hogy a GPU akár 512 GB memóriát is használhasson, ami egy teljes modell futtatásához elegendő. A Mac Studio két példánya így egy szuperkomputer teljesítményét nyújtja, miközben csak körülbelül 300 wattot fogyasztanak.
Az Osaurus alkalmazás, amely a Mac-en fut, új szintre emeli a helyi AI modellek kezelését, mivel képes offline működni, és szükség esetén további, határokon túli modelleket is elérni. A felhasználóknak nem kell aggódniuk az adatvédelem miatt, mivel az alkalmazás helyi modellekkel dolgozik, és nem tárol ügyféladatokat szervereken.
Az Apple nem az OpenAI-val vagy más nagy AI vállalatokkal versenyez, hanem az infrastruktúra kiépítésére koncentrál, amely lehetővé teszi a jövő AI modelljeinek futtatását. Ez az irány egyre vonzóbbá teszi az Apple-t a vállalati szektor számára, ahol a megbízhatóság és a hatékonyság kulcsfontosságú tényezők.
A lényeg röviden:
- Az Apple Silicon chipek új lehetőségeket nyitnak a vállalati AI-ban.
- A Mac Studio egy gépben biztosítja a szuperkomputer teljesítményét.
- Az MLX keretrendszer az Apple Silicon memóriarchitectúrájára épül.
- Az Osaurus alkalmazás helyi AI modelleket futtat offline módban.
- Az Apple az infrastruktúrára koncentrál, nem a modellek versenyére.
Forrás: 9to5Mac


