Nové AI modely od tvůrce ChatGPT: Jsou zdarma a běží na počítači bez internetu

OpenAI má i offline AI modely

Firma OpenAI je jedním z předních hráčů na poli umělé inteligence a stojí například za chatbotem ChatGPT. Nyní představuje dva nové jazykové modely, které jsou otevřené (open-weight) a to znamená, že si je můžete stáhnout na vlastní hardware v podobě například notebooku.

Tyto nové modely se jmenují gpt-oss-20b a gpt-oss-120b a pro OpenAI se jedná o první otevřené AI platformy od časů GPT-2 z roku 2019. Jejich otevřenost znamená také to, že jsou jejich parametry veřejně dostupné a je tedy možné je dále upravovat pro specifické úkony.

Jejich hlavní předností každopádně zůstává možnost provozovat je na vlastní hardwarové infrastruktuře, bez nutnosti provozovat je přes internet. Oba modely podporují simulované uvažování, používání nástrojů a umožňují rozsáhlé přizpůsobení.

Čtěte také: ChatGPT využívá téměř 700 milionů uživatelů týdně. Letos už jde o 40% nárůst

Užijte si AI na svém počítači

Oba nové modely podporují nízké, střední a vysoké nastavení. Při nízkém spotřebovávají nejméně prostředků, ale výsledky jsou lepší s vyšším nastavením. Menší z nových modelů je gpt-oss-20b, který má celkem 21 miliard parametrů a gpt-oss-120b disponuje 117 miliardami parametrů.

Menší model je celkově méně náročný na hardware a OpenAI uvádí, že zvládne bez problémů běžet na počítači s operační pamětí 16 GB RAM. Vyšší verze gpt-oss-120b už potřebuje ke svému běhu paměť 80 GB RAM (+ grafický čip typu Nvidia H100), což už na domácí PC není úplně běžné.

Uživatelé můžou od těchto nových modelů očekávat robustní výkon, který by měl být podobný tradičním cloudovým platformám. OpenAI každopádně uvádí, že nemá těmito otevřenými modely v plánu nahrazovat své proprietární verze a samozřejmě bude vše fungovat simultánně.

Jaké jsou hlavní výhody otevřeného řešení?

Oba tyto modely podporují pouze textové a nenabízí multimodální operace, nicméně v porovnání s cloudovým řešením nabízí několik zajímavých výhod. Lokálně spravovaná AI má nižší odezvu, nabízí více možností přizpůsobení a velkou výhodou je i uchování dat na bezpečném místě.

Výše postavená verze by měla být výkonnostně srovnatelná s modely o3 a o4-mini, přičemž nižší údajně zaostává jen velmi nepatrně. Pokud máte zájem tyto otevřené modely vyzkoušet (a máte odpovídající hardware), oba jsou již k dispozici zdarma ke stažení z webových repozitářů.

• Chci si zdarma stáhnout modely gpt-oss-20b a gpt-oss-120b