Hêza M4 di destên te de ye: Meriv çawa modelên AI-ê bi 24GB bîra herêmî dixebitîne?

Her hezkiriyê Apple her tim xeyal kiriye ku hêzek tevahî li ber destên xwe hebe, û naha bi çîpa nû ya M4, em dikarin li ser tiştek pir wêdetir ji geroka bilez a webê an jî edîtorkirina vîdyoyê biaxivin. Em li ser veguherandina Mac-a we bo serverek AI-ê ya bi tevahî herêmî û taybet diaxivin. Ne înternet, ne abonetiyên mehane, û ne jî fikarên li ser sîxuriya pargîdaniyê li ser daneyên we. Fikra xebitandina modelek AI-ê ku karên lêkolîn, plansazkirin û bernamekirinê rasterast ji dîska weya hişk pêk tîne, ezmûna teknolojîk a herî dawî ye ku bikarhênerek Mac-ê dikare îro hebe.


Labîrenta mîhengan û hilbijartina amûran

Ne ewqas hêsan e ku meriv serîlêdanekê veke û şablonekê bar bike; ketina cîhana şablonên herêmî hinekî dişibihe çêkirina kompîturekê ji sifirê. Pêşî, divê hûn platforma ku wê şablonê dixebitîne hilbijêrin, çi Ollama be, llama.cpp be, an LM Studio be. Her platformek xwedî taybetmendî û sînorkirinên xwe ye, û hemî piştgirîya heman şablonan nakin. Dûv re dijwarîya herî mezin tê: hilbijartina şablonekê ku di nav 24GB RAM-a cîhaza we de cih bigire, di heman demê de ji bo sepanên we yên din cîhek têr bihêle ku bi rêkûpêk bixebitin.

Armanc li vir ew e ku modelek were dîtin ku pencereyek kontekstê ya mezin peyda bike, bi tercîhî 128 nîşanekan an jî zêdetir. Ceribandinên bi modelên mîna Qwen 3.6 an GPT-OSS 20B re nîşan dane ku her çend ew ji hêla teknîkî ve dikarin di bîrê de bixebitin jî, ew dikarin ji ber hêdîbûna zêde bi pratîkî bêkêr bibin, di heman demê de modelên piçûktir ên mîna Gemma 4B dibe ku di pêkanîna amûr û karên tevlihev de zehmetiyan bikişînin.


Şampiyonê Bêtac: Qwen 3.5-9B

Piştî ceribandineke dirêj, modelek derdikeve holê qwen3.5-9b@q4_k_s Ev model, wekî vebijarka herî baş a hevseng ji bo MacBook Pro-yek 24GB, bi Moda Ramanînê ya çalakkirî û şiyana bikaranîna serkeftî ya amûrên nermalavê, bi leza berbiçav a heta 40 nîşanekan di saniyeyê de pesnê xwe dide. Her çend carinan dibe ku li gorî modelên mezintir ên li ser ewr-ê bala mirov bikişîne jî, ew dîsa jî ji bo laptopek ku pêwendiyek torê hewce nake performansek berbiçav pêşkêş dike.

Ji bo bidestxistina encamên çêtirîn di karên bernamekirina rast de, tê pêşniyar kirin ku mîhengan bi baldarî werin sererast kirin, wek mînak germahî li ser 0.6 were danîn û vebijarkên mîna top_p=0.95 werin çalak kirin. Ev hûrguliyên teknîkî yên piçûk ew in ku ferqa di navbera bersivek jîr û bersivek ku dikeve nav çerxek xerab a dubarekirinê de çêdikin.


Karê xebatê yê înteraktîf: Mirov û makîne li kêleka hev

Werin em realîst bin; modelên xwemalî yên wekî Qwen 3.5 ne amade ne ku bi yek klîkekê serîlêdanek bêkêmasî ava bikin mîna modelên pêşkeftî yên li ser ewr. Di şûna wê de, ew hewceyê herikînek xebatê ya înteraktîf in ku hûn tê de kontrol bikin û modelê wekî alîkarek lêgerînê an "ordekek gomî" ya jîr bikar bînin da ku kodê tavilê binirxînin an hûrguliyên zimanên bernamesaziyê yên tevlihev bi bîr bînin.

Ev rêbaza xebatê, her çend ji we bêtir hewldana derûnî bixwaze jî, we teşwîq dike ku hûn bi bandortir bifikirin û plansaz bikin. Hûn hemû ramanên xwe nadin makîneyê; berevajî vê, hûn wê wekî amûrek bikar tînin da ku hilberîna xwe zêde bikin bêyî ku kontrola projeyê winda bikin. Ew ezmûnek teknolojîk a xweş û domdar e ku ji me re tîne bîra xwe ka me çima di serî de ji teknolojiyê hez dikir: şiyana ceribandina bi amûran re û keşifkirina sînorên tiştê ku gengaz e.

Te hewl daye ku modelek AI-ê li ser Mac-a xwe bi awayekî herêmî bixebitînî, an jî tu tercîh dikî ku xwe bispêrî karûbarên ewr?

Bikarhêner:

jola.dev

Ethernet