LFM2.5 моделі ЖИ-агенттерді құрылғыда іске қосады

Liquid AI компаниясы Hugging Face-те LFM2.5-24B-A2B моделі туралы материал жариялады: ол агенттерді тікелей құрылғыда жылдам әрі құпия іске қосуға арналған. Атауына қарағанда, модельде 24 млрд параметр бар, ал жауап беру кезінде шамамен 2 млрд параметр жұмыс істейді — мұндай құрылым әдетте есептеу шығынын азайтады.

Мұның маңызы мынада: агент модельге бір рет емес, көп рет жүгінеді — құжатты оқиды, құралдарды шақырады, қадамдарды жоспарлайды. Бұлтта әр тізбек кідіріс пен шығын әкеледі, ал деректер компания шекарасынан шығып кетеді. Жергілікті іске қосу бұл мәселенің бір бөлігін шешеді, әсіресе қаржы, кадр және шарт мәліметтері үшін. Сапа мен құрылғыға қойылатын талаптар бойынша нақты көрсеткіштерді түпнұсқадан қарап, өз тапсырмаларыңызда тексерген жөн.

Компаниядан шықпауы тиіс деректердің тізімін жасап көріңіз: банк қозғалысы, жалақы, шарттар, клиент базасы. 1Cifer платформасы да осы қағидатқа сүйенеді: әр лауазымның өз агенті бар, ал 1С, CRM және банк деректеріне қолжетімділік компания құрылымы бойынша қорғалған контурда беріледі. Осы тізімнен кейін ғана нені жергілікті есептеп, нені бұлтқа сеніп тапсыруға болатынын шешкен дұрыс.