NVIDIA a anunțat Nemotron 3.5 Super VL, un model multimodal deschis, gândit pentru agenții care lucrează mult timp pe sarcini complicate. Anunțul a venit pe contul NVIDIA AI, împreună cu o prezentare video.
Un singur model, nu două
În spate stă o arhitectură de experți amestecați (mixture-of-experts): 120 de miliarde de parametri, din care se activează 12 miliarde pentru fiecare simbol generat. Capacitate mare, consum cumpătat. Modelul adună într-un singur loc raționamentul, respectarea instrucțiunilor, folosirea uneltelor și înțelegerea de text, imagini, documente și video. Echipele nu mai țin un model separat pentru văz și nici nu mai cară contextul dintre două modele.
Ce iese la măsurători
Pe o singură placă video, NVIDIA spune că modelul ajunge la de cinci ori debitul altor modele deschise de talie apropiată, în sarcini de agenți. Pe punctul de referință Artificial Analysis trece de 600 de simboluri pe secundă, iar contextul urcă până la un milion de simboluri. Domeniile acoperite sunt codul, cercetarea pe web, extragerea din tabele și grafice, securitatea informatică și analiza video.
Cine l-a luat deja la treabă
Scale AI l-a antrenat în continuare pentru documentele de credit de la Skydance, iar costul deducerii scade de 40 de ori, cu întârzierea de cinci ori mai mică. Ramp transformă pozele de chitanțe în date structurate și așteaptă un debit mai mare cu până la 50%. AI21 și Alice l-au pus pe analiza vulnerabilităților și au câștigat 41% precizie.
Se poate croi pe organizație
Antrenarea în continuare se face prin NVIDIA NeMo: ajustare supervizată, adaptare de rang scăzut (LoRA) și învățare prin întărire, pe seturi de date deschise, publicate pe Hugging Face. Sub capotă lucrează decodare speculativă, cuantizare NVFP4 cu distilare conștientă de cuantizare, predicție de mai multe simboluri și refolosirea contextului. Există și un frate mai mic, Nemotron 3.5 Lightning, pentru sarcini de text cu volum mare.
Sursa
NVIDIA AI pe X: Meet NVIDIA Nemotron 3.5 Super VL
Detaliile tehnice stau în raportul Nemotron 3.5, iar personalizarea în cartea de rețete publicată pe GitHub.
No comments yet