Autor
Convai Innovations (Hugging Face)
1 fișă de lectură din 1 carte · 2026.
1 fișă
Laya — model card · 2026
Laya vorbește contractul lui Jev pe hardware-ul tău, dar e o bază de specializat, nu un motor zero-shot.
Convai Innovations a publicat Laya pe 18 septembrie 2026, la trei zile după Jev, cu trei puncte de control pe Hugging Face: `laya` (ModernBERT-large, 421M parametri, context 512, engleză), `laya-multilingual` (mmBERT-base, 322M, context 1024, peste 100 de limbi) și `laya-typed-decisions` (421M, reglat fin pe fluxuri de decizie). Arhitectura explică viteza: un codificator bidirecțional care notează opțiunile într-o singură trecere, nu un decodor care scrie token cu token. Măsurat de autori pe un Tesla T4: 39,5 ms pentru o întrebare pe checkpoint-ul englez, 32,8 ms pe cel multilingv, 7,2 ms per întrebare la loturi de zece; pe CPU, 193–464 ms cu modelul preîncărcat; circa 2 GB de memorie video per checkpoint. Contractul e intenționat același: dicționarul `questions` cu `choice`, `score`, `noul` și rezultatul cu `choice`, `probabilities`, `confidence`. Un `Router` detectează scriptul textului în sub 0,5 ms și alege checkpoint-ul înainte de trecerea înainte — necesar, pentru că modelul englez «se prăbușește» în afara englezei fără să-și scadă încrederea. Limitele, spuse de autori. Checkpoint-urile de bază sunt aproape de întâmplare pe decizii tipizate zero-shot (0,362 față de 0,318 aleator și 0,461 clasa majoritară); cifra de 0,766 care bate Jev (0,727) vine din checkpoint-ul reglat pe partea de antrenare a aceluiași benchmark — «o bază rapidă de specializat, nu un motor de decizie zero-shot». Peste 20 de opțiuni, bugetul de tokeni per etichetă se subțiază (0,425 față de 0,870 pentru Jev pe 77 de etichete). Și livrează supra-încrezător: ECE 0,466 înainte de calibrare, 0,081 după.
“Dă-i o stare (text, e-mail, tichet sau JSON) și întrebări tipizate; întoarce răspunsuri tipizate cu probabilități calibrate matematic, într-o singură trecere înainte (~33 ms), în peste 100 de limbi.”