Hugging Face Transformers modellarini oddiy protsessorlarda tekshirishni soddalashtirdi

Hugging Face Transformers kutubxonasidagi modellar uchun integratsion testlarni qadoqlash standarti — transformers-micʼni taklif qildi. Ushbu shartnoma modelning kichraytirilgan versiyasi, oʻzgartirilmagan tokenizer va processor fayllari, bajariladigan foydalanish ssenariysi hamda inson tomonidan tekshirilgan natija etalonlarini oʻz ichiga oladi.

Bunday test toʻplamlari arzon CPU-rannerlarda ishga tushiriladi va nafaqat modelni yuklash hamda oldinga oʻtish jarayonini, balki generatsiya, oʻqitish, gradientlar va vaznlarni yangilashni ham tekshirishi kerak. UMT5 uchun eksperimental versiya 66 MB joy egalladi, asl chekpoint hajmi esa 1 227 MB edi. Transformersʼdagi oʻzgarishlarni qayta ishlab koʻrishda u SDPAʼdagi diqqat mexanizmida dekoderga kelajak tokenlarini koʻrish imkonini beradigan xatoni aniqladi.

Shartnomalar har bir pull request uchun oʻzgartirilgan fayllarga qarab tanlanadi. 2026-yil 1-noyabr holatiga koʻra, CIʼdagi tekshiruvlar allaqachon nosozliklar haqida xabar berayotgan, biroq oʻzgarishlarni eʼlon qilishni hali bloklamayotgan edi: ishlab chiquvchilar haqiqiy xatolar, yolgʻon ijobiy natijalar va etalonlarni tekshirishga ketadigan mehnat xarajatlarini baholamoqda.