SubQ випускає версію 1.1 із зовнішньою валідацією, яка демонструє 98% точності на 12 млн токенів

За даними Beating 动察, SubQ випустила свою версію 1.1 Small із технічним звітом, у якому стверджується 98% точності вилучення за граничної довжини контексту 12 мільйонів токенів, що було підтверджено стороннім оцінювачем Appen. Модель досягла результатів, порівнянних із провідними frontier-моделями, у практичних тестах з програмування. Розробницька компанія Subquadratic повідомила, що модель не навчали з нуля: її зібрали, внісши зміни в механізм attention відкритих frontier-моделей, а потім провели інкрементальне тренування на 1 трильйоні токенів.

Попри сторонню валідацію, розробницька спільнота залишається скептичною. Дослідники зазначили, що заявлений прорив не має фундаментальної технічної новизни та фактично лише застосовує наявні механізми розрідженої attention. Деякі вказали на штучно згенерований заповнювальний текст у технічному звіті, тоді як інші попередили, що механізм фільтрації може створити накладні витрати на планування під час одночасного використання, потенційно спричиняючи сильну затримку для крайових випадків.