ทีม Longcat ของ Meituan ได้เปิดตัว LongCat-Next ซึ่งเป็นโมเดลมัลติโมดัลที่ใช้สถาปัตยกรรม MoE โดยรวมความสามารถห้าประเภท ได้แก่ การประมวลผลข้อความ ความเข้าใจภาพ การสร้างภาพ เสียง และอื่นๆ การออกแบบหลัก DiNA ใช้ token แบบไม่ต่อเนื่องเพื่อจัดการกับงานแบบรวม ด้านภาพ dNaViT ที่ใช้นั้นทำให้การสร้างภาพมีประสิทธิภาพยอดเยี่ยม เมื่อเทียบกับโมเดลที่คล้ายคลึงกัน LongCat-Next แสดงผลLongCat-Next มีประสิทธิภาพดีกว่าในการทดสอบต่างๆ ซึ่งแสดงให้เห็นข้อได้เปรียบของมันในด้านการทำความเข้าใจและการสร้างมัลติโมดัล

Cursor ได้เปิดตัวรายงานทางเทคนิค Composer 2 ซึ่งแนะนำแผนการฝึกอบรมแบบสมบูรณ์สำหรับสถาปัตยกรรม Kimi K2.5 MoE รวมถึงการฝึกอบรมสองขั้นตอนและเกณฑ์มาตรฐาน CursorBench ที่พัฒนาเองของบริษัท หลังจากการฝึกอบรม Composer 2 แสดงให้เห็นการปรับปรุงประสิทธิภาพอย่างมีนัยสำคัญและมีความได้เปรียบในแง่ของต้นทุนการอนุมาน เมื่อเทียบกับรุ่นล่าวสุดอื่น ๆ

Cursor ได้เปิดตัวรายงานเทคโนโลยี Composer 2 เมื่อวันที่ 25 มีนาคม ซึ่งเปิดเผยแผนการฝึกอบรมของโมเดล Kimi K2.5 โดยใช้สถาปัตยกรรม MoE พร้อมพารามิเตอร์จำนวน 1.04 ล้านล้าน การฝึกอบรมแบ่งเป็นสองขั้นตอน โดยใช้การจำลองสถานการณ์จริงเพื่อการเรียนรู้แบบเสริมแรง ท้ายที่สุดแล้วได้คะแนน 61.3 บน CursorBench benchmark โดยมีการปรับปรุง 70% และมีต้นทุนการอนุมานต่ำกว่า API ของโมเดลขนาดใหญ่อื่นๆ

ทีม LongCat ของ Meituan ได้ปล่อยโอเพนซอร์ส LongCat-Flash-Prover เมื่อวันที่ 21 มีนาคม ซึ่งเป็นโมเดล MoE ที่มีพารามิเตอร์ 5600 พันล้าน มุ่งเน้นไปที่การพิสูจน์ทฤษฎีบททางการ Lean4 โมเดลดังกล่าวแบ่งออกเป็นความสามารถสามประการ ได้แก่ การทำให้เป็นทางการโดยอัตโนมัติ การสร้างสเก็ตช์ และการสร้างการพิสูจน์ที่สมบูรณ์ โดยรวมเครื่องมือการอนุมาน และคอมไพเลอร์ Lean4 เพื่อใช้ในการตรวจสอบแบบเรียลไทม์ การฝึกอบรมใช้ Hybrid-Experts Iteration Framework และอัลกอริทึม HisPO เพื่อป้องกันการโกงระบบรางวัล ผลการทดสอบเบนช์มาร์กแสดงให้เห็นว่าโมเดลดังกล่าวได้ตั้งเรกคอร์ดใหม่สำหรับโมเดลน้ำหนักโอเพนซอร์สในด้านการทำให้เป็นทางการโดยอัตโนมัติและการพิสูจน์ทฤษฎีบท

Mistral AI เปิดตัวตัวแทนโค้ดโอเพนซอร์ส Leanstral ซึ่งออกแบบมาโดยเฉพาะสำหรับการตรวจสอบรูปแบบ Lean 4 สามารถสร้างโค้ดและการพิสูจน์ที่สามารถตรวจสอบได้โดยอัตโนมัติ โมเดลนี้ใช้สถาปัตยกรรม Sparse MoE ซึ่งมีประสิทธิภาพดีกว่าโมเดลชั้นนำอื่นๆ และให้บริการดาวน์โหลดฟรีและการเรียก API