Tencent Hunyuan เปิดตัวอัลกอริทึม Stem Sparse Attention ลดความหน่วงของโทเค็นตัวแรก 3.7 เท่า ที่บริบท 128K

ตามรายงานของ Guru Club เมื่อวันที่ 5 มิถุนายน Tencent Hunyuan ได้เปิดตัวอัลกอริทึม Stem sparse attention ซึ่งได้รับการยอมรับจากการประชุมแมชชีนเลิร์นนิงชั้นนำอย่าง ICML-26 อัลกอริทึมดังกล่าวทำให้ได้ความแม่นยำใกล้เคียงไม่สูญเสียที่ 25% ของงบประมาณ ผ่าน Token Position Decay (TPD) และ Output-Aware Metric (OAM) โดยช่วยลดความหน่วงของโทเค็นตัวแรกลง 3.7x ที่ความยาวคอนเท็กซ์ 128K เมื่อรวมกับตัวดำเนินการ HPC
news.article.disclaimer
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น