ตามรายงานของ CNBC ผู้นำด้าน AI รวมถึง Scott Wu ซีอีโอของ Cognition และ Jeetu Patel CPO ของ Cisco เปิดเผยในสัปดาห์นี้ว่า “การกำหนดเส้นทางโมเดล” ซึ่งเป็นวิธีที่จับคู่งานกับโมเดล AI ที่เหมาะสมตามระดับความซับซ้อน กำลังกลายเป็นวินัยด้านต้นทุนที่สำคัญในองค์กรของสหรัฐฯ
ปัจจุบัน จากข้อมูลของ Arvind Jain ซีอีโอของ Glean ระบุว่า การใช้งาน AI ในองค์กรราว 95% มักเลือกใช้โมเดลแนวหน้า (frontier) ที่มีค่าใช้จ่ายสูง แม้สำหรับงานทั่วไป Model routing อาจช่วยให้ประหยัดต้นทุนได้ดีขึ้น 5 ถึง 10 เท่าในการทำงานแบบงานมาตรฐานด้วยทางเลือกที่ถูกกว่า Glean ยังสะท้อนแรงกดดันจากการวิเคราะห์ต้นทุนของ Cisco: หากมีการใช้โทเคนอยู่ที่ 200 ดอลลาร์ต่อพนักงานต่อสัปดาห์ บริษัทต้องเผชิญกับค่าใช้จ่ายด้าน AI ประมาณ 900 ล้านดอลลาร์ต่อปีสำหรับพนักงาน 90,000 คน หากองค์กรเริ่มหันไปกำหนดเส้นทางให้กับงานที่มีปริมาณสูงและทำง่ายไปยังโมเดลที่ถูกกว่าหรือโอเพนซอร์สเพิ่มขึ้น OpenAI และ Anthropic ก็จะได้รับค่าตอบแทนเฉพาะสำหรับงานที่ซับซ้อนเท่านั้น ซึ่งอาจปรับเปลี่ยนโมเดลการกำหนดราคาได้ทั้งที่ทั้งสองบริษัทใช้เป็นฐานในการประเมินมูลค่าแล้ว