Adrian de Wynter หัวหน้านักวิทยาศาสตร์ของ Microsoft ในบทความวิชาการชื่อ "If Large Language Models Had Human Traits, So Does Age of Empires 2" ใช้เครื่องมือแก้ไขแผนที่แบบกำหนดเองของ Age of Empires 2 สร้าง perceptron 1 บิตจากแพะ หญ้า และสะพานในเกม เพื่อโต้แย้งว่าตรรกะการคำนวณเบื้องหลังของ ChatGPT และ LLM อื่นๆ นั้น本质上是相同的กับกลไก触发แพะในเกม
การประยุกต์ใช้โครงข่ายประสาทเทียมใน Age of Empires 2: บทบาทของหญ้า สะพาน และแพะในการคำนวณ
(ที่มา: ภาพหน้าจอจาก CryptoCity)
Winter ใช้ฟังก์ชัน触发เหตุการณ์แบบกำหนดเองของ Age of Empires 2 เพื่อสร้าง NAND gate (ประตู NAND) จากองค์ประกอบในเกม: หญ้าแทนเลข 0, สะพานแทนเลข 1, และแพะ扮演 bit (บิต) เมื่อประตูลอจิกถูกทริกเกอร์ แพะที่ทำหน้าที่เป็นสัญญาณอินพุตจะถูกนำออก และจะสร้างแพะตัวใหม่ขึ้นบน轨道เอาต์พุต
ด้วยกลไกนี้ Winter สามารถสร้าง perceptron 1 บิต ซึ่งเป็นส่วนประกอบพื้นฐานที่สุดของโครงข่ายประสาทเทียมสมัยใหม่ในเกม Winter กล่าวว่าเครือข่ายที่ขับเคลื่อนด้วยแพะนี้本质上相同กับเทคโนโลยีเบื้องหลังที่ขับเคลื่อน ChatGPT ทั้งสองต่างกันเพียงความซับซ้อนและขนาด
สถิติเกี่ยวกับอคติในการทำให้เป็นมนุษย์ของ Winter จากการตรวจสอบ论文วิทยาการคอมพิวเตอร์ 300 ฉบับ
Winter วิเคราะห์论文วิทยาการคอมพิวเตอร์มากกว่า 300 ฉบับในช่วงสองปีที่ผ่านมาในบทความของเขา และเผยตัวเลขดังนี้:
· 57% ของ论文สมมติล่วงหน้า LLM มีลักษณะของมนุษย์ เช่น ความกังวลหรือศีลธรรม ตั้งแต่เริ่มต้น实验
· ในบรรดา论文ที่มีสมมติฐานดังกล่าว 77% สรุปว่าลักษณะนั้นมีอยู่จริง
· Winter ระบุผลลัพธ์นี้เป็นอคติยืนยัน และ认为ข้อ假设ทำให้เกิดมนุษย์ในตอนแรกของนักวิจัยมีอิทธิพลโดยตรงต่อข้อสรุปทางวิทยาศาสตร์
· Winter เรียกร้องให้วงการวิทยาศาสตร์改用สมมติฐานว่าง (null hypothesis) ที่ไม่预设คุณลักษณะของมนุษย์
วาทกรรมทางการค้าของยักษ์ใหญ่ AI และกลไกตลาดของการทำให้ LLM เป็นมนุษย์
Winter ชี้ว่ากลยุทธ์ทางธุรกิจของบริษัท AI ตอกย้ำการรับรู้ของสาธารณชนเกี่ยวกับจิตสำนึกของ LLM เขากล่าวว่าผู้บริโภคมักจะชำระเงินเมื่อสามารถเกิด共鸣กับผลิตภัณฑ์ ซึ่งกฎนี้ใช้ได้ตั้งแต่เครื่องปิ้งขนมปังจนถึงบริการสมัครสมาชิก LLM
Winter อ้างถึงสามกรณีในบทความ: Sam Altman ซีอีโอของ OpenAI เคย暗示หลายครั้งว่าการสร้าง LLM เป็นเส้นทางสู่ "AI ระดับพระเจ้า" อดีตนักวิทยาศาสตร์ของ OpenAI Ilya Sutskever เคยคุยกับพนักงานเกี่ยวกับการมองโมเดลของบริษัทว่าเป็น "จิตสำนึกเหมือนพระเจ้า" ส่วน Dario Amodei ซีอีโอของ Anthropic กล่าวกับสื่อว่า "ไม่สามารถยืนยันได้ว่า AI มีจิตสำนึก" ข้อความทั้งหมดนี้ถูกอ้างอิงโดย Winter ในบทความ ไม่ใช่การตีความมุมมองของทั้งสามคนโดย Winter เอง
คำถามที่พบบ่อย
Winter สร้างโมเดล AI ที่สมบูรณ์ใน Age of Empires 2 หรือไม่?
Winter สร้าง perceptron 1 บิต ซึ่งเป็นส่วนประกอบพื้นฐานที่สุดของโครงข่ายประสาทเทียมสมัยใหม่ในเกม ไม่ใช่โมเดล AI ที่สมบูรณ์ วัตถุประสงค์ของบทความคือการแสดงให้เห็นว่าตรรกะการคำนวณพื้นฐานเดียวกันมีอยู่ในทั้งกลไก触发แพะของเกมและเทคโนโลยีเบื้องหลังของ ChatGPT เพื่ออธิบายว่าการรับรู้ถึงคุณลักษณะเหมือนมนุษย์ของ ChatGPT ส่วนใหญ่มาจากอินเทอร์เฟซข้อความและความคาดหวังทางจิตวิทยา
57% และ 77% หมายถึงอะไร?
ตามการวิเคราะห์ทางสถิติของ Winter ในบทความของเขา ใน论文วิทยาการคอมพิวเตอร์มากกว่า 300 ฉบับในช่วงสองปีที่ผ่านมา 57% สมมติล่วงหน้า LLM มีคุณลักษณะของมนุษย์ เช่น ความกังวลหรือศีลธรรม ในบรรดา论文เหล่านี้ 77% สรุปว่าคุณลักษณะดังกล่าวมีอยู่จริง Winter ตีความว่าเป็นอคติยืนยัน ซึ่งข้อสมมติเบื้องต้นของนักวิจัยมีผลโดยตรงต่อการออกแบบการทดลองและข้อสรุปทางวิทยาศาสตร์
นักเขียนนิยายวิทยาศาสตร์ Ted Chiang อธิบายปัญหาการทำให้ LLM เกินความเป็นมนุษย์อย่างไร?
ตามที่อ้างอิงในบทความ Ted Chiang เคยเขียนว่า การเชื่ออย่างมืดบอดว่ารูปแบบภาษามีจิตสำนึก ก็เหมือนกับการเชื่อว่าทุกครั้งที่เปิดไฟล์ Microsoft Word จะปลุก个体หลายตัวที่ซ่อนอยู่ในประวัติการสนทนา 以此比喻ชี้ให้เห็นว่าการรับรู้ถึงการทำให้ LLM เป็นมนุษย์เป็นภาพลวงตาทางปัญญา
