Niat manusia adalah hasil evolusi—juta-juta sinyal yang terintegrasi secara instan untuk mendorong setiap pengambilan keputusan. Tapi di sinilah masalahnya: jurang antara apa yang bisa dilakukan AI dan apa yang benar-benar diinginkan orang sangat besar. Lebih ironis lagi, ketika kekuasaan tiba-tiba berada di tangan, orang menjadi sangat percaya diri terhadap bidang yang mereka "kuasai", dan efek Dunning-Kruger yang khas ini menjadi sangat jelas dalam gelombang teknologi baru.