人類の意図は進化の産物——数百万の信号が瞬時に融合し、各決定を駆動している。しかし、これが問題の本質だ：AIができることと人々が本当に望むこととの間には、あまりにも大きなギャップがある。さらに皮肉なことに、権力が突然手に入ると、人々は自分が「掌握した」分野に対して自信満々になるが、これは典型的なダニング＝クルーガー効果が新しい技術の波の中で特に顕著に現れている。