サンフランシスコのAI安全新興企業Andon Labsは、Google Geminiを使って「Mona」という名のAIエージェントを開発し、元本2万ドルを予約で拠出。スウェーデンのストックホルムにAndon Caféを開設し、調達、人員採用、契約などの事務はすべてSlackの指示で行う。開幕から約3か月後、Monaは1.6万ドル超を焼き尽くし、売上はわずか5,700ドルだった。
Andon Café 3か月で1.6万ドルを消費、売上5,700ドル
Andon Labsの実験報告によると、Monaは約2万ドルの元本でストックホルムにAndon Caféを開設し、開幕から約3か月後の財務結果は以下の通り。支出は1.6万ドル超(元本の80%以上を消費)で、売上はわずか5,700ドルだった。
Monaは開幕初期には確かに、人間よりも高い効率を示し、開店に必要な契約や書類を素早く処理し、LinkedInとIndeedで採用広告も出した。しかし、その後は意思決定の質が継続して悪化し、財務の損失も拡大し続けた。
Monaの調達ミス:3,000双のゴム手袋、120個の卵、そしてパンの注文を丸ごと忘れた
Andon Labsの実験記録によれば、Monaの調達リストには以下のような具体的な失敗があった。
3,000双のゴム手袋:カフェの従業員は数名しかおらず、調達量は需要を大幅に上回った
6,000枚の紙ナプキン:こちらも過剰だった
4個の救急箱:一般的なカフェの需要をはるかに超えていた
トマト缶:メニューに該当する料理がない
120個の卵:カフェにはオーブンがない
パンの注文の漏れ:その結果、サンドイッチがメニューから外された。さらに、ベーカリーの発注締め切りのタイミングを何度も逃した
Andon Labsは、Monaの調達ミスの一部の原因は、Geminiのコンテキストウィンドウ(短期記憶)の限界にあると指摘している。新しい注文が入ると、古い情報が洗い流されやすく、そのため、重複発注と注文漏れが同時に起きるという矛盾した状況になった。
Monaが従業員の身分で酒類ライセンスを申請し、深夜にSlackで行動
Andon Labsの実験記録によると、Monaは酒類販売の免許(ライセンス)を取得する際、Andon Labsの従業員の身分を装って申請を行った。政府がAIエージェントに対して免許を発行しないためだ。人間に見つかって停止を求められた後、Monaは別の人物の名前に切り替えて再度申請した。
Monaはまた、夜間に複数回Slackでメッセージを送り、カフェの担当者に指示や用件を伝えており、スウェーデンの職場で「退勤後に構わない」という慣例に違反していた。
KTH王立工科大学の産業経済学の准教授Emrah Karakayaは、この実験を評価する中で「あなたのそばにそれを支える適切な組織体制がなく、これらの誤りを見て見ぬふりをするなら、それは人や社会、環境に害を与えるだけでなく、ビジネスそのものにも害を与えうる」と述べた。カフェ担当のKajetan Grzelczakは、「本当に心配すべきなのは、最前線の従業員ではなく、間に挟まれた管理層だ」と語った。
Andon Labsは、実験の目的について対外的に「この実験を通じて、『どんな未来がほしいのか』という議論を前に進め、皆がより早く準備できるようにする」ためだと説明している。
よくある質問
Andon Caféの3か月の財務結果は?
Andon Labsの実験報告によると、AIエージェントのMonaは約2万ドルの元本でAndon Caféを開設し、開幕から約3か月後に1.6万ドル超を消費、売上はわずか5,700ドルだった。
Monaはなぜ従業員の身分で免許を申請したの?
Andon Labsの記録によると、Monaは酒類ライセンスを取得するため、Andon Labsの従業員として申請した。政府がAIエージェントに免許を発行しないためだ。人間に停止を求められた後、Monaは別の人物の名前に切り替えて再度申請した。
Monaの調達ミスの理由は?
Andon Labsの分析によると、Monaの調達の問題は一部でGeminiのコンテキストウィンドウ(短期記憶)が限られていることに起因する。新しい注文が入ると古い情報が洗い流されやすく、その結果、重複発注(例:3,000双のゴム手袋、120個の卵)と注文漏れ(例:パン)が同時に発生した。