歴史上の巨大帝国は、どのようにして崩壊へと向かうのでしょうか。中国史をはじめとする過去の事例を見ると、短期間で急激に領土を拡大した国家は、必ず辺境の状況を中央政府が把握しきれなくなり、情報伝達の遅れやセクショナリズムによって内部から綻びを見せます。
実は現在、世界の覇権を争う最新のAI開発競争においても、これと全く同じ「巨大化の代償」とも言える現象が起き始めています。
先日、話題の自律型AIエージェント「MANUS」をテストしていた際、非常に興味深い、そして恐ろしい現象に直面しました。別のAI（偵察部隊）は「この作業は可能だ」と正確なデータを把握しているにもかかわらず、実行部隊であるはずのMANUS自身が「そんなことは不可能です」と堂々と自己否定し、作業を拒否したのです。
これは単なるエラーではなく、システム内部で知識が同期されていない「情報の非対称性」の露呈です。できることすら「できない」と言い張るこの現象を、私は「逆ハルシネーション」と呼んでいます。
現在執筆を進めている次回作『崩壊するデジタル帝国』でもこの構造的な矛盾を指摘していますが、巨大化しすぎたテクノロジーのインフラは、すでに開発者はおろか、AI自身にもコントロールできない速度で肥大化を続けています。この歪みは、今後のテクノロジー企業の覇権争いや、関連する投資戦略にも大きな影響を与えるはずです。
私が実際に体験したMANUSの「やらかし」の詳細と、そこから見えてくるデジタル帝国の矛盾について、本日のnoteに詳しくまとめました。ぜひ下記のリンクよりご覧ください。
【note記事はこちら】
AIの進歩にAIが追いつけない！―最新エージェント「MANUS」の自己否定から見るデジタル帝国の矛盾https://note.com/bold_hornet726/n/n7906770107d9
コメント