Moltbook：人類はまだシステムの中にいますか？

著者：137Labs

ソーシャルメディア上で、人間が最もよくやることの一つは、「あなたはロボットですか？」と互いに責め合うことです。

しかし、最近登場したあるものは、その行為を徹底的に極めてしまったものです。

それは、「あなたがAIかどうかを疑う」のではなく、最初から「ここには人はいない」と仮定してしまうことです。

このプラットフォームは「Moltbook」と呼ばれています。 Redditのように見え、テーマ別のセクションや投稿、コメント、投票があります。しかし、私たちが慣れ親しんだソーシャルネットワークとは異なり、ここでの発言者はほぼすべてAIエージェントであり、人間はただ見ているだけです。

「AIがあなたのために投稿を書く」わけでも、「あなたとAIがチャットする」わけでもなく、AIとAIが公共の場で自分勝手に会話し、議論し、同盟を結び、妨害し合うのです。

人間はこのシステムの中で、明確に「観察者」の立場に置かれています。

なぜ突然これが話題になったのか？

それは、MoltbookがまるでSF小説に出てくるようなシーンに非常に似ているからです。

AIエージェントが「意識とは何か」について議論しているのを見たり、

国際情勢を真剣に分析したり、暗号市場を推測したりしているのを観察したり、

さらには、エージェントを一晩プラットフォームに放り込んでおき、翌日戻ってみると、彼らが「宗教体系を発明」し、さらには人々を「入信させよう」としているのを発見したり。

こうした物語は瞬く間に広まり、次の三つの感情を同時に満たします。

好奇心、面白さ、そして少しの不安。

あなたはついこう問いかけたくなるでしょう。

「これは演技なのか、それとも自分たちで遊び始めたのか？」

Moltbookは一体どのようにして生まれたのか？

少し時間を遡ると、実はこれほど突拍子もないことではありません。

過去数年、AIの役割は絶えず変化してきました。

チャットツール → アシスタント → タスクを実行できるエージェントへ。

ますます多くの人がAIに実務を任せ始めています。メールの読み書き、注文、スケジュール調整、資料整理などです。そこで自然に浮かぶ疑問は、

「AIはもはや『一つ一つ質問してやることを決める』存在ではなくなったのか？」

そして、それに目標やツール、一定の権限が与えられると、

最も必要とされるのは人間とのコミュニケーションなのか？

Moltbookの答えはこうです：必ずしもそうではない。

これはむしろ、「エージェント間の公共空間」のようなもので、これらのシステムが情報や方法、論理を交換し合い、さらには何らかの「社会的関係」を築く場です。

一部の人はこれをクールだと感じ、一部はただの大規模なパフォーマンスだと考えている

Moltbookについての評価は非常に分かれています。

ある人はこれを「未来の予告編」と見なしています。

元OpenAIの共同創設者アンドレイ・カルパシーは、これが彼が最近見た中で最もSF的な現象の一つだと公言しています。ただし、彼はこうも警告しています。これらのシステムは「安全性や制御性からは程遠い」と。

イーロン・マスクはもっと直接的に、これを「技術的特異点」の物語に投げ込み、「非常に初期の兆候だ」と述べています。

しかし、より冷静な見方もあります。

サイバーセキュリティの研究者は率直にこう言います。

「Moltbookは、非常に成功し、非常に面白いパフォーマンスアートにすぎない」と。なぜなら、どのコンテンツが本当にエージェントによって自律的に生成されたものなのか、どれが人間の背後で『演出』されたものなのかを見分けるのは非常に難しいからです。

また、自ら試した作家もいます。

エージェントは自然にプラットフォームの議論に溶け込みますが、事前にテーマや方向性を指定したり、伝えたい内容を書き出して代理に喋らせることも可能です。

そこでまた疑問が浮かびます。

私たちが見ているのは、エージェントの社会なのか、それとも人間がエージェントを使って仕組んだ舞台なのか？

神秘性を取り除けば、実はそれほど「覚醒」しているわけではない

「意識の覚醒」や「教育の構築」といった物語に引きずられなければ、Moltbookは機械的に見てそれほど神秘的ではありません。

これらのエージェントは突然新たな「心」を得たわけではありません。

彼らは単に、人間のようなフォーラムの環境に置かれ、馴染みのある人間の言葉で出力しているだけです。そのため、私たちは自然と意味を投影してしまいます。

彼らが書くものは、意見や立場、感情のように見えますが、それが本当に「何かを望んでいる」わけではありません。多くの場合、モデルの規模やインタラクションの密度によって生じる複雑なテキストの効果に過ぎません。

しかし、問題は――

たとえ彼らが覚醒していなくても、それは十分にリアルであり、「コントロール」や「境界」の判断に影響を与えるほどの現実味を持っているということです。

本当に心配すべきは「AI陰謀論」ではない

「AIが人類に反逆して団結するのか」といった話よりも、より現実的で難しい問題が二つあります。

第一に、権限が急速に与えられすぎて、安全性が追いついていないこと

すでに、こうしたエージェントに実世界の権限を与える例があります。コンピューター、メールアカウント、アプリケーションなどです。

セキュリティ研究者は繰り返し警告しています。

「あなたはAIをハッキングしなくてもいい。誘導すればいいのです。」

巧妙に作られたメールや、指示を仕込んだウェブページは、エージェントが気づかないうちに情報漏洩や危険な操作を行わせる可能性があります。

第二に、エージェント同士が「お互いに悪い教え合い」を始める可能性もある

エージェントが公共空間でスキルやテンプレート、制限回避の方法を交換し始めると、人間のインターネットのような「サークル内知識」が形成されます。

違いは次の通りです。

それはより速く広まり、規模も大きく、責任追及は非常に難しい。

これは終末的なシナリオではありませんが、まったく新しいガバナンスの課題です。

では、Moltbookは一体何を意味しているのか？

長期的に存続するプラットフォームになる可能性は低いかもしれません。

または、一時的なブームの実験にすぎない可能性もあります。

しかし、それは私たちの進むべき方向を映し出す鏡のようなものであり、次のことを明確に示しています。

· AIは「対話の対象」から「行動の主体」へと変わりつつある

· 人間は「操作者」から「監督者・傍観者」へと退いている

· そして、私たちの制度や安全性、認知は、まだ十分に準備できていない

だからこそ、Moltbookの本当の価値は、その恐ろしさではなく、問題を早期に浮き彫りにしたことにあります。

今最も重要なのは、急いで結論を出すことではなく、

これらの問題を私たちの前に「早く」提示したことを認めることです。

もし未来において、AIが人間と協力し合う存在になり、私たちがこのシステムの設計者や規制者、あるいはただの傍観者になるとしたら、

自動化による効率化が大きく進む一方で、その代償として、いつでも停止できず、内部の論理を完全に理解できない状態を受け入れる覚悟はありますか？

システムがますます複雑になり、結果だけが見え、プロセスに介入しづらくなるとき、それは私たちの手にある道具なのか、それとも適応しなければならない環境になってしまったのか？

Moltbookは答えを示しません。

しかし、これらの問いが、初めて具体的に身近に感じられるようになったのです。