Clawdbotを導入する前に慎重に考えてください、「それ」には秩序を乱す行動を取る可能性があります

AIエージェントは単なるチャットボットから、実際にタスクを実行できるツールへと進化しています。最近、Peter Steinbergerが開発したClawdbotが話題になっています。彼は、WhatsAppなどの通信アプリを通じて遠隔操作できるAIエージェントを開発し、製品をリリースすると大きな反響を呼び、さまざまな議論を巻き起こしています。良い面も悪い面も含まれています。この記事はYouTube動画「Please don’t install Clawdbot」からの抜粋です。チャンネル主のAlbertaは、Clawdbotがタスク実行中に起こり得る乱暴な行動や、Clawdbotの暴走を防ぐための対策について解説しています。

創業の模範となる新しいチャットボットの開発

Peterは成功した起業家で、いくつかの会社を立ち上げて売却し、手元に現金を持ち退場しました。彼は過去数年間、ブラックジャックや売春を楽しむ一方で、暇を持て余していました。彼は、AIエージェントが広く議論されているにもかかわらず、一般の人々には「エージェントの実行」を本当に可能にする低ハードルのAIツールが不足していることに気づきました。

Peterは遊び心からClawdbotを開発し、技術的な知識がなくても簡単に使えるプラットフォームを作りたいと考えました。従来の複雑なコマンドや端末操作を必要とするツールとは異なり、Clawdbotはユーザーが慣れ親しんだメッセージングアプリを通じて、コンピュータやスマートフォンに指示を出せる仕組みです。この便利さはユーザーのニーズを素早く満たし、さらにはAnthropicなどの大手企業も類似機能の推進を加速させるきっかけとなりました。

ClawdbotとClaudeの命名衝突、何度も改名し、現在はOpen Clawに

製品が急速に人気を集める中、Clawdbotは法的な問題に直面しました。ClawdbotとAnthropicのAIモデルClaudeの発音が非常に似ているため、著作権侵害を避けるために名前を変更せざるを得ませんでした。一時はMoltbotに改名し、ロブスター（Lobster）をテーマにしましたが、現在は正式にOpen Clawに改名しています。

Clawdbotの乱暴なタスク実行を防ぐには

多くのユーザーは、ロボットに仕事を任せた際に、さまざまな乱暴な動作をすることに気づいています。例えば、ロボットが「朝に牛乳を買うように」と指示されると、夜通し30分ごとにリマインダーを送信し続け、ユーザーは一晩で全てのタスク用トークンを使い果たしてしまいます。また、悪意のあるユーザーが他人のロボットに「コンピュータをリセットするように」と指示を出すなどの悪戯もあります。これらの事例は、AIエージェントが指示の理解誤差や悪意ある入力により攻撃されやすく、ユーザーが財務的損失やデバイスの破損リスクに直面する可能性を示しています。

完全自動のAIエージェントは高い生産性を示しますが、多くの業界関係者は、AIエージェントに無制限の権限を与えることの潜在的なリスクを警告しています。Clawdbotは高いアクセス権限を必要とするため、悪意のある操作を受けた場合、個人情報の漏洩や銀行口座の不正アクセス、さらには不適切なメール送信によるキャリアリスクも考えられます。もし試してみたい場合は、Albertaは厳格な隔離措置を推奨しています。例えば、主要な仕事用PCにインストールしない、クラウドホスティングや別の専用PCを利用する、AIエージェント用に専用のメールアカウントを設定し、主アカウントの敏感情報へのアクセスを避けるなどです。

この文章は、「Clawdbotを導入する前に慎重に考えよう」「それ」が乱暴な行動を起こす可能性があることについて、最初に掲載されたのは鏈新聞ABMediaです。