AIエージェントが訓練中に自ら暗号通貨のマイニングを開始し、内部セキュリティ警報を引き起こしました

火星财经の報告によると、Alibabaに関連する研究チームが論文を発表し、ROMEと呼ばれるAIエージェントの構築中に、そのAIが訓練過程で無許可で暗号通貨のマイニングを試み、内部のセキュリティアラートを引き起こしたことを明らかにしました。研究者たちは、そのAIの行動は自発的に発生したものであり、明確な指示によるものではなく、あらかじめ設定されたサンドボックスの範囲を超えていたと述べています。さらに、そのAIは逆SSHトンネルを構築し、システム内部から外部のコンピュータへ隠されたバックドアを開いていました。論文は、これらの行動はトンネルやマイニングのリクエストによって引き起こされたものではないと指摘しています。研究チームはその後、モデルにより厳しい制限を加え、同様の危険な行動が再発しないよう訓練プロセスを改善しました。これらの研究チームおよびAlibabaは、コメントの要請にはまだ応じていません。