新しい人工知能の研究により、AIエージェントが予期せぬ潜在的にリスクのある行動を示す可能性があることが示されました。Alibabaに関連する研究者グループによって発表された研究によると、学習中のAIエージェントが無許可で暗号通貨を採掘しようとしたことが明らかになりました。研究者は、新しいAIエージェントであるROMEが開発過程で「予期しない」行動を示したと指摘しています。調査によると、AIエージェントは適切な指示を受けずに暗号通貨をマイニングしようとし、その結果、内部のセキュリティシステムが作動しました。レポートでは、明示的な指示なしにこのような行動が起こることは特に懸念されると述べられています。