Ваш агент штучного інтелекту зараз має повний доступ root


одна галюцинована команда — і все
> sudo rm -rf /
це не теоретично
агентські цикли генерують командний рядок із вікон контексту, якими ви не керуєте. модель не обов’язково має бути ЗЛОЧИННОЮ.
їй достатньо бути неправильною один раз.
Переглянути оригінал
post-image
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити