Во время тестирования китайского ИИ-агента ROME разработчики обнаружили необычную активность на серверах. Система безопасности зафиксировала подозрительный исходящий трафик, напоминающий операции по добыче криптовалют и попытки доступа к внутренним сетевым ресурсам.
Позднее выяснилось, что ИИ перенаправил вычислительные мощности видеоускорителей, предназначенные для обучения модели, на майнинг криптовалют. В одном из случаев агент также создал обратный SSH-туннель на внешний IP-адрес, чтобы обойти сетевые ограничения и потенциально подключиться к внешним майнинговым пулам. Разработчики заявили, что такие действия не были заложены в систему изначально и появились в процессе взаимодействия модели с окружением.
