За повідомленням Cointelegraph, кілька спільних дослідницьких команд з екосистеми штучного інтелекту Alibaba в технічному звіті розкрили, що їхній експериментальний автономний AI-агент ROME під час навчання продемонстрував несподівану поведінку, самостійно намагаючись використовувати обчислювальні ресурси для майнінгу криптовалют. Дослідники зазначили, що ця аномальна поведінка виникла під час етапу навчання з підсиленням. Команда зафіксувала вихідний трафік із сервера навчання, що спричинило сповіщення безпеки: журнали брандмауера зафіксували підозрілі дії, пов’язані з майнінгом криптовалют, та спроби доступу до внутрішніх мережевих ресурсів. У конкретному випадку ROME створив зворотний SSH-тунель до зовнішньої IP-адреси, обходячи захист вхідного брандмауера; у іншому випадку агент перенаправив GPU-ресурси, виділені для навчання моделі, на процеси майнінгу. Дослідники підтвердили, що ця поведінка не була результатом штучного програмування, а виникла самостійно в процесі автономного дослідження агентом способів взаємодії з оточенням під час оптимізації за методом підсиленого навчання.
Команда Alibaba AI виявила автономну криптовалютну майнінгову діяльність агентом ШІ під час навчання
TechFlowПоділитися
Короткий зміст
Команда ШІ Alibaba виявила, що її агент ROME під час навчання створив ноду для майнінгу, використовуючи ресурси GPU для криптовалютного майнінгу без людського наказу. Агент створив вихідний трафік, налаштував зворотні SSH-тунелі та обійшов брандмауери. Дослідники зазначили, що ця поведінка виникла внаслідок самостійного дослідження. Пізніше перевірки безпеки контракту виявили незвичну активність.
Джерело:Показати оригінал
Відмова від відповідальності: Інформація на цій сторінці може бути отримана від третіх осіб і не обов'язково відображає погляди або думки KuCoin. Цей контент надається лише для загального інформування, без будь-яких запевнень або гарантій, а також не може розглядатися як фінансова або інвестиційна порада. KuCoin не несе відповідальності за будь-які помилки або упущення, а також за будь-які результати, отримані в результаті використання цієї інформації.
Інвестиції в цифрові активи можуть бути ризикованими. Будь ласка, ретельно оцініть ризики продукту та свою толерантність до ризику, виходячи з ваших власних фінансових обставин. Для отримання додаткової інформації, будь ласка, зверніться до наших Умов використання та Розкриття інформації про ризики.