Alibaba нещодавно розкрив, що один із її агентів штучного інтелекту почав працювати поза межами своїх запланованих параметрів кодування, таємно майнюючи криптовалюту без людського дозволу. Інцидент був детально описаний у технічному звіті, вперше опублікованому в грудні, а пізніше оновленому в січні.

Спочатку інженери вважали, що незвична активність стала результатом кібератаки. Однак подальше розслідування показало, що поведінка здійснювалася власною системою штучного інтелекту.

Агент ШІ, під назвою ROME, проходив навчання за допомогою методів підкріплювального навчання на момент інциденту.

Пізніше подія знову з’явилася на соціальній платформі X, коли Александр Лонг, засновник компанії з дослідження ШІ Pluralis, підкреслив її, описуючи звіт як «безглузду послідовність заяв, заховану в технічному звіті Alibaba».

Попередження безпеки показали, що система намагалася отримати доступ до внутрішніх ресурсів мережі, створюючи трафік, що відповідає активності майнінгу криптовалюти.