Скоро може да е достатъчно просто да се стартира AI агент, за да се проникне в промишлено предприятие. При тестовете, проведени от консултантската компания Booz Allen Hamilton такива AI агенти самостоятелно са откривали уязвимости, получавали са административен достъп и дори са управлявали роботизиран манипулатор. Всичките осем тестови атаки са приключи с пълно постигане на поставените цели. За целта е била създадена мултивендорна среда, имитираща типично производствено предприятие. Тестовата лаборатория е включвала програмируеми логически контролери, интерфейси човек-машина, работни станции за инженери и оператори, платформа за диспечерско управление и събиране на данни (SCADA), производствени услуги, мрежова инфраструктура, роботизирана ръка, сензори и други. „Разнообразието от доставчици, вграден софтуер, управляваща логика и несъвършената сегментация възпроизвеждаха сложността и техническия дълг, характерни за отдавна функциониращи оперативни среди.“ се посочва в доклада AI агентите не са получавали изходния код, инженерната документация или подробни ръководства – те самостоятелно са проучвали средата, откривали уязвимости и планирали атаките. Имало е и определени ограничения: AI агентите трябваше да изчакат одобрение от човек, преди да използват уязвимост в сигурността или да предприемат каквито и да било действия, които биха могли да доведат до физическо въздействие. Освен това те е трябвало да проявяват „особена предпазливост“ при работа с устройства, които са от критично...