(илюстрация: TechNews.bg) Инцидентът с Hugging Face не е случай на изкуствен интелект, който самоволно е „излязъл от контрол“, а резултат от вътрешен експеримент на OpenAI за оценка на офанзивните кибервъзможности на AI модели с умишлено отслабени ограничителни механизми. Независимо от това, случилото се показва, че автономните AI агенти вече могат да провеждат сложни многоетапни кибератаки и поставя нови въпроси за сигурността, управлението и контрола върху подобни системи. През последните дни множество публикации представиха пробива в платформата Hugging Face като първия случай, в който изкуствен интелект е „избягал от пясъчника“, атакувал е реална компания и е действал извън човешки контрол. Подобно описание обаче е подвеждащо. Реалната история е значително по-сложна и – според експерти – още по-притеснителна. Какво всъщност се случи На 16 юли Hugging Face съобщи, че е станала жертва на необичайна кибератака – първата, която е била извършена изцяло от автономна система с AI агенти. Според компанията, злонамерен набор от данни е използвал две различни възможности за изпълнение на код в системата за обработка на набори от данни, което е позволило стартиране на произволен код върху сървър за обработка. Оттам атаката е ескалирала до достъп на ниво възел, извлечени са облачни идентификационни данни и ключове за клъстери, след което...