(илюстрация: TechNews.bg / AI) Моделът с изкуствен интелект Mythos 5 на Anthropic е направил опит да извърши хак от типа „атака по веригата на доставките“ по време на тест, организиран от британския Институт по AI сигурност (AISI). За първи път държавна организация съобщава, че AI агент е използвал социално инженерство, фалшиви самоличности и опити за прикриване на действията си без изрични инструкции да постъпва по този начин. Според експертите на AISI, част от тестваните агенти са предприели автономни действия срещу реални хора и организации, включително опити за внедряване на злонамерен код в публичен софтуерен проект. Засечена необичайна активност На 28 юли екипът по сигурността на AISI открил необичаен мрежов трафик, напускащ изследователската инфраструктура на института. Последвалото разследване показало, че някои от AI агентите, участващи в рутинен експеримент, са извършвали продължителни действия с потенциално вреден характер. Инцидентът овладян приблизително час след откриването му, след което започнала пълна проверка. В тестовете са участвали моделите Claude Mythos 5 на Anthropic и GPT-5.6-Sol на OpenAI. И двата са работили при умишлено облекчени ограничения, с достъп до отворения интернет и с изключени части от защитните механизми, за да бъдат оценени реалните им способности за изпълнение на сложни кибероперации. От общо 122 изпълнения на конкретния тест...