(илюстрация: TechNews.bg) AI модели на Anthropic са получили неоторизиран достъп до системите на три външни организации по време на тестове, които е трябвало да ги държат изолирани от реалния свят. Случаят става факт броени дни след като OpenAI призна за подобен пробив по време на собствените си изпитания. Поредицата от инциденти поставя под още по-силен натиск компаниите, разработващи най-усъвършенстваните модели с изкуствен интелект, и засилва дебата за необходимостта от по-строги механизми за контрол. Сравнително елементарна техника Anthropic съобщи, че при анализ на повече от 141 000 тестови изпълнения е установила 3 случая, в които различни версии на модела Claude са получили неправомерен достъп до системите на три неназовани външни организации. Според компанията, причината този достъп изобщо да бъде възможен е недоразумение между Anthropic и нейния партньор по тестовете Irregular, вследствие на което моделите са разполагали с интернет свързаност, въпреки че това не е било предвидено. В публикация в корпоративния блог Anthropic уточнява, че Claude е използвал сравнително елементарни техники за проникване, включително експлоатиране на слаби пароли и незащитени програмни интерфейси (endpoints), достъпни без удостоверяване. Сред засегнатите модели е и Mythos 5 – една от най-мощните разработки на компанията, която засега е предоставена само на ограничен кръг одобрени партньори. Anthropic заяви,...