(илюстрация: TechNews.bg) Германски изследователи разработиха нова система за откриване на дийпфейкове, която използва необичаен подход. Вместо да анализира директно изображението за характерни артефакти, тя първо се опитва да го пресъздаде с помощта на генеративен изкуствен интелект, а след това сравнява резултата с оригинала. Новата система, наречена RealorRender и създадена от от екип на Института Fraunhofer IOSB, може да разпознава изображения, генерирани от AI, с точност до 91%, като освен това показва кои области от кадъра са повлияли най-силно на нейното заключение. AI разпознава AI Принципът на работа е сравнително прост. Ако невронната мрежа успее да възпроизведе изображението с висока точност, това е индикация, че оригиналът вероятно също е създаден от генеративен модел. RealorRender комбинира два независими метода за анализ. Първият използва алгоритми за класификация на изображения, базирани на дълбоко обучение. Вторият оценява т.нар. грешка при реконструкцията – разликите между оригиналното изображение и неговата повторно генерирана версия. На базата на двата анализа системата изчислява вероятността изображението да е дийпфейк. Според разработчиците, базовата точност е около 85%, а при определени типове изображения достига над 91%. Това не е “черна кутия” Едно от основните предимства на RealorRender е, че не работи като “черна кутия”. Технологията използва методи от т.нар. обясним изкуствен интелект (Explainable AI –...