(илюстрация: TechNews.bg, AI) Нова система, разработена от корейския институт KAIST и Microsoft Research, показва дали изкуственият интелект е допуснал грешка по отношение на самата цел или на метода за постигането ѝ – без да е необходима нито една дума от страна на човека. Изследователи от Корейския институт за напреднали науки и технологии (KAIST), в сътрудничество с Microsoft Research Asia, създадоха невронен интерфейс, наречен Neural Value Alignment (NVA). Той е способен да разчита мозъчните реакции при погрешни действия на модел с изкуствен интелект.  Системата, базирана на електроенцефалография (ЕЕГ), регистрира характерни модели на мозъчна активност, възникващи, когато изкуственият интелект преследва грешна цел или избира неподходящ метод за постигането ѝ. Това позволява на алгоритъма да коригира поведението си без нужда от вербална обратна връзка. Предизвикателството е в наличието на двусмислие: едно и също действие може да служи за различни цели, а една цел може да бъде постигната по различни начини.  Например, ако човек вземе чаша, той може да възнамерява да пие от нея, да я измие или да я подаде на някого другиго. Ако целта е утоляване на жаждата, човек може да вземе чаша, да посегне към бутилка или да помоли някого за напитка. Наблюдавайки единствено действието, моделът не може надеждно да определи...