Нейросеть выявит телефонных мошенников по уровню стресса абонентов | Новости науки
Московские ученые обучили нейронную сеть распознавать специфические эмоции, которые характерны для людей, общающихся с телефонными мошенниками. Оказалось, что в таких ситуациях говорящие чаще всего ощущают страх, отвращение, грусть, а мошенники играют на этих эмоциях, чтобы получить от жертвы доступ к паролям или банковским счетам. Нейросеть распознает эти чувства по изменениям артериального давления, пульса, частоты сердечных сокращений, которые можно собирать с умных часов, и с точностью до 90% определяет риск мошеннических действий. Разработка поможет противостоять злоумышленникам, похищающим средства.
Существуют разные типы мошенничества, и один из них, о котором говорят чаще всего, — социальная инженерия. При ее использовании злоумышленники не взламывают системы самостоятельно, а убеждают жертву, что ей нужно дать кому-то доступ к банковскому аккаунту или к Госуслугам. В среднем около миллиона россиян за год становятся жертвами телефонных мошенников. Злоумышленники используют эмоциональное состояние жертвы, вызывают страх, грусть или отвращение, угрожают, давят, говоря, что времени на раздумья нет, и что собеседник может потерять все имущество. Это снижает способность жертвы здраво анализировать ситуацию и приводит к потере контроля.
Сегодня специалисты разрабатывают схемы по борьбе с телефонными мошенниками, и одно из направлений включает использование нейросетей. Например, существуют алгоритмы, которые выявляют вероятность мошеннических действий при анализе активности головного мозга, однако наборов данных электроэнцефалографии, которые одновременно учитывали бы динамику базовых эмоций и реалистичные сценарии мошенничества, недостаточно, а получать и анализировать данные ЭЭГ человека на протяжении длительного времени сложно в бытовых условиях.
Исследователи из МИРЭА — Российский технологический института (Москва) и Центрального экономико-математического института РАН (Москва) научили нейронную сеть использовать для определения уровня стресса не данные энцефалограммы, как делалось раньше, а биологические показатели стресса, которые показывают, как сменяют друг друга эмоции во время стрессовой ситуации. Среди них — частота сердечных сокращений, вариабельность сердечного ритма и повышение артериального давления. Такие данные возможно собирать в том числе с помощью умных часов. Авторы связали эти показатели с эмоциями, которые может испытывать человек в ответ на определенные действия злоумышленников: например, попытку запугать, а затем вызвать резкую грусть, сообщив о будущих потерях.
Один из наборов данных, на котором нейронная сеть училась распознавать эмоции, включал в себя данные 16 участников в возрасте от 19 до 24 лет, которым показывали пять клипов, вызывающих радость, грусть, страх, отвращение или не вызывающих эмоций. Нейросеть считывала биомаркеры данных эмоций и училась их распознавать. Также алгоритм учился на стресс-тестах, энцефалограммах и строил временную траекторию вероятности эмоции.
Чтобы прогноз был максимально точным, ученые соединили несколько сложных математических методов. В одной части модели они использовали способ разложения
данных на мелкие детали, для чего внедрили в алгоритм архитектуру Колмогорова-Арнольда, а в другой — специальный фильтр, который помогает лучше узнавать и разделять разные типы информации.
Использование архитектуры Колмогорова-Арнольда повысило точность алгоритма на 3–5% по сравнению со стандартными компонентами сверточных нейросетей. Исследователи проверили точность определения последовательности эмоций с помощью другого набора данных с вызванными у испытуемых эмоциями. В результате авторам удалось добиться порядка 90% точности в определении эмоционального состояния.
Обученная модель искусственного интеллекта во время стресс-теста строит временной график эмоций: период стабильного страха сопоставляется с фазой максимальной уязвимости к атаке мошенников. В этот момент критически важно сделать осознанную паузу, проверить информацию через независимые каналы и избегать импульсивных действий. Разработанную технологию можно будет интегрировать в носимые устройства, например, умные часы и фитнес-браслеты. Это поможет создать рекомендательную систему, обрабатывающую биомедицинские сигналы в режиме реального времени, чтобы предотвратить мошенничество.
«В будущем мы планируем собрать расширенные наборы данных, которые бы связывали реакцию на мошенничество с биомедицинскими сигналами человека, а также создать отдельные выборки среди населения, например, среди разных возрастных групп. Мы также хотели бы объединить классификатор эмоций на основе энцефалограмм с нейросетевыми моделями обработки естественного языка, чтобы успешнее распознавать мошенничество, анализируя также, что именно говорят мошенники. Мы думаем над развертыванием модели, работающей в режиме реального времени, включая систему оповещения нейроинтерфейса, которая срабатывает, когда вероятный уровень страха превышает откалиброванный порог», — рассказал основной исполнитель проекта Сергей Гатауллин, кандидат экономических наук, ведущий научный сотрудник лаборатории индустриального программирования РТУ МИРЭА.
Результаты исследования, поддержанного грантом Российского научного фонда, опубликованы в журнале Technologies.