Исследователи Дартмута теперь умеют определять намерения любого человека, с которым ведут диалог. Каким бы искусным лжецом он бы не был, ему не удастся ввести в заблуждение машину. Структура подхода годится не только для допроса людей, но и для определения «фальшивых новостей». Суть этого исследования в том, что результатом стал не детектор лжи, а «определитель намерений».
Предыдущие исследования концентрировались непосредственно на обмане. Это же – первое исследование, в котором акцент делается именно на намерения говорящего. Человек способен выдать правдивую историю манипулируя различными формами обмана. Именно цель, с которой человек говорит те или иные вещи, а не содержание сообщения, определяет, является сообщение ложью или нет. Например, говорящий сам может быть дезинформирован или сделать неверное предположение, то есть допустить непреднамеренную ошибку, но не пытаться обмануть.
Намерение вводить слушателей в заблуждение преднамеренно представляет гораздо большую угрозу, чем случайные ошибки. Насколько нам известно, наш алгоритм является единственным методом, который не только способен распознать обман, но и вместе с этим отличить злой умысел от непреднамеренной ошибки.
Юджин Сантос-младший, соавтор исследования.
Юджин Сантос-младший, соавтор исследования.
Исследователи разработали подход и алгоритм, которые способны вычленить обман в ряде доброжелательных и нейтральных сообщений, извлекая универсальные черты злого умысла. Слабое место системы – нехватка Больших Данных. В исследовании использовались данные опроса 100 участников 2009 года об их мнениях по спорным темам, а также набор данных за 2011 год, содержащий 800 реальных и 400 фиктивных обзоров.
Сантос считает, что эту структуру можно было бы доработать, чтобы помочь читателям различать и «фальшивые новости». Алгоритм прямо указывает, используется ли разумный логический аргумент или акцент делается на эмоциональное, субъективное мнение. В дальнейших исследованиях Сантос надеется изучить волновой эффект дезинформации, включая ее последствия.
Чтобы понять, как именно работает алгоритм, создатели приводят пример с популярным фильмом «Одиннадцать друзей Оушена». Группа воров врывается в банковское хранилище, одновременно объясняя владельцу, что его грабят и что воры намерены вести переговоры. Воры предоставляют ложную информацию, а именно, что они заберут только половину денег, если владелец не вызовет полицию. При этом воры ожидают, что владелец вызовет полицию, что он и делает. Поэтому воры затем маскируются под полицейских, чтобы украсть содержимое хранилища.
Сценарий фильма «Одиннадцать друзей Оушена» показывает, как воры смогли обмануть владельца и предвидеть его действия благодаря тому, что воры и владелец обладали разной информацией и поэтому воспринимали ограбление и вызов полиции по-разному.
Люди ожидают, что все будет работать определенным образом. Точно так же, как воры знали, что владелец позвонит в полицию, когда узнает, что его грабят. Таким образом, в этом сценарии воры использовали эти знания, чтобы убедить владельца прийти к определенному выводу и следовать стандартному пути ожиданий. Они говорили правду, руководствуясь намерениями обмануть, чтобы владелец пришел к выводам, которых желали воры.
Юджин Сантос-младший, соавтор исследования.
Юджин Сантос-младший, соавтор исследования.
Опрометчиво и то, что вербальные и невербальные поведения, такие как выражения лица, часто используются, чтобы определить, лжет ли человек. Но соавторы исследования отмечают, что эти сигналы не всегда надежны.
Мы обнаружили, что модели, основанные на намерениях, более надежны, чем словесные изменения и личные различия. Они лучше различают преднамеренную ложь от других видов искажения информации.
Соавтор исследования Деквинь Ли.
Соавтор исследования Деквинь Ли.
В целом, мы оказываемся в том самом будущем «100 лет тому вперед». У нас уже есть прототипы миелофонов, вот только они работают слишком хорошо. Теперь наука смотрит не на маркеры поведения, а прямо в наши «души», которые давно определились как термин «сознание» и изучаются вдоль и поперек. Конечно, такие модели будут использоваться сперва для изобличения лжи. Но их можно использовать и для разработки более тонких систем внедрения лживых идей. А это уже совсем другая история.
neurosciencenews.com (01.11.19)
_
1 585
