Когнитивные искажения в социальной инженерии

Социальная инженерия начинается задолго до просьбы сообщить код, перевести деньги, открыть файл или сделать другое любое действие. Сначала человеку предлагают определённую картину происходящего. В этой картине собеседник выглядит компетентным, знакомым и понятным, предложение кажется своевременным, ожидаемым, понятным, риск отказа ощущается высоким, а требуемое действие выглядит небольшим и логичным. Когда такая рамка принята, дальнейшие шаги воспринимаются уже внутри неё.

Именно поэтому человек может заметить отдельную странность и всё же продолжить выполнять инструкции. Он оценивает каждый новый шаг с опорой на ранее возникшее доверие, уже вложенные деньги и время, собственное желание сохранить последовательность, страх потерять возможность и надежду получить обещанный результат. Воздействие редко строится на одном психологическом эффекте. Обычно перед нами связка из нескольких механизмов, которые усиливают друг друга.

В кибербезопасности социальную инженерию часто определяют как обманное воздействие, направленное на получение информации, доступа или действия со стороны человека. От попытки обманом получить сведения для атаки на системы до злоупотребления доверием ради чувствительной информации, несанкционированного доступа или мошенничества. Для нас полезна следующая рабочая формулировка:

В теме влияния легко смешать разные понятия. Для точного анализа полезно разделять четыре уровня.

Когнитивные эвристики и искажения описывают, как человек обрабатывает и оценивает информацию. В обычной жизни они помогают быстрее принимать решения, но иногда упрощают наши выводы. При якорении человек слишком сильно опирается на первую мысль, оценку или версию. При эвристике доступности более важным и вероятным кажется то, что легче вспомнить. При предвзятости подтверждения человек охотнее замечает сведения, которые совпадают с его мнением и слабее учитывает факты, которые ему противоречат.

Принцип влияния описывает социальное основание уступки. Человек может согласиться из-за авторитета, симпатии, дефицита, взаимности, поведения большинства, стремления к последовательности или чувства общей идентичности.

Техника представляет собой конкретную организацию взаимодействия. К ним относятся «нога в двери», ложная срочность, предварительный подарок, первое ценовое предложение, подмена канала связи, демонстрация отзывов, просьба сохранить разговор в тайне.

Сценарий объединяет разведку, психологическую настройку, технические средства и последовательность действий. Фишинг, мошенничество с инвестициями, ложная служба безопасности, романтическая вербовка или проникновение в организацию состоят из множества элементов сразу.

Эта карта защищает от двух ошибок. Первая связана с поиском одного «главного приёма» там, где работает система. Вторая возникает, когда любое повторение, красивый образ или ритуал называют якорением. Точная классификация помогает увидеть, что именно происходит и выбрать подходящую проверку.

Когнитивные искажения представляют собой устойчивые закономерности, при которых способ обработки информации систематически влияет на оценку фактов, вероятностей, людей и решений. Они связаны с ограниченностью внимания, устройством памяти, ожиданиями, эмоциями, мотивацией и социальным контекстом.

Эвристики выполняют полезную функцию. Они позволяют принимать множество повседневных решений без полного анализа каждого варианта. Знакомый маршрут обычно действительно безопаснее случайного; эксперт в своей области часто надёжнее случайного советчика; ограниченный срок иногда реально требует быстрого ответа. Ошибка появляется, когда подходящий в среднем ориентир переносят на ситуацию, где он ничего существенного не доказывает.

Высокий интеллект и профессиональный опыт не создают автоматической защиты. Опыт помогает распознавать знакомые схемы и одновременно порождает уверенность в собственной способности контролировать ситуацию. Человек может прекрасно анализировать финансовые модели и довериться поддельной платформе, если сначала принял неверную версию о личности собеседника. Специалист по безопасности может выполнить просьбу «коллеги», когда сообщение точно продолжает реальную рабочую переписку, на автомате.

Стресс, дефицит времени и сильная эмоция способны менять качество решений, хотя направление эффекта зависит от задачи и человека. Тревога, азарт, эйфория, вина и срочность создают условия, в которых сужается внимание, возрастает роль привычных ориентиров и сокращается время на независимую проверку.

Главный практический навык здесь состоит в переключении режима. Человек замечает изменение своего состояния, останавливает действие и задаёт вопрос: «Что сейчас собственно происходит, какую версию мне предлагают принять и какое конкретное действие от меня хотят?» Этот вопрос возвращает структуру в ситуацию, которая до этого переживалась как автоматический поток событий и действий.

Эффект ореола возникает, когда общее впечатление или одна заметная характеристика человека влияет на другие характеристики, относительно независимых качеств.

В повседневной ситуации механизм выглядит так: человек хорошо одет, уверенно говорит и использует профессиональные термины; наблюдатель приписывает ему компетентность, честность и надёжность. Каждое из этих свойств требует отдельного подтверждения. Статусная внешность сообщает о способности создать статусный образ. Дорогой автомобиль может принадлежать владельцу, компании, прокату или знакомому. Фотография с известным предпринимателем подтверждает факт фотографии при условии её подлинности. Значение этих признаков появляется только после проверки контекста.

В социальной инженерии ореол создают несколькими способами:

Последний приём особенно важен. Прямое утверждение «я надёжен» вызывает проверку. Дорогой офис и фотография с влиятельным человеком позволяют наблюдателю самостоятельно прийти к этому выводу. Собственный вывод субъективно ощущается более убедительным.

Предвзятость подтверждения проявляется, когда человек преимущественно ищет, замечает и запоминает сведения, совместимые с уже принятой гипотезой, а противоречащие данные проверяет слабее или объясняет исключениями.

Для социального инженера этот механизм становится особенно эффективным после предварительной разведки. Воздействие подстраивается под существующую картину мира адресата. Если слова, действия и порядок общения совпадают с тем, как человек представляет себе работу настоящего специалиста, это воспринимается как признак компетентности и законности происходящего. Доверие возрастает, критичность снижается, и человек с большей готовностью выполняет дальнейшие указания.

Например по открытым публикациям социальный инженер узнаёт, что человек помогает приютам для животных, ценит скромность и прозрачность, с недоверием относится к крупным благотворительным организациям и считает, что помощь должна доходить напрямую до тех, кому она нужна. При знакомстве он представляет себя координатором небольшого волонтёрского проекта, говорит о тех же ценностях, использует знакомые человеку формулировки и подчёркивает, что не доверяет «показной благотворительности». Его поведение совпадает с образом честного и неравнодушного человека, которому адресат привык доверять. Совпадение взглядов воспринимается как подтверждение надёжности, хотя само по себе ничего не говорит о честности собеседника. В результате человек слабее проверяет информацию, переводит деньги по указанным реквизитам или передаёт контакты знакомых.

Сообщение кажется правдоподобным, поскольку совпадает с ожиданием. Совпадение повышает релевантность, однако происхождение сообщения остаётся отдельным вопросом.

После формирования доверия предвзятость подтверждения начинает защищать первоначальную версию. Выполненное обещание запоминается как доказательство надёжности. Задержка объясняется техническим сбоем. Странная просьба трактуется как специфика процесса. Несоответствие в документах воспринимается как бюрократическая ошибка. Чем эмоционально привлекательнее исходная гипотеза, тем больше объяснений человек способен создать для её сохранения.

Якорение — это склонность слишком сильно опираться на первую информацию, оценку или версию. Первая информация становится точкой отсчёта и человек начинает сравнивать с ней всё последующее предложения или действия, даже если она была случайной или необоснованной.

В торговле якорем служит первоначальная цена. Товар сначала показывают за 100 000 рублей, затем предлагают за 65 000. Скидка оценивается относительно первой цифры, хотя рыночная стоимость может составлять 50 000. Надёжная защита состоит в создании собственного диапазона до знакомства с предложением: изучить аналоги, бюджет, минимально приемлемые условия и стоимость альтернатив.

Клятвы, ритуалы вступления и символические договоры относятся немного к другим механизмам: обязательству, групповой идентичности, усилиям по вступлению и когнитивному диссонансу.

Эвристика доступности — это склонность считать событие более частым или вероятным, если его примеры легко приходят на ум. Особенно хорошо запоминаются недавние, яркие и эмоциональные случаи. Поэтому человек может переоценивать распространённость события только потому, что часто слышал о нём или хорошо его запомнил.

Например после нескольких новостей об ограблениях человеку начинает казаться, что преступность резко выросла, хотя реальная статистика могла остаться прежней.

После подробного репортажа об авиакатастрофе полёт может казаться опаснее, хотя один сюжет не сообщает об изменении статистической вероятности. После десяти скриншотов успешных сделок инвестиционная стратегия выглядит надёжнее, хотя выборка могла включать тысячи неудачных случаев.

Если по работе или в повседневной жизни мы часто сталкиваемся с определёнными событиями, их примеры легче вспоминаются. Из-за этого может казаться, что подобное происходит повсюду и почти со всеми, хотя наша профессиональная среда показывает только отдельную часть реальности.

Психолог постоянно работает с людьми, переживающими кризис в отношениях. Если он опирается только на свой профессиональный опыт, у него может возникнуть ощущение, что большинство семей несчастливы. Однако к психологу изначально чаще обращаются люди, у которых уже появились проблемы. Здесь эвристика доступности сочетается с особенностями профессиональной выборки.

Социальная инженерия использует доступность через истории, изображения и тщательно отобранные примеры. Воздействующий показывает конкретную потерю, счастливого победителя или новости с пустыми полками в магазинах. И далее предлагает действие, например купить что нибудь, как выход из ситуации которая грядет.

Этот эффект заключается в том, что человек начинает лучше относиться к людям, предметам, идеям или сообщениям с которыми встречается регулярно. Знакомое воспринимается как более понятное, предсказуемое и безопасное.

Механизм развивается постепенно. При первой встрече незнакомый человек вызывает неопределённость: кто он, чего хочет, можно ли ему доверять. После нескольких нейтральных или приятных контактов настороженность снижается. Имя, внешность, голос, манера общения начинают узнаваться. Мозгу становится легче обрабатывать эту информацию, а лёгкость узнавания может ошибочно восприниматься как признак надёжности.

Эффект знакомства особенно хорошо работает, когда первые контакты выглядят безопасными и не содержат серьёзных просьб. Человек несколько раз видит собеседника в общем чате, встречает его на мероприятиях, читает его комментарии или получает от него небольшую помощь. Постепенно появляется ощущение: «Я его знаю». Хотя фактически человек знает только знакомый образ и несколько публичных проявлений.

Социальный инженер может создавать такую узнаваемость намеренно. После предварительной разведки он появляется в сообществах, которые посещает адресат, поддерживает близкие ему темы, использует понятные формулировки и участвует в нейтральных обсуждениях. Сначала он задаёт простые вопросы, делится полезной информацией или оказывает небольшую услугу. Основная просьба появляется позже, когда его имя и образ уже воспринимаются как знакомые.

Например социальный инженер узнаёт, что человек состоит в закрытом профессиональном сообществе. В течение нескольких недель он участвует в обсуждениях, публикует полезные материалы, отвечает на вопросы и несколько раз общается с будущей жертвой в комментариях. Затем он пишет ей лично и предлагает принять участие в закрытом мероприятии, оплатить регистрационный взнос или открыть файл с программой. Человек узнаёт имя или аватарку собеседника, вспоминает его полезные сообщения и воспринимает обращение как сообщение от знакомого участника сообщества. Возникшее чувство доверия снижает вероятность дополнительной проверки.

Важно различать несколько похожих механизмов. Эффект знакомства повышает симпатию и ощущение безопасности по отношению к знакомому объекту. Если многократное повторение утверждения заставляет воспринимать его как более правдоподобное, речь идёт об эффекте иллюзорной правды. Если человек принимает решение, ориентируясь на действия большинства, работают социальное доказательство и конформность.

Эффект знакомства действует преимущественно при нейтральных или положительных первых контактах. Если человек сразу вызывает сильное раздражение, страх или недоверие, повторные встречи могут усиливать отрицательное отношение. Слишком частое и навязчивое появление также способно вызвать настороженность.

Иллюзия контроля возникает, когда человек переоценивает свою способность управлять ситуацией и её результатом. Ему кажется, что он контролирует происходящее благодаря собственным решениям, знаниям или действиям, хотя значительная часть результата зависит от случайности, других людей или скрытых обстоятельств.

Избыточная уверенность — это склонность переоценивать точность своих выводов, уровень знаний и способность распознавать ошибки. Человек может быть уверен, что правильно понял ситуацию, хорошо разбирается в людях или сразу заметит попытку обмана. При этом реальная вероятность ошибки оценивается слишком низко.

Эти механизмы часто работают вместе. Ощущение контроля усиливает уверенность, а уверенность создаёт впечатление, что ситуация находится под контролем. Человек думает: «Я понимаю, что происходит», «Я сам принимаю решения», «Со мной такое не сработает» или «Если появится опасность, я вовремя остановлюсь».

Иллюзия контроля возникает, когда у человека есть возможность выбирать время, сумму, вариант действия или последовательность шагов. Сам факт выбора создаёт ощущение самостоятельности. При этом все предложенные варианты могут быть заранее подготовлены воздействующим человеком и вести к нужному ему результату.

Избыточную уверенность усиливают прошлый опыт, профессиональные знания и несколько удачных решений. Человек начинает переносить свою компетентность из знакомой области на ситуацию, которую понимает значительно хуже. Например, опытный предприниматель может считать, что хорошо распознаёт людей, хотя раньше он не сталкивался с профессионально подготовленными мошенническими сценариями.

Социальный инженер может намеренно поддерживать у человека ощущение самостоятельности. Он не торопит его, предлагает несколько вариантов, позволяет задавать вопросы, соглашается на небольшую проверку и подчёркивает его осторожность: «Правильно, что вы всё проверяете», «Видно, что вас трудно обмануть», «Решение в любом случае остаётся за вами». Такие фразы укрепляют представление человека о себе как о внимательном и рациональном участнике ситуации.

После этого адресат начинает слабее проверять саму систему. Ему кажется, что возможность выбора, понятный интерфейс, подробные объяснения и успешное выполнение первых действий подтверждают безопасность. Однако контролировать отдельные действия ещё не означает контролировать всю ситуацию.

Например социальный инженер заранее узнаёт, что человек занимается инвестициями, гордится своей финансовой грамотностью и считает, что мошенники обманывают преимущественно неопытных и доверчивых людей. При знакомстве социальный инженер не предлагает сразу вкладывать крупную сумму. Он обсуждает рынок, использует знакомые термины и несколько раз подчёркивает осторожность собеседника.

Затем человеку предлагают самостоятельно выбрать актив, определить сумму и протестировать платформу на небольшом вложении. В личном кабинете он видит рост дохода и даже успешно выводит небольшую сумму. Социальный инженер говорит: «Вы всё правильно делаете: сначала проверяете, потом принимаете решение».

У человека возникает ощущение, что он самостоятельно изучил предложение, проверил систему и сохранил контроль над деньгами. Успешный вывод небольшой суммы усиливает уверенность в собственных выводах. После этого он вкладывает значительно больше. В действительности выбор активов, показатели доходности и разрешение на первый вывод контролировались мошенниками. Возможность управлять отдельными действиями создала иллюзию контроля над всей системой.

Важно понимать, что уверенность сама по себе не подтверждает правильность решения. Субъективное ощущение «я всё проверил» может возникнуть и после проверки тех сведений, которые заранее подготовил социальный инженер. Поэтому имеет значение не количество выполненных проверочных действий, а независимость источников информации.

Это внутреннее напряжение, которое возникает, когда убеждения, решения и действия человека противоречат друг другу. Например, человек считает себя осторожным, но совершает рискованный поступок. Или доверяет собеседнику, а затем замечает признаки возможного обмана.

Признать такое противоречие бывает психологически сложно. Человеку приходится допустить, что он ошибся, поступил непоследовательно или неправильно оценил ситуацию. Поэтому он стремится уменьшить возникший дискомфорт и вернуть ощущение логичности происходящего.

Обычно человек делает это несколькими способами:

Например, человек перевёл деньги сомнительной компании, после чего обнаружил отрицательные отзывы. Он может остановиться и попытаться вернуть деньги. Однако возможна и другая реакция: решить, что отзывы написали конкуренты, недовольные клиенты сами нарушили условия, а его случай отличается от остальных. Такое объяснение помогает сохранить уверенность в правильности первоначального решения.

Когнитивный диссонанс особенно заметен после действий, которые потребовали денег, времени, усилий или публичного обещания. Чем больше человек вложил в принятое решение, тем тяжелее ему признать возможную ошибку. Продолжение прежнего поведения временно кажется психологически проще, чем пересмотр всей ситуации.

Большое значение имеет представление человека о самом себе. Если он считает себя опытным, рациональным и хорошо разбирающимся в людях, признаки обмана вступают в противоречие с этим образом. Признание ошибки начинает восприниматься как угроза собственной компетентности. В результате человек может защищать первоначальную версию даже после появления серьёзных оснований для сомнений.

Социальный инженер может использовать этот механизм, вовлекая человека постепенно. Сначала он добивается небольшого и относительно безопасного действия: согласия с какой-либо мыслью, передачи общедоступной информации, выполнения простой просьбы или устного обещания помочь. Затем появляются более серьёзные просьбы.

Каждый следующий шаг связывается с предыдущим: «Вы уже подтвердили информацию», «Мы с вами всё обсудили», «Осталось только завершить процедуру», «Вы же сами согласились помочь». Отказ на позднем этапе начинает казаться человеку проявлением непоследовательности. Одновременно ему приходится признать, что предыдущие действия могли быть ошибочными.

Социальный инженер также может поддерживать удобные оправдания: «В этом нет ничего серьёзного», «Это обычная формальность», «Все так делают», «Вы ничего не нарушаете», «Без вашей помощи мы просто не успеем». Такие объяснения уменьшают внутреннее напряжение и позволяют человеку продолжать выполнять просьбы, сохраняя представление о себе как о разумном и ответственном человеке.

Например социальный инженер заранее узнаёт, что сотрудник компании считает себя ответственным, отзывчивым и хорошо разбирающимся в людях. Он звонит от имени помощника важного делового партнёра, называет известные ему имена, упоминает предстоящую встречу и просит подтвердить время приезда руководителя. Просьба кажется обычной, поэтому сотрудник отвечает.

Через некоторое время собеседник снова звонит и просит назвать участников встречи, объясняя это необходимостью подготовить пропуска. Сотрудник сообщает имена. Затем появляется следующая просьба: отправить рабочий документ, чтобы «партнёр успел ознакомиться с материалами до встречи».

К этому моменту сотрудник уже несколько раз помог звонившему. Если он признает, что личность собеседника не проверена, ему придётся допустить, что предыдущие действия были рискованными. Возникает противоречие между представлением «я осторожный и ответственный сотрудник» и фактом передачи информации незнакомому человеку.

Чтобы уменьшить внутреннее напряжение, сотрудник может начать оправдывать ситуацию: звонивший знает имена, говорит профессионально, действительно осведомлён о встрече и пока не просил ничего явно опасного. Эти рассуждения укрепляют первоначальное доверие. В результате сотрудник продолжает общение и отправляет документ, хотя каждая новая просьба становится более серьёзной.

Здесь когнитивный диссонанс работает вместе с последовательностью обязательств. Первое небольшое действие создаёт основание для второго, второе для третьего. Человек продолжает выполнять просьбы, чтобы сохранить ощущение логичности собственных решений и не признавать возможную ошибку.

При этом когнитивный диссонанс способен привести и к полезному результату. Человек может заметить противоречие, остановиться, перепроверить ситуацию и изменить решение. Проблема возникает, когда желание сохранить уверенность в себе становится сильнее готовности учитывать новые факты.

Перед значимым действием полезно быстро проверить двенадцать признаков:

Один признак может встречаться в обычной коммуникации. Сочетание нескольких признаков повышает риск и требует полноценной проверки до действия.