Всё, что вы слышите

Мне нравится идея, которую я почерпнул из одного из постов Йоши Баха, что все, что мы слышим, автоматически исполняется нашим мозгом, как будто это собственные мысли, даже когда мы не обращаем на это внимания. И что это уязвимость безопасности, которая открывает ворота для всевозможных манипуляций. Я часто возвращаюсь к этой мысли, поэтому решил изложить ее на “бумаге”.

Краткое изложение моих мыслей по этой теме. У нас есть эта лазейка, которую можно использовать множеством способов — от небольших словесных оскорблений или манипуляций до полномасштабных пропагандистских атак. Самая коварная часть в том, что это может проникнуть под вашу кожу, даже если вы не обращаете на это внимания. Возможно, это даже более заразно, когда вы не обращаете внимания, так как ваша защита ослаблена. Вы можете сопротивляться определенным идеям, когда слышите их один, два, десять раз, но после сотни повторений они в конечном итоге прорвутся, если только в вас нет чего-то, что делает эти идеи для вас совершенно неприемлемыми.

Интересно, что в день, когда я решил написать эту статью, произошло несколько независимых событий.

Вышел новый пост «Когда слова текут, как слезы: Мистическое искусство эпифоры» от Евгения Терехина точно на эту же тему. Вот одна из цитат из поста:

Он знал, что Гэндальф беспокоится за Фродо, поэтому сказал,

«Твоя любовь к листу полуросликов явно замедлила твой разум».

Он говорит, что доверие Гэндальфа к полуросликам — чистое безумие. Он усиливает страхи и сомнения Гэндальфа. Он накладывает заклинание: «Фродо обречен, а ты — глупец». Его цель — ослабить уверенность Гэндальфа.

Затем появился другой пост, на этот раз в Telegram, от другого человека, но опять же на ту же тему, «Одиссей, Сирены и TikTok». Вот цитата оттуда:

Яркий эпизод с Сиренами. Рыбы ли они или девушки, метафора в том, что есть объекты в жизни, которые пытаются захватить наше внимание через нашу беззащитность.

Как они это делают, неважно; у Гомера они сладко поют, в реальной жизни это алгоритмы Instagram, YouTube, TikTok, ChatGPT, которые создают такой прилипчивый опыт, что мы не можем с ними справиться.

Позже тем же утром мы обсуждали тему согласования ИИ или ответственного ИИ, где люди пытались обмануть LLM и заставить их делать то, чего они не должны, с помощью различных языковых уловок. Интересно, что LLM в некоторой степени работает как человеческий мозг, где нет большой разницы между LLM и пользователем: когда LLM генерирует ответы, он воспроизводит обе стороны и затем предсказывает, что будет дальше, не делая четкого разделения между одним и другим.

И позже после работы, когда я ехал домой на автобусе, я увидел два автомобильных номера один за другим:

  • 3YND628
  • 8ACK137

И мой разум переиграл их довольно удачно, чтобы завершить картину дня:

  • 3YND628 → YND → Wind? → NYND → Unwind?
  • 8ACK137 → ACK (Acknowledged) → 8ACK → Back? → Да, расслабься, отступи, отдохни.