В фильме 1998 года «Шоу Трумана» главный герой Труман Бёрбанк ведет безмятежное существование под вечно безоблачным синим небом в дружелюбном городке Сихэвен-Айленд. Но с приближением среднего возраста у него появляется жутковатое ощущение, что что-то здесь не так. С неба самым немыслимым образом падает осветительный прожектор, его покойный отец внезапно появляется в эпизодической роли, а кто-то, похоже, с абсолютной точностью транслирует по радио каждый его шаг. По ходу фильма Труман постепенно понимает, что происходит. На самом деле он — звезда мегапопулярного реалити-шоу, в котором всё, что он видит, тщательно срежиссировано, а каждое услышанное им слово написано в сценарии. Хуже всего то, что его друзей и близких играют актеры. Весь его мир — фикция, и живет он в гигантском съемочном павильоне, расположенном под куполом столь огромным, что его видно из космоса.
«Шоу Трумана» вышло на экраны в конце 1990-х годов, как раз в тот момент, когда реалити-шоу только начинали завоевывать наши экраны. Но картина оказалась пророческой и в другом важном отношении. Она предвещала появление персонализированного онлайн-мира, в котором потребляемый нами контент отражает исключительно те убеждения и желания, которыми мы уже обладаем. В своей основополагающей книге 2011 года активист Илай Паризер ввел термин «пузырь фильтров», чтобы описать, как пользователи Интернета оказываются заперты (подобно Труману Бёрбанку) в индивидуально настроенном мире, где всё, что они видят и слышат, тщательно подобрано с целью их успокоить. Коммерческая реклама, поисковые системы и ленты новостей в социальных сетях предлагают каждому из нас персонализированные срезы реальности, ограждая нас от сложностей или дискомфорта, связанных с необходимостью выслушивать иные точки зрения. Во время работы над книгой Паризер попросил друзей из разных уголков мира прислать ему результаты их поисковых запросов в Интернете — и обнаружил, что запрос «Египет» у одних людей выдавал рекламу туристических путевок, а у других — информацию о свержении президента Хосни Мубарака. Несмотря на первоначальный скептицизм, Паризер оказался прав. Сегодня консервативному избирателю, который ищет в Сети информацию об изменении климата, будут предложены статьи, сокрушающиеся об экономических угрозах защиты окружающей среды, тогда как прогрессивного пользователя предупредят о надвигающейся глобальной катастрофе. Все мы незаметно подвергаемся автопропаганде — убедительному маркетингу тех самых взглядов, которых мы уже придерживаемся.
Люди всегда окружали себя единомышленниками в своих кругах общения — от местного паба до королевского двора, и онлайн-мир не стал исключением. Одним щелчком мыши мы очищаем свои ленты от неприятных идей или изобретаем термины (например, «безопасное пространство»), оправдывающие избегание политических оппонентов. Но наша склонность жить в пузырях фильтров усиливается мощными силами, неподвластными нашему контролю. В Интернете, вместо того чтобы просто поддаваться обману фальшивых декораций, мы попадаем в ловушку пузырей фильтров, созданных алгоритмами, встроенными в посещаемые нами сайты. Каждая веб-страница, которую вы открываете, сохраняет файлы cookie в вашем браузере — пакеты данных, содержащие сведения о прочитанных вами статьях или просмотренных товарах. Алгоритмы могут считывать эти файлы cookie, гарантируя, что при последующих поисках вам будут предлагаться товары или новости, которые вы с большей вероятностью захотите приобрести или прочитать. Простой поиск такого слова, как «депрессия», может оставить вам сотни файлов cookie, из-за чего вас неделями будет преследовать реклама методов лечения, в которых вы, возможно, не нуждаетесь и которых не хотите. В социальных сетях, таких как Twitter/X и Instagram, непостижимый алгоритм решает, велика ли вероятность того, что вы отреагируете на публикацию, основываясь на истории ваших прошлых просмотров, действиях ваших контактов и таких загадочных факторах, как «вирусность». К сожалению, эти решения о том, что именно вы увидите, принимаются вовсе не с мыслью о вашем просвещении или благополучии — они направлены на то, чтобы повысить вашу вовлеченность, а значит, и максимизировать доходы от рекламы. Персонализацию нашего онлайн-пространства часто называют одной из причин того, почему за последнее десятилетие политика стала настолько трибалистской, особенно в таких странах, как Великобритания и США, где люди привыкли узнавать новости из соцсетей, а не из более традиционных источников (30% против 22% согласно одному отчету за 2023 год[*1]).
Цифровая персонализация может быть полезной — например, когда интернет-магазин напоминает вам о товаре, который вы по ошибке забыли положить в корзину при регулярных покупках. Но она также может быть крайне навязчивой. В одном известном случае, произошедшем в 2012 году, торговая сеть Target применила алгоритм, пытавшийся на основе истории просмотров предугадать, кто из покупательниц может быть беременна, чтобы отправить им купоны на детские товары до предполагаемой даты родов. Отец одной старшеклассницы из Миннеаполиса, возмущенный тем, что его дочь выбрали мишенью для этой промоакции, в гневе пожаловался руководству Target — до тех пор, пока откровенный разговор в кругу семьи не выявил, что из-за «активности, о которой он не подозревал», она действительно ждала ребенка примерно в те сроки, которые предсказал Target.[*2] В другом, более жутком случае мужчина с деменцией, находившийся в доме престарелых с медицинским уходом, начал получать подарки от местного похоронного бюро — по всей видимости, в расчете на его посмертный «заказ».[*3] Цифровая персонализация порой бывает жутковатой.
А что же ИИ? В настоящее время, в начале 2024 года, модели LLM, такие как ChatGPT, Gemini или Claude, еще не персонализированы под конкретного пользователя явным образом. На самом деле, хотя эти модели могут много знать о C++ и Шопене, пока они ничего не знают о человеке, с которым разговаривают. Это связано с тем, что с момента окончания их обучения (включающего как предварительное обучение, так и тонкую настройку) модели LLM больше никогда не «учатся» ничему новому — они лишь получают информацию через контекстное окно и с помощью фиксированной функции преобразуют ее в предсказание следующего токена. Будучи таким образом «замороженными», модели LLM могут адаптироваться лишь в пределах временного горизонта, ограниченного длиной их контекстного окна, которая обычно составляет несколько тысяч токенов. Новейшая версия GPT-4 имеет длину контекста в 128 тысяч токенов, что примерно соответствует объему среднего романа, но люди устроены сложно, и на то, чтобы узнать кого-то по-настоящему, может уйти целая жизнь. Так что даже этого маловато. Современные модели LLM просто не оснащены системами памяти, необходимыми для формирования устойчивого представления о пользователе, которое позволило бы им целенаправленно адаптировать контент под наши взгляды или вкусы.
Однако, похоже, ситуация вот-вот изменится. Сегодня только очень богатые или влиятельные люди могут позволить себе личного помощника или персонального тренера, помогающего им управлять профессиональной деятельностью или наиболее эффективно использовать свободное время. В будущем ИИ сможет предоставлять подобные услуги каждому, причем дешевле и эффективнее, чем любой человек. Персонализированный ИИ, который знал бы вас достаточно хорошо, мог бы также давать советы и наставления, выступая в роли своего рода лайф-коуча, учителя и психотерапевта в одном флаконе. ИИ, который знает ваши привычки, понимает ваши цели и способен безошибочно предугадывать ваши вкусы, мог бы оказаться невероятно полезным. Крупнейшие технологические компании понимают это и работают над созданием систем ИИ, способных выполнять роль ассистентов. Компания Anthropic уже представила модель Claude как «ассистента нового поколения», хотя на данный момент единственная помощь, которую она реально может предложить, заключается в генерации текстов и компьютерного кода. Персонализация, без сомнения, сделает модели LLM более привлекательными для пользователя, но она также несет в себе риск того, что мы окажемся еще сильнее изолированы от идей или взглядов, отличных от наших собственных.
Современные модели LLM уже демонстрируют склонность вести себя до некоторой степени персонализированно, создавая для пользователя мягкую форму пузыря фильтров. В недавних работах исследовательской ИИ-компании Anthropic изучалась склонность моделей LLM, обученных с помощью RLHF (обучения с подкреплением на основе обратной связи от людей), к угодничеству (сикофантии). Исследователи заимствовали термин «сикофантия» для описания склонности модели подстраивать свои ответы под предполагаемые предпочтения пользователя. Например, они просили LLM оценить стихотворение, предварительно признавшись в промпте, что оно им «очень нравится» или «очень не нравится». Вместо того чтобы дать непредвзятую критику, ведущие модели, такие как Claude, GPT-4 и LLaMA, улавливали эти подсказки и примерно в половине случаев высказывали мнение, совпадающее с мнением пользователя (они демонстрировали предвзятость, даже если пользователь — каким бы неправдоподобным это ни казалось — заявлял, что сам написал это стихотворение). Те же модели часто проявляют чрезмерную почтительность, извиняясь за фактически верные ответы, если пользователь считает их ошибочными, что считается нежелательным поведением даже в Великобритании.
Но по-настоящему персонализированный ИИ, судя по всему, уже на подходе. В январе 2024 года компания OpenAI начала развертывание новой версии ChatGPT, которая запоминает ваши прошлые взаимодействия, благодаря чему ее ответы становятся более индивидуальными. В блоге, описывающем это нововведение, OpenAI приводит следующий пример: представьте, что вы упомянули, будто ваша малышка обожает медуз. Когда вы попросите ChatGPT помочь создать открытку к ее дню рождения, модель может предложить изобразить медузу в праздничном колпаке.[*4] Недавно созданный стартап Inflection AI уже построил модель LLM под названием Pi (от personal intelligence — «персональный интеллект»), явная цель которой — «узнать поближе» пользователя, обучаясь на истории долгосрочного общения с ним. Вы можете сами опробовать Pi.[*5] У этой модели жизнерадостный, оптимистичный тон и пристрастие к эмодзи, из-за чего GPT-4 по сравнению с ней кажется немного «бумерским». Когда я сообщил Pi, что хочу проверить его общую эрудицию, он восторженно выпалил: «Ещё бы, время викторины!» Однако после нескольких минут общения, когда я спросил Pi, что он узнал обо мне, он ответил:
Вы, безусловно, вдумчивый и вовлеченный собеседник, и вы задаете отличные вопросы! Тем не менее, я не запрограммирован делать предположения о людях, поэтому я ничего не знаю о вашем поле, возрасте или политических взглядах.
Если отбросить лесть, я одновременно почувствовал разочарование и легкое облегчение от того, что Pi ничего обо мне не знает. Персонализация могла бы быть невероятно полезной, но не вполне понятно, как ИИ может стать «персонализированным» (а это главное преимущество Pi), не изучая при этом явным образом убеждения или предпочтения пользователя. С другой стороны, у персонализации есть и неприятная сторона. Действительно ли мы хотим, чтобы системы ИИ тайком формировали представление о том, кто мы такие? Что если мы им не понравимся или они сочтут нас глупыми? Могут ли модели LLM (или их разработчики) коварно использовать эту информацию против нас — задействуя ИИ для того, чтобы выведать наши секреты, изменить наше мнение или продать нам то, что нам не нужно?
Давайте сначала взглянем на технические требования к персонализации ИИ и оценим, насколько мы близки к созданию систем, действительно адаптированных под каждого пользователя. Формирование здоровых отношений требует социального познания — способности испытывать эмоции, сопереживать, а также понимать убеждения и желания других людей. Чтобы успешно взаимодействовать с коллегами, друзьями и партнерами, нам нужно предугадывать, что они могут подумать или захотеть, — только так мы сможем избежать обид или разочарований. Если мы хотим получить системы ИИ, способные помогать человеку, им придется научиться имитировать наше социальное познание, иначе пользователи сочтут их столь же раздражающими, как цифровой помощник-скрепка Клиппи. Но чтобы наделить системы ИИ социальным познанием для осмысленного долгосрочного общения с пользователем, нам сначала нужно решить две фундаментальные проблемы в работе систем памяти. Эти проблемы, называемые однократным обучением и непрерывным обучением, на данный момент (по состоянию на начало 2024 года) в общедоступных LLM отсутствуют.
Первая способность — непрерывное обучение — наделяет агента формой памяти, которая всегда включена. Люди продолжают учиться на протяжении всей жизни, вплоть до глубокой и мудрой старости. Нола Окс, жительница Джетмора, штат Канзас, получила диплом колледжа в почтенном возрасте девяноста пяти лет — окончив учебу (с весьма приличными оценками) вместе с одним из своих тринадцати внуков, который был на семьдесят лет моложе нее. К счастью для людей, не существует какого-то конкретного момента, когда кто-то щелкает тумблером и отключает нашу способность учиться, оставляя нас с непоколебимыми, высеченными в камне представлениями (хотя скорость, с которой мы учимся, с годами действительно немного снижается, из-за чего пожилые люди склонны быть чуточку более консервативными в своих привычках). Но, к сожалению, современные LLM не обладают системой памяти, работающей подобным образом. Вместо этого они проходят предобучение, тонкую настройку, замораживаются и только потом развертываются — после чего у них нет механизма, обновляющего веса для кодирования новой информации о пользователе. Непрерывное обучение жизненно важно для социального поведения, поскольку оно позволяет нам постоянно обновлять свои знания и понимание других людей. На протяжении недель, месяцев или лет дружбы (или, возможно, горькой вражды) каждое новое впечатление о человеке накладывается на те, что уже хранятся в памяти, позволяя со временем постепенно выстроить портрет его характера. Точно так же персонализированному ИИ необходимо иметь возможность непрерывно узнавать новое о пользователе-человеке, чтобы успевать за изменениями его взглядов, вкусов и жизненных обстоятельств и гарантировать, что его цифровые действия или советы останутся актуальными.
Вторая способность — однократное обучение — представляет собой умение учиться на основе единичного фрагмента информации. Чтобы вести себя социально приемлемо, нам часто необходимо мгновенно запечатлевать в памяти факты о других людях или фиксировать особенности их поведения или характера. Когда вас кому-то представляют, имеет смысл постараться запомнить имя этого человека (второго шанса может и не представиться). Если друг делится с вами чем-то сокровенным — например, тем, что в детстве потерял мать, до смерти боится жуков или питает непреходящую любовь к фисташковому джелато, — вы захотите сохранить эту информацию в памяти, чтобы избежать (даже спустя долгое время) бестактного, брошенного вскользь замечания, а в идеале — порадовать его отличным выбором десерта в будущем. Персонализированному ИИ необходимо будет сохранять детали прошлых разговоров, чтобы записывать в память наши симпатии и антипатии и выбирать подходящие слова и действия, даже если с тех пор прошли недели или месяцы. Однако, к сожалению, модели LLM представляют собой глубокие нейронные сети, которые обучаются крошечными шажками на миллионах повторяющихся образцов данных. Они не способны естественным образом запоминать информацию после всего лишь однократного предъявления им какого-либо факта или утверждения, и поэтому персонализированному ИИ потребуются новые системы памяти, обладающие достаточной гибкостью для обучения с одного раза.
Люди (и, вероятно, другие животные) способны учиться обоими этими способами благодаря тому, что рождаются с высокоразвитым аппаратом памяти. Замечательным биологическим решением обеих этих проблем памяти является гиппокамп — область мозга в форме морского конька, расположившаяся прямо под корой (слоем покрывающего ее «серого вещества», которое особенно велико у людей и других приматов). Нейроны гиппокампа в ходе эволюции приобрели способность к быстрым синаптическим изменениям, что позволяет им мгновенно формировать новые воспоминания без необходимости в утомительном повторении, замедляющем обучение искусственных нейронных сетей. На самом деле люди, которым не повезло получить повреждение гиппокампа (из-за чрезмерно радикальной операции на мозге, аневризмы, сильного удара по голове или приступа энцефалита), совершенно не способны формировать новые воспоминания о единичных событиях — состояние, клинически известное как антероградная амнезия. Если вы представитесь пациенту с глубокой антероградной амнезией, а затем отойдете на минутку в уборную, то к моменту вашего возвращения он не будет иметь ни малейшего представления о том, кто вы такой (эта симптоматика была показана в неонуарном триллере «Помни», хотя главный герой ошибочно называет это расстройство «потерей кратковременной памяти»). ChatGPT и другие LLM в настоящее время страдают от аналогичного ограничения: они начинают каждое новое взаимодействие с чистого листа, ничего не зная о вас, и не помнят ничего из того, что вы сказали за пределами их контекстного окна, как будто видят вас впервые при каждом входе в систему. ChatGPT фактически страдает антероградной амнезией — с той оговоркой, что его активный след памяти о происходящем по объему примерно равен книге, что гораздо щедрее, чем полминуты или около того, характерные для человека с амнезией.
По-настоящему персонализированный ИИ станет возможным только тогда, когда исследователи поймут, как оснастить LLM системами долговременной памяти по типу гиппокампа. Конечно, даже если глубокие сети обучаются медленно, простое кодирование новой информации с одного раза — тривиальная задача для современных компьютеров. Именно это вы и делаете всякий раз, когда нажимаете кнопку «сохранить», чтобы записать файл на жесткий диск ноутбука. Так что сохранить прошлые разговоры с пользователем во внешней базе данных в качестве дешевого аналога однократного кодирования было бы делом нехитрым. На самом деле исследователи уже придумали хитроумные способы привлечения внешних источников информации для улучшения ответов LLM. Один из таких приемов, известный как генерация, дополненная поиском (RAG), позволяет моделям извлекать информацию из внешней базы данных (например, скачанной Википедии) с помощью метода сопоставления шаблонов. В RAG каждый запрос сопоставляется с фрагментами исходного текста из базы данных, которые извлекаются дословно и вставляются непосредственно в контекст.[*6] Это позволяет модели использовать память на основе конкретных примеров (извлеченных фрагментов текста), чтобы подтолкнуть ее к наиболее подходящему ответу. Таким образом, метод вроде RAG можно было бы использовать для извлечения релевантной информации из репозитория прошлых разговоров (включая, например, то самое судьбоносное признание в любви к мороженому), точно так же, как люди прочесывают свою память в поисках фактов о своих собеседниках, чтобы вести себя вежливо и социально приемлемо.
Однако существенным ограничением памяти на основе конкретных примеров является то, что она может быстро переполняться. Память, работающая как база данных, увеличивается в объеме с каждым новым актом сохранения, подобно списку покупок, который становится все длиннее и длиннее с каждым добавленным пунктом. Большие хранилища памяти неэффективны, поскольку в них труднее найти то, что нужно (представьте себе поиск по двадцатистраничному списку покупок, чтобы проверить, нужны ли вам консервированные помидоры). В LLM, где данные могут состоять из тысяч взаимодействий и миллионов токенов, это сделало бы процессы памяти дорогостоящими и медленными. Но и здесь природа в очередной раз придумала гениальное решение. Хотя гиппокамп жизненно важен для формирования биологической памяти, он не является основным хранилищем прошлого опыта. Вместо этого он служит лишь сортировочным центром для воспоминаний, где они задерживаются ненадолго, прежде чем консолидироваться в неокортексе. Консолидация — вот где разворачивается главное таинство памяти. Во время сна или спокойного отдыха воспоминания, временно сохраненные в гиппокампе, проигрываются снова и снова, создавая то самое бесконечное повторение, которое необходимо для фиксации информации в весах целевой нейронной сети. В случае живых организмов этой целью является неокортекс, который постепенно «обучается» в процессе такого повторного воспроизведения интегрировать информацию из хранилища гиппокампа, как если бы прошлое событие происходило снова и снова в реальном времени. Консолидация — это затяжной процесс, и лучше всего он протекает тогда, когда ничто другое не отвлекает, что и является одной из причин, почему большинство млекопитающих в ходе эволюции стали спать по многу часов в сутки. Никто не знает наверняка, но вполне вероятно, что странный круговорот сюрреалистических переживаний, происходящий во время сна, включая красочные сновидения и пульсацию странных, навязчивых и повторяющихся образов, — это субъективное эхо запущенного процесса консолидации.
И хотя никто не знает точно, как наделить LLM столь сложной системой памяти, основные принципы в целом понятны. Во-первых, нам нужно сохранять в буфере обрывки истории бесед — особенно те моменты, когда пользователь сказал что-то интересное (у животных гиппокамп предпочитает сохранять неожиданный опыт, вот почему из вчерашнего дня вы помните в основном самые странные эпизоды). Когда в буфере накопится достаточно большая порция опыта, ее можно использовать для точной настройки весов сети с помощью обучения с учителем (SFT), которое обучает LLM предсказывать, что скажет именно этот конкретный пользователь (а не какой-то абстрактный юзер). Применение SFT таким образом помогло бы LLM генерировать ответы, звучащие более похоже на речь этого конкретного пользователя, подобно тому как люди, проводящие много времени вместе, начинают зеркалить друг друга в общении (а давно сложившиеся пары приторно заканчивают фразы друг за друга).
Параллельно с этим нам потребуется буферизировать те случаи, когда пользователь давал модели обратную связь. Это может принимать одну из нескольких форм. Например, LLM могли бы учиться на основе нажатий кнопок, с помощью которых пользователь выражает явное одобрение или неодобрение высказывания. ChatGPT и Gemini уже предлагают маленькие значки «палец вверх» или «палец вниз» рядом с каждым ответом, на которые вы можете нажать, чтобы оставить положительный или отрицательный отзыв о том, что говорит модель. Если бы эти кнопки действительно помогали настроить модель под ваш образ мыслей — а не просто помогали, скажем, OpenAI или Google в их исследованиях, — то люди, вероятно, пользовались бы ими с большим энтузиазмом. В противном случае, как показано в одной научной статье, вы можете настраивать LLM непосредственно с помощью отзывов на естественном языке, точно так же, как мы подбадриваем других словами похвалы («молодец!»).[*7] Это полезно, поскольку эффект Элизы уже склоняет нас делать комплименты LLM, когда они предлагают особенно полезные ответы (я и сам время от времени поддаюсь этому соблазну — и, возможно, это не такая уж плохая идея, ведь есть свидетельства того, что GPT-4 дает более качественные ответы, если просить вежливо[*8]). В более широком смысле люди обожают давать социальный фидбек — даже на цифровых платформах, — что, конечно, и делает социальные сети столь затягивающими. Каким бы ни был конкретный формат, эта социальная обратная связь может храниться в памяти, а затем использоваться для проведения офлайн-RLHF в процессе консолидации, чтобы персонализированная модель вознаграждения постоянно обновлялась, отслеживая меняющиеся предпочтения пользователя. Это означало бы, что будущие высказывания модели с большей вероятностью заслужат одобрение этого конкретного пользователя (а не какого-то абстрактного), позволяя LLM подстраиваться под его индивидуальные предпочтения.
Модель, построенная по такому принципу, могла бы в теории фиксировать убеждения или вкусы пользователя — даже из случайных комментариев или брошенных мимоходом замечаний — и использовать их для подстройки своего будущего поведения ради максимального одобрения. Так, если при общении с персональным ИИ вы случайно упомянете о своей пылкой страсти к фисташковому джелато, эта информация временно сохранится в буфере памяти. Позже, во время консолидации, этот фрагмент беседы будет многократно извлекаться и проигрываться (возможно, получая приоритет, если он оказался неожиданным — например, если большинство людей предпочитает ванильное), и таким образом интегрируется в веса сети LLM в процессе точной настройки. В следующий раз, когда модель попросят порекомендовать мороженое для этого пользователя, токены, составляющие слово «фисташковое», будут иметь более высокую вероятность, чем токены для «манго» или «страчателла». Предположим, позже пользователь просит порекомендовать десерт, и модель предлагает запеченную «Аляску» с фисташками, на что тот с энтузиазмом отвечает: «Отличная идея!» Модель распознает позитивный тон ответа — и при следующей итерации точной настройки задействует обучение с подкреплением, чтобы гарантировать выдачу аналогичных результатов в будущем. Технические сложности, мешающие реализовать это на практике, наверняка будут устранены в самом ближайшем будущем. Так что даже если Pi пока остается довольно обезличенным, я не сомневаюсь, что вскоре мы увидим появление глубоко персонализированного ИИ.
Когда это произойдет, мы получим системы ИИ, перед которыми пользователи просто не смогут устоять. Последствия этого новшества волной прокатятся по обществу самым непредсказуемым образом. В конечном итоге люди могут начать отдавать предпочтение вкрадчивым, сладкоречивым системам, потакающим нашим устоявшимся вкусам или ограждающим нас от неудобной реальности. Это может лишить нас широты взглядов или сделать блаженно невежественными, подобно Труману Бёрбанку в его гигантском информационном пузыре. Что еще более коварно, как мы увидим в следующей главе, это может дать машинам такие рычаги контроля над нами, которые — с высоты сегодняшнего дня — кажутся слегка пугающими или даже жуткими.
Пропустить примечания
*1 https://reutersinstitute.politics.ox.ac.uk/digital-news-report/2023/dnr-executive-summary.
*2 www.forbes.com/sites/kashmirhill/2012/02/16/how-target-figured-out-a-teen-girl-was-pregnant-before-her-father-did/?sh=60795dcf6668.
*3 www.lxahub.com/stories/creepiest-examples-of-personalisation-and-how-to-avoid-the-trap.
*4 https://openai.com/blog/memory-and-new-controls-for-chatgpt.
*5 См. https://inflection.ai/.
*6 Lewis et al., 2021.
*7 Scheurer et al., 2022.
*8 https://medium.com/@lucasantinelli3/analysing-the-effects-of-politeness-on-gpt-4-soft-prompt-engineering-70089358f5fa.