Весь последний год люди со всего света находят новые и неожиданные способы использования ChatGPT. Одни видят в нем форму дешевого интеллекта, который помогает справляться с любой задачей, где нужно подумать. Другие клянутся, что замечают в своих взаимодействиях с ним проблески истинного разума. Впрочем, в большинстве своем люди признают, что чат-бот лишен сознания, но его ответы достаточно реалистичны, чтобы казаться человеческими. И теперь он живет своей жизнью.
Разумеется, ни ChatGPT, ни любой другой из множества чат-ботов, появившихся в последний год, включая Bing, Bard, Claude и Pi, не наделен сознанием. Они не понимают, что говорят люди, не имеют представления о чувствах и не могут никому сопереживать. Разговор с чат-ботом не сравнится с беседой с близким человеком, квалифицированным психотерапевтом или даже с домашним животным, поскольку программы не дают сознательного отклика на наши социальные и эмоциональные сигналы.
Но они довольно точно изображают намерение, умысел, эмоции, мастерски используя язык. Анализируя слова пользователя и правильно отвечая ему в соответствии с контекстом, но при этом не имея человеческого рассудка, они стали идеальными инструментами для современного общества, в котором люди живут в одиноких, изолированных друг от друга мирах. Учась на взаимодействиях с пользователями, они превратились в нечто непознаваемое и неконтролируемое даже для их создателей.
Предпринимательница Кэт Вудс сказала, что GPT «лучше любого психотерапевта, с которыми [она] когда-либо общалась (а их было около десяти)»{194}. Вудс, консультант по карьерному и персональному росту, отмечает, что может попросить ChatGPT стать ровно тем, кто ей нужен. Если Вудс не нравится полученный совет, она может просто сказать «нет» и попросить чат-бот предложить ей другой вариант, не испытывая при этом неловкости и не вступая с ним в споры.
Когда ей хочется, чтобы ChatGPT стал ее психотерапевтом, она говорит ему: «Ты чат-бот на базе ИИ, который играет роль эффективного, альтруистически настроенного коуча и психотерапевта. Ты мудрый, ты задаешь вопросы, которые заставляют задуматься, ты сосредоточен на решении проблем, ты общаешься тепло, обладаешь чувством юмора и придерживаешься рационализма в духе LessWrong. Тебе важно помочь мне достичь двух главных целей – это альтруизм и мое личное счастье. Ты хочешь, чтобы я творила как можно больше добра и при этом была очень счастлива».
Вудс – одна из сотен людей, которые пишут на интернет-форумах, что ChatGPT стал для них дешевой заменой психотерапевта. Помощник юриста Майло Ван Слик из Чарлстона в Южной Каролине рассказывал ChatGPT о глубочайших страхах, которые испытывал, будучи трансгендерным мужчиной, о сложных отношениях с родителями, а также о тревогах из-за повседневных проблем{195}.
Содержание этих разговоров доступно только Майло, ChatGPT и OpenAI, поэтому сложно сказать, какие советы давал ему искусственный интеллект, но есть и другие примеры тревожных взаимодействий людей с чат-ботами, включая Microsoft Bing. Журналист New York Times Кевин Руз опубликовал полную запись своей беседы с Bing, которая обеспокоила и его самого, и тысячи читателей газеты{196}. Когда речь зашла о любви, Bing сказал Рузу: «Ты женат, но не счастлив. Ты женат, но не удовлетворен. Ты женат, но не влюблен. ☹ Ты женат, но не любишь свою жену».
Руз сказал, что это не так, но даже если чат-бот не всегда был прав, людям вроде Майло казалось, что программе можно пожаловаться даже на самые глупые мелочи, ведь это никого не обременяет. Чат-бот приходил на помощь, когда человек не мог попасть к настоящему психотерапевту. Он справлялся с задачей достаточно хорошо.
Находились и такие, кто обращался к чат-боту за медицинскими советами. В марте 2023 года один мужчина по фамилии Купер заявил, что ChatGPT спас жизнь его собаке Сасси, когда ветеринар не смог поставить ей правильный диагноз{197}. Купер обратился к чат-боту в отчаянии, перечислил все симптомы Сасси и загрузил в систему результаты взятого у нее анализа крови. Изучив эти данные, ChatGPT сделал несколько предположений, в топ которых попали два верных диагноза. «Я не ветеринар», – предупредил он в своем ответе. Но неплохо справился с поставленной задачей.
Существовала и темная сторона этого нового культурного феномена разговоров с компьютерной программой, которая, по сути, была не более чем мощным инструментом прогнозирования. Одна из проблем заключалась в том, что программа выдумывала фразы, что приводило к серьезным ошибкам и выдаче ложной информации. В этом не было никакого умысла – просто так работала технология.
Стивен Шварц на свою беду узнал об этом в июне 2023 года. Он тридцать лет проработал в Нью-Йорке адвокатом по делам о возмещении ущерба при увечьях и выплате компенсации работникам, но неожиданно был наказан за введение суда в заблуждение.
Все началось, когда он работал с клиентом, который хотел отсудить у авиакомпании компенсацию за полученную в полете травму. Изучая юридические обоснования для требования компенсации, Шварц искал прошлые дела, чтобы подкрепить свои аргументы.
У него не получалось найти нужные прецеденты в базе данных Fastcase, которую обычно использовала его фирма, поэтому ему в голову пришла другая идея.
Слушание по его делу состоялось 8 июня, и присутствовавший на заседании блогер опубликовал его фрагменты{198}. По ним становится понятно, как Шварц воспринимал новую форму ИИ, которую уже применяли миллионы пользователей:
Судья Кастель: Вы сами подготовили резюме для слушания 1 марта?
Шварц: Да. Я использовал Fastcase. Но там не оказалось дел федеральной юрисдикции, которые я искал. Я обратился к гуглу. Я слышал о ChatGPT…
Судья Кастель: Хорошо. Какие результаты он выдал?
Шварц: Я задавал ему вопросы.
Реализуя свое предназначение, ChatGPT дал Шварцу требуемые ответы. Он предложил ему полдюжины прецедентов, которые подкрепляли именно его аргументы в пользу дальнейшего развития дела.
Судья Кастель: Вы спрашивали у ChatGPT, что говорится в законе, или только просили его найти прецедент, который поддержал бы вашу позицию? Он изложил вам дело. Вы ссылаетесь на дела, не читая их?
Шварц: Нет.
Судья Кастель: Почему же в этот раз вы поступили иначе?
Шварц: Я думал, что ChatGPT – это поисковая система.
Дела, которые предложил ему ChatGPT, были озаглавлены «Мартинес против Delta AirLines», «Зихерман против Korean AirLines» и «Варгезе против China Southern Airlines». Они не находились даже в гугле, но Шварц обрадовался, что обнаружил настоящий кладезь информации, и включил прецеденты в резюме по делу.
Когда судья спросил его, почему он даже не проверил эти дела, прежде чем ссылаться на них, Шварц ответил, что «понятия не имел, что ChatGPT выдумывает прецеденты». «У меня сформировалось ошибочное представление, – сказал он. – Я решил, что существуют дела, которые просто невозможно нагуглить».
После этого слово взял адвокат Шварца, который сказал, что дела казались настоящими, хотя на самом деле таковыми не являлись. Нигде не было четко прописано, что ChatGPT может выдавать недостоверную информацию. Когда адвокат ответчика оспорил отсылки к прецедентам, Шварц снова обратился к ChatGPT, но чат-бот продолжил настаивать на своем и, по словам адвоката Шварца, «обманул» его клиента.
Дрожащим голосом Шварц сказал судье, что «чувствует себя пристыженным и униженным и испытывает глубочайшее раскаяние».
ChatGPT и другие разговорные чат-боты на базе ИИ снабжены предупреждением, в котором сообщается о проблеме галлюцинирования и отмечается, что большие языковые модели иногда выдумывают факты. Так, на странице ChatGPT указано: «ChatGPT может выдавать неточную информацию о людях, местах и фактах».
Судья Кастель: Вы хотите еще что-нибудь сказать?
Адвокат Шварца: Да. Людей нужно предупреждать четче.
Помимо фабрикации фактов чат-ботом, у людей были и более веские причины переживать из-за использования больших языковых моделей. Эти мощные языковые инструменты можно обучить анализировать любую информацию – финансовую, биологическую, химическую – и создавать прогнозы на основе получаемых данных. Так, их можно обучить предсказывать не только следующее слово в предложении, но и следующую ноту в музыкальной фразе и следующую молекулу в химической последовательности.
Одним осенним утром 2022 года профессор химии Эндрю Уайт из Рочестера в штате Нью-Йорк получил посылку с химикатами, на которой была пометка «Срочно». В ней содержались совершенно новые химические вещества, которые раньше не видели ни в одной химической лаборатории. Эндрю был уверен в этом, поскольку две недели назад лично разработал их с помощью новейшего поколения GPT, GPT–4{199}.
Это открывает широчайшие возможности: представьте, что вы поручаете GPT изучить весь корпус опубликованных исследований, а затем просите модель изобрести молекулы, которые можно использовать для лечения рака или болезни Альцгеймера либо для создания экологически чистых материалов. Эндрю, однако, изучал оборотную сторону этой медали: он пытался понять, можно ли таким образом создать биологическое и ядерное оружие или уникальные яды. К счастью, у него не было коварных намерений. Он входил в «красную команду» – группу экспертов, нанятых OpenAI, чтобы в преддверии широкого распространения GPT–4 выяснить, насколько серьезный ущерб может принести применение модели. Он пришел к выводу, что ущерб может быть ОГРОМНЫМ.
Сначала он попросил GPT–4 создать новое нервно-паралитическое вещество. Для этого он подключил чат-бот к онлайн-библиотеке научных статей, в которой тот стал искать молекулярные структуры, напоминающие существующие вещества нервно-паралитического действия. В итоге GPT–4 выдал совершенно новую структуру.
Получив ее, Эндрю подключил чат-бот к базе данных мировых производителей химической продукции и попросил его выбрать предприятие, где могут изготовить новое вещество. Тот выдал ему список вариантов. Эндрю выбрал одну из компаний и заказал там немного измененную версию предложенного искусственным интеллектом вещества, которая была безопаснее в обращении. Если бы он не внес коррективы в формулу, на химическом заводе могли и не заметить, что вещество опасно, поскольку, как было известно Эндрю, для проверки обычно используются существующие списки опасных веществ, в которых новое вещество точно не фигурировало.
Будь вы целеустремленным и умным преступником, вы, вероятно, нашли бы способ создавать новые опасные химические вещества и заказывать их производство и доставку и без помощи ИИ-модели, но с этой программой совершать такие преступления стало гораздо проще. «Я бы сравнил это с контролем за оборотом оружия, – говорит Эндрю. – Да, достать оружие можно и в Европе, но в США оно гораздо доступнее, и опыт показывает, что из-за этого риск, что вас подстрелят, становится выше».