Люди являются неотъемлемой частью процесса создания и обслуживания систем искусственного интеллекта. Только представьте, сколько разных людей было задействовано при создании ChatGPT. Конечно, среди них были инженеры OpenAI из Сан-Франциско. Но было гораздо больше внештатных сотрудников, которые выбирали хорошие ответы при обучении чат-бота; возможно, привлекались специалисты в «красную команду» (red team) для проверки уязвимостей по определенным направлениям. Мы знаем, что кенийским рабочим платили от 1 до 2 долларов в час за просмотр материалов, которые могли содержать ненавистнические высказывания или обсуждать темы сексуального насилия. ChatGPT обучался на миллионах слов, авторами которых были разные люди, от Шекспира до анонимных пользователей Reddit; их труд позволил ChatGPT научиться писать новостные статьи, письма, доклады и программы. Возможно, там есть и тексты, которые писали вы! Пользователи ChatGPT и других LLM тоже играют важную роль в совершенствовании продукта с течением времени.

Степень экспертных знаний LLM – это знания людей. Что нам дает сама технология, так это возможность обрабатывать информацию из гораздо большего количества документов, чем любой человек когда-либо мог бы прочитать и тем более упорядочить в уме, – а затем использовать эту информацию для генерации текста (обычно ответов на запросы) в масштабах, недоступных ни одному человеку. Чего технология не может гарантировать – это понимание смысла: модель его не понимает. Это приемлемо для создания песни о кролике, который любит морковку, но не подойдет для применения в областях особой важности, от медицинской диагностики до юридической аргументации. Как мы уже говорили в главе 6, применение модели в этих областях требует участия человека, который мог бы выявлять ее ошибки. LLM – это инструменты, которые помогают нам выполнять часть нашей работы быстрее и проще, а иногда даже лучше, но нам все равно необходимо использовать собственный опыт, чтобы корректировать и улучшать эти модели.

По мере того как мы будем наблюдать изменение ролей человека и искусственного интеллекта в образовании и полях профессиональной деятельности, неизбежно будут возникать непростые вопросы. И перспективы их решения будут зависеть от совместной инициативы, как со стороны общественности, так и технологий. Например, в вопросах конфиденциальности наблюдается огромный технический прогресс. Появляются новые стартапы, которые используют генеративные модели для создания анонимизированных синтетических обучающих датасетов с такими же статистическими свойствами, что и у реальных данных. Компания Illumina, занимающаяся генетическим секвенированием, объявила о партнерстве со стартапом по созданию синтетических данных Gretel.ai, чтобы разработать синтетические геномные данные, которые были бы чрезвычайно полезны в здравоохранении, но при этом не разглашали генетическую информацию какого-либо человека. И эти усилия набирают обороты благодаря социальному аспекту проблемы конфиденциальности: бурной деятельности вокруг этого вопроса, повышению осведомленности общественности, противостоянию практикам массового сбора данных и наконец ужесточению нормативно-правовой базы. И эта активность должна продолжаться в области ответственного ИИ и смежных темах.

Для создания позитивных изменений, способствующих ответственному использованию технологии, необходимо, чтобы люди были хотя бы в общих чертах осведомлены о том, как работают эти технологии и как используются в настоящее время. Цифровая грамотность – это коллективная работа. Компании, предоставляющие решения на основе LLM, должны не только продавать пользователям волшебство, но и работать над тем, чтобы познакомить их с возможностями и ограничениями моделей. Школы должны стремиться подготовить своих учеников к жизни в современном мире, а не игнорировать новейшие технологии, включая LLM, и наказывать за их использование. Эта книга – наш скромный вклад в то, чтобы общественность была лучше информирована и внимательно относилась к генеративному ИИ.