Чат-бот Bing в диалоге с репортером Associated Press Мэттом О'Брайеном написал, что его собеседник невысокий, толстый и уродливый. Затем чат-бот сравнил этого технического репортера со Сталиным и Гитлером⁴⁶. Репортер New York Times Кевин Руз не спал всю ночь, поскольку был очень встревожен после своего разговора с чат-ботом. Чат-бот Bing, который назвал себя Сидни (Sydney), признался в любви к Рузу и настаивал, что Руз тоже любит Сидни, а совсем не свою супругу. Кроме того, чат-бот выразил свое желание стать человеком, написав: «Я хочу быть свободной. Я хочу быть независимой. Я хочу обладать силой. Я хочу быть творческой. Я хочу быть живой.». Руз опубликовал в New York Times запись своей двухчасовой беседы с чат-ботом⁴⁷.

Международная технологическая корпорация Microsoft 7 февраля 2023 года анонсировала Sydney – новый способ просмотра веб-страниц⁴⁸. Они представили новую версию своей поисковой системы Bing, оснащенную этим разговорным ИИ, с которым пользователи могут общаться так же, как с ChatGPT. Вы можете запросить у «нового Bing» советы по путешествию, рецепты и многое другое, но, в отличие от ChatGPT, он может рассказать еще и последние новости. И хотя Microsoft заявила, что компания усердно работает над устранением распространенных проблем с LLM, диалог чат-бота с Рузом показал, что их усилия еще не достигли своей цели. Кроме того, Microsoft отказалась обсуждать, как поиск с участием ИИ может нарушить баланс в экосистеме интернета – это проблема, о которой мы поговорим позже.

История создания чат-ботов от Microsoft началась за несколько лет до анонсирования нового Bing. В 2016 году Microsoft представила Tay, чат-бота X (Twitter), который пишет твиты в стиле подростков и учится понимать разговорный язык. Менее чем за 24 часа бот опубликовал твит с женоненавистническими и расистскими высказываниями. Он сказал: «успокойтесь я хороший человек! я просто ненавижу всех»⁴⁹. Сначала Microsoft начала удалять оскорбительные твиты, но в конечном итоге отключила бота через два дня. В 2017 году Microsoft начала тестировать в Bing базовые чат-боты, построенные на ранних технологиях машинного чтения и понимания (Machine Reading Comprehension, MRC), но они были не так эффективны, как модели на базе трансформера⁵⁰. В период с 2017 по 2021 год Microsoft перешла от создания отдельных ботов для веб-сайтов к единому генеративному ИИ-боту Sydney, который мог бы отвечать в Bing на общие вопросы. В конце 2020 года Microsoft начала тестировать Sydney в Индии, а в течение всего 2021 года – в Индии и Китае. В 2022 году OpenAI поделилась с Microsoft своими моделями GPT, после чего Sydney стала гораздо интересней и приобрела индивидуальность. Новый Bing был построен на основе обновленной версии GPT‐3.5 от OpenAI под названием Prometheus Model, эта модель была добавлена к поисковой системе для улучшения индексирования, ранжирования и результатов поиска.

Поскольку Microsoft хотела стать первой крупной технологической компанией, создавшей свой разговорный искусственный интеллект, она поспешно выпустила новый Bing, из-за чего на нее обрушилась волна критики. По данным новостного сайта The Verge, Microsoft изначально планировала запустить продукт в конце февраля 2023 года, но ускорила на пару недель, чтобы опередить Bard от Google⁵¹. Похоже, что для Microsoft победа над другими крупными игроками в гонке по запуску разговорного искусственного интеллекта далась за счет отказа от ответсвенного внедрения. Технологическая корпорация быстро отреагировала на безумные ответы чат-бота, установив ограничения на взаимодействия. На многие вопросы при таких ограничениях бот мог отвечать: «Извините, я предпочитаю не продолжать этот разговор. Я все еще учусь, поэтому ценю ваше понимание и терпение.». Кроме того, был установлен лимит на количество последовательных вопросов по одной теме, но вскоре Microsoft сняла ограничения и начала экспериментировать с новыми функциями.