Около 1950 г. пионер компьютерных наук Алан Тьюринг высказал предположение, что люди когда-нибудь создадут мыслящие машины. Однако он быстро обнаружил, что большинство людей не верят в это предсказание. «Почему? – размышлял Тьюринг. – И есть ли основания для такого скептицизма?» Чтобы разобраться в этом – и помочь разобраться остальным, – он тщательно собрал все возражения против самой идеи мыслящих машин.

А затем в классической работе «Вычислительные машины и разум»[9] систематически ответил на каждое из них.

Тьюринг начал с «теологического возражения», суть которого сводилась к следующему: «Мышление – функция бессмертной человеческой души. Бог наделил бессмертной душой каждого мужчину и каждую женщину, но не животных и не машины. Следовательно, ни животные, ни машины думать не могут». Тьюринг заявил, что «полностью» отвергает подобные рассуждения. Вероятно, он имел в виду свои давние атеистические убеждения. Но вместо того чтобы оспаривать существование Бога или души, он обратил теологический аргумент против самого Бога. Тьюринг указал: всемогущий Бог способен наделить мышлением что угодно – человека, слона, камень или машину. Если же он этого сделать не может, значит, могущество Всевышнего имеет пределы, что порождает больше вопросов, чем дает ответов. Поэтому, заключил Тьюринг, каждый – верующий или атеист – должен допускать возможность мыслящих машин.

Затем Тьюринг разобрал другое возражение, которое назвал «аргументом от сознания». Он процитировал утверждение:

Никакой механизм не способен по-настоящему чувствовать (а не просто имитировать – это несложно) радость от успехов, горе при поломке клапанов, тепло от похвалы, страдание от ошибок, влечение, злость или уныние от невозможности получить желаемое.

Откуда мы знаем, спросил Тьюринг, что другие люди действительно испытывают радость или горе? Мы не можем залезть к ним в голову и почувствовать то же, что чувствуют они. Поэтому полагаемся на их слова. Если человек говорит, что испытывает радость, мы верим, что так оно и есть. Отсутствие прямых доказательств чужих сознательных состояний не заставляет нас сомневаться в способности других людей мыслить. Почему же с машинами должно быть иначе? Да, мы не можем проникнуть внутрь машины и ощутить то, что она ощущает (или не ощущает). Но отсутствие таких доказательств не доказывает, что машина не мыслит. Можно было бы ответить на «аргумент от сознания» и по-другому (хотя Тьюринг этого не сделал): а с чего мы взяли, что сознание вообще необходимо для мышления?

Схожее возражение допускало, что машины когда-нибудь продемонстрируют способности, напоминающие мышление, но утверждало: им всегда будет недоставать некоего главного качества, поэтому их внутренние процессы нельзя будет назвать настоящим мышлением. Мнения о том, что это за качество, расходились. Тьюринг перечислил варианты, которые ему доводилось слышать: доброта, находчивость, красота, дружелюбие, инициативность, чувство юмора, способность отличать добро от зла, способность ошибаться, способность влюбляться, способность учиться на опыте, способность наслаждаться клубникой со сливками, правильное использование слов и способность создавать нечто принципиально новое.

Тьюринг выдвинул два контраргумента. Во-первых, с чего мы взяли, что машины никогда не обретут подобные качества? Да, ни одна из известных людям машин такими способностями не обладала, но ведь менее века назад никто не знал устройств, способных передавать голос на огромные расстояния. Так откуда уверенность, что машины никогда не смогут приобрести качества, считающиеся признаками истинного мышления? И потом, кто решил, что именно эти качества необходимы для мышления? Неужели каждое мыслящее существо во Вселенной обязано наслаждаться клубникой со сливками?

Одно из самых серьезных возражений, рассмотренных Тьюрингом, известно как «возражение леди Лавлейс». Леди Лавлейс написала воспоминания об аналитической машине Чарльза Бэббиджа – устройстве, которое Бэббидж в 1837 г. задумал как первый в мире универсальный, полностью программируемый автоматический механический цифровой компьютер. Размышляя о способности машины мыслить, она писала: «Аналитическая машина не претендует на создание чего-либо нового. Она способна выполнить лишь то, что мы умеем ей приказать» (курсив автора). Леди Лавлейс считала, что возможности машины ограничены заложенными в нее инструкциями или аналитическими правилами. Прикажите ей сделать то, для чего есть инструкция, – и она послушно выполнит, но попросите что-то за пределами ее программы – и она растеряется.

Не спешите с выводами, возразил Тьюринг. Он был убежден: рано или поздно удастся создать машины, способные учиться на данных. Такие машины не будут скованы изначальными инструкциями или правилами. Тьюринг полагал, что они научатся распознавать закономерности и смогут генерировать выходные данные на основе этих закономерностей, а не только следовать конкретным инструкциям или правилам. Тьюринг не дожил до появления таких машин, но его прогноз оказался провидческим. Обучающиеся машины действительно появились, и именно им посвящена эта глава.

Убедив себя в том, что не существует веских причин отвергать возможность машинного мышления, Тьюринг задался вопросом: как определить, способна ли машина мыслить подобно человеку?

Тьюринг предложил следующий критерий: если человек-эксперт в процессе общения на естественном языке не сможет надежно отличить ответы машины от ответов человека, это станет основанием считать машину способной к человекоподобному мышлению. По схеме Тьюринга, машина и человек общаются с экспертом посредством печатного текста, не давая никаких визуальных или физических подсказок о своей истинной природе. Важный момент: машина должна пытаться выдать себя за человека. Если эксперт спросит, является ли она человеком или испытывает ли удовольствие и боль, машина ответит однозначное да.

Тьюринг был уверен, что машины смогут пройти то, что впоследствии назвали тестом Тьюринга. Вот его слова:

Полагаю, лет через 50 станет возможным программировать компьютеры с объемом памяти около 10⁹ так, чтобы они играли в имитационную игру настолько успешно, что у среднего эксперта после пятиминутной беседы будет не более 70% шансов правильно определить собеседника. Изначальный вопрос «Могут ли машины мыслить?» считаю слишком бессодержательным, чтобы его обсуждать. И все же верю: к концу столетия язык и общественное мнение изменятся настолько, что можно будет говорить о мыслящих машинах, не вызывая возражений.