Как-то раз на званом ужине я пытался объяснить одному человеку, чем зарабатываю на жизнь, и тут он заявил: «Я не верю, что искусственный интеллект возможен, ведь только Бог может создать душу».

Должно быть, в этот момент на меня снизошло божественное вдохновение, потому что я мгновенно ответил: «Вы имеете в виду, что если я смогу создать искусственный интеллект, это докажет ложность вашей религии?»

Он спросил: «Что?»

Я сказал: «Ну, если ваша религия предсказывает, что я никак не могу создать искусственный интеллект, значит, если я его создам, это будет означать, что ваша религия неверна. Либо ваша религия допускает, что я могу построить ИИ, либо, если я его построю, это опровергнет вашу религию».

Последовала пауза — собеседник осознал, что только что сделал свою гипотезу уязвимой для фальсификации, — а затем он сказал: «Ну, я имел в виду не то, что вы вообще не сможете создать интеллект, а просто что он не сможет испытывать эмоции так же, как мы».

Я сказал: «Значит, если я создам искусственный интеллект, который — без какого-либо намеренно прописанного сценария — начнет говорить о своей эмоциональной жизни так, что это будет звучать совсем как у нас, это будет означать, что ваша религия ошибочна».

Он сказал: «Ну, эм, полагаю, тут нам придется остаться при своих мнениях».

Я сказал: «Вообще-то нет, не придется. В теории рациональности есть теорема, которая называется теоремой Ауманна о согласии. Она доказывает, что двое рационалистов не могут остаться каждый при своем мнении. Если два человека расходятся во мнениях, как минимум один из них делает что-то не так».

Мы недолго поспорили об этом. Наконец он произнес: «Ну, наверное, на самом деле я пытался сказать, что, по моему мнению, вы не сможете создать ничего вечного».

Я сказал: «Ну, я тоже так не думаю! Я рад, что нам удалось прийти к согласию по этому вопросу, как того требует теорема Ауманна». Я протянул руку, он пожал ее и побрел прочь.

Женщина, стоявшая неподалеку и слышавшая весь разговор, серьезно сказала мне: «Это было прекрасно».

«Большое спасибо», — ответил я.

*