Психолог из Мичиганского университета Феликс Уарнекен шел через комнату к закрытому деревянному шкафу, неся высокую стопку журналов. Он наткнулся на дверцу, испуганно охнул и попятился. Несколько секунд задумчиво разглядывая шкаф, он произнес «Хм-м», шагнул вперед и снова врезался журналами в дверцу. Потерпев очередную неудачу, он отступил и вновь задумчиво промычал. Со стороны казалось, будто он совершенно не понимает, что идет не так.
Из угла комнаты к нему на помощь бросился маленький ребенок. Неуверенно переступая, малыш подошел к шкафу, по очереди открыл дверцы и, прежде чем отойти, внимательно посмотрел на Уарнекена. Феликс с благодарным выдохом положил журналы на полку [638].
В 2006 году Уарнекен вместе и его коллега Майкл Томаселло из Университета Дьюка стали первыми, кто систематически доказал: уже в полтора года дети уверенно понимают по лицу знакомого человека, что тот столкнулся с проблемой. Малыши распознают чужие цели и препятствия на пути к ним, после чего по собственной инициативе помогают, если в их силах это сделать. Причем они поступают так, даже если их ни о чем не просят, даже если взрослый на них не смотрит, и совершенно не ожидая за это награды [639].
Это удивительно сложная способность, присущая исключительно людям. Наши ближайшие генетические родственники, шимпанзе, тоже могут добровольно прийти на помощь, но лишь при соблюдении целого ряда условий: если их внимание специально привлекли к ситуации; если кто‐то открыто тянется к предмету, о которого они могут достать (и только в простых ситуациях, а не как в случае со шкафом); если помощь нужна именно человеку, а не другому шимпанзе (из-за сильного соперничества сородичей друг с другом); если нужный предмет – не еда; и наконец, только подержав искомый предмет у себя несколько секунд, словно раздумывая, стоит ли вообще с ним расставаться [640].
Уарнекен и Томаселло показали, что такая готовность помогать – крайне редкое явление с точки зрения эволюции. У людей она выражена гораздо сильнее, чем у ближайших родственников, и зарождается задолго до того, как ребенок начинает говорить. Как подытожил Томаселло: «Главное отличие когнитивных способностями человека от других видов заключается в умении участвовать в совместной деятельности с общими целями и намерениями» [641].
«Обычно детей считают от природы эгоистичными существами, которых волнуют только собственные потребности. Предполагается, что именно общество должно „перепрограммировать“ их, научив альтруизму, – говорил Уарнекен [642]. – Однако наше исследование показало, что уже на втором году жизни дети способны к сотрудничеству: они могут помогать другим решать проблемы, работать вместе и делиться ресурсами» [643].
Эти действия требуют не только желания помочь, но и сложнейшего когнитивного процесса: ребенку нужно сделать вывод о целях другого человека, зачастую наблюдая лишь крошечный фрагмент его поведения.
«Люди – непревзойденные мировые эксперты по чтению мыслей», – отмечал Томаселло. Пожалуй, самая впечатляющая грань этого навыка – способность делать выводы о взглядах других людей, но основой для этого служит именно распознавание намерений. Действительно, дети начинают понимать, о чем думают другие, не раньше чем в четыре года. Но уже к своему первому дню рождения они догадываются, чего хотят окружающие [644].
Исследователи находят все больше аргументов в пользу того, что наш подход к закладыванию человеческих ценностей в ИИ должен быть аналогичным. Возможно, вместо долгих и кропотливых попыток вручную запрограммировать все, что для нас важно, стоит создавать машины, способные просто наблюдать за поведением людей и самостоятельно делать выводы о наших желаниях и ценностях. Как известно, Ричард Фейнман сравнивал Вселенную с «гигантской партией в шахматы, в которую играют боги, а мы лишь следим за их игрой. Мы не знаем правил; все, что нам позволено, – это наблюдать» [645]. В сфере ИИ подобный подход называется «обратным обучением с подкреплением». Разница лишь в том, что в роли богов выступаем мы сами, а машины просто наблюдают за нами, пытаясь разгадать правила, по которым мы делаем свои «ходы».