В книге 1969 года «Перцептроны» Марвин Минский и Сеймур Пейперт математически показали, что простой перцептрон Розенблатта не способен распознать определенные паттерны, и поставили под сомнение, что его можно использовать для других задач, которые решаются с помощью интеллектуальных способностей человека[529]. В частности, ученые утверждали, что устройство не способно линейно разделить некоторые изображения, спроецированные в многомерном пространстве. Например, оно не могло отличить связанные фигуры от несвязанных. Расчеты были проиллюстрированы изображениями странных форм, не поддающимися автоматической классификации, а на обложке книги красовались две замысловатые спирали, способные обмануть человеческий глаз (на первый взгляд, они казались одинаковыми, но одна была непрерывной, а вторая состояла из двух элементов). Если использовать термины логики, центральный тезис заключался в том, что перцептрон, состоящий только из двух входных нейронов, может «выучить» логические функции И, ИЛИ и НЕ, но не более сложную функцию XOR (исключающее ИЛИ)[530].

Впервые векторное пространство искусственной нейронной сети «взломали», раскрыв его уязвимость. Выводы Минского и Пейперта оказались верны не только для простейшего класса перцептронов (один слой нейронов). Эти результаты признали справедливыми для всех конфигураций искусственных нейронных сетей. По всей исследовательской области был нанесен разрушительный удар. Началась первая «зима ИИ» (по сути, «зима Массачусетского технологического института», распространившаяся на другие исследовательские сообщества). Минский и Пейперт заняли довольно надменную и непримиримую позицию. Они явно хотели вернуть военное финансирование в МТИ (не самое бедное учреждение) и продемонстрировать, что искусственные нейронные сети – ненастоящий «искусственный интеллект», а истинный путь к нему лежит через другие техники. Но еще в «Принципах нейродинамики», монографии 1961 года, Розенблатт предложил различные конфигурации «многослойных перцептронов», которые позволяли преодолевать ограничения. Теорему сходимости было невозможно доказать, а эффективный алгоритм обучения (например, градиентный спуск) еще оставался неизвестным. Впрочем, уже в 1971‑м, всего через два года после публикации «Перcептронов», было доказано (как отмечает ученый-компьютерщик Ричард Форсайт), что «простой перцептрон Mark I, дополненный расширительным регистратором, можно научить решать задачу “исключающего ИЛИ”». Однако «это не изменило широко распространенное среди ученых-компьютерщиков мнение, что нейровычисления – это “пробовали, не сработало”»[531].

Минский и Пейперт (как и Розенблатт) заметили, что искусственные нейронные сети плохо различают фигуру и фон: при вычислении поля зрения каждая точка имеет одинаковый приоритет, а человеческое зрение работает совершенно иначе. Дело в том, что у искусственных нейронных сетей нет «концепции» фигуры и фона, но есть статистическое распределение корреляций (отношение фигура-фон подразумевает модель причинно-следственной связи). Проблема не исчезла с появлением глубокого обучения: обнаружено, что большие сверточные нейронные сети, такие как AlexNet, GoogleNet и ResNet-50, по-прежнему предпочитают текстуру форме. Вероятно, они различают, например, образы слона и кошки не по форме, а по текстуре кожи и меха соответственно. Смещение в сторону текстуры объясняется тем, что даже сверточные нейронные сети, разработанные специально для детекции краев, особенностей и деталей, по-прежнему вычисляют статистическое распределение всех данных, а не только их «значащих» частей (как, согласно гештальт-школе, делает человеческий разум). Очевидно, эта закономерность еще ярче проявлялась в случае с простым перцептроном Розенблатта, но проблема разрешения при обработке общедоступных знаний, судя по всему, сохраняется в больших фундаментальных моделях, таких как современная GPT[532].

Можно утверждать, что Минский и Пейперт придумали первый состязательный метод для взлома «интеллектуальной машины» и разработали первые «состязательные патчи», как их называют сегодня, – специальные картинки, которые обманывают глубокие нейронные сети для распознавания изображений[533]. Взлом оказался довольно успешным, поскольку он сорвал военное финансирование и заморозил военные исследования нейронных сетей до конца 1980‑х годов. Но помимо вопросов, поставленных на карту в полемике, Минский и Пейперт внесли вклад в критику парадигмы знаний, воплощенной в искусственных нейронных сетях, и вскрыли ограничения многомерного моделирования.

Тем не менее, в сообществе исследователей ИИ, в том числе среди критиков, существует тенденция занимать сторону в споре о «перцептронах», используя воззрения и философские традиции, которые в качестве альтернативы оправдывают либо символический, либо коннекционистский ИИ как более рациональную и прогрессивную парадигму или как ту, что более способна к каузальному мышлению. Лагеря объединяет общая инструменталистская повестка вооруженных сил и их генеалогии власти. Я предлагаю иной подход, а именно изучение и оценку генеалогий ИИ с (экстерналистской) точки зрения автоматизации труда, а не сведение их к (интерналистской) проблеме вычислительной логики, выполнения задач и человеческого подобия. Ни дедуктивные алгоритмы, ни статистические техники не способны имитировать человеческий интеллект, поскольку в нем нет внутренней логики, которую исследователи могли бы обнаружить. Человеческое познание и машинные задачи можно изучать и сравнивать, потому что интеллект, будь то «естественный» или «искусственный», экстравертен, контекстуален и ситуативен по своему устройству. Можно считать, что машины «думают», поскольку они имитируют театр человеческого[534].

При всем противоречивом наследии усвоение статистических инструментов в машинном обучении служит доказательством от противного. Это доказательство демонстрирует, что верховный алгоритм «искусственного общего интеллекта», который остается для огромного сообщества инженеров и ученых-компьютерщиков мечтой о технологической сингулярности и альфа-машине, представляет собой статистическую иллюзию, проецируемую данными. Иными словами, верховный алгоритм существует не как алгоритм, а только как расширенная социальная форма.