Центральная идея книги «Рождение разума» состоит в том, что человеческий разум возникает из взаимодействия нейронов. Мы моделировали эти взаимодействия с помощью нейронных сетей, где потенциалы действия нейронов представлены активацией элементов, а синаптическая эффективность – силой связей между ними. Чтобы смоделировать распространение активации в нейронных сетях, мы и другие исследователи часто используем компьютерные программы, имитирующие нейронные процессы. Их называют искусственными нейронными сетями (ИНС). Слово «искусственные» отличает их от мозга животных, который можно считать биологической нейронной сетью.
До сих пор мы использовали ИНС главным образом для понимания человеческих когнитивных процессов. В главе 7 мы обнаружили, что два свойства наших сетей – обучение с коррекцией ошибок и опора на различные паттерны активации, которые мы назвали распределенными представлениями, – оказались ключевыми для понимания того, как люди приобретают (и могут утрачивать) знания о мире. Поразительно, но, как мы увидим в этой главе, именно эти свойства легли в основу феноменального взлета больших языковых моделей (LLM), таких как ChatGPT. По состоянию на конец 2024 г. LLM повсеместно и эффективно используются отдельными людьми и корпорациями. Они демонстрируют способности, которые порой напоминают человеческое мышление, а порой и превосходят его. Эти способности заставляют задуматься о том, чтó составляет основу мышления, и о том, смогут ли машины развиваться дальше в направлении человекоподобного интеллекта. В этой главе мы исследуем эти вопросы и заглянем внутрь таких систем, чтобы понять механизмы, благодаря которым они столь успешны.
Наша история началась несколько десятилетий назад, когда сама идея мыслящей машины казалась многим абсурдной.