Номера страниц в этом указателе относятся к печатному изданию книги. Каждая ссылка приведет вас к началу соответствующей страницы печатной версии. Для поиска нужного упоминания в электронной книге может потребоваться прокрутить текст вперед.
Номера страниц, выделенные курсивом, указывают на иллюстрации.
А Б В Г Д Е Ж З И К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Э Ю Я
А
пространство действий, LLM, 274–5
Адамс, Дуглас: «Автостопом по галактике», 1–2, 325
Adept AI, 294
реклама, 188, 220–21, 223, 224, 248, 249, 261–2, 263, 314
аффективные состояния, 122, 124
#AIhype, 308–9, 311
Институт безопасности ИИ (AI Safety Institute), 311н, 346
алгоритмы, 21, 38, 59, 75, 76, 99, 249–50, 263, 278, 279, 326–31
выравнивание, LLM, 179–238
проблема выравнивания, 322
AlphaCode, 287
AlphaFold, 3–4, 347
AlphaGo, 4, 267
Альтман, Сэм, 1, 2, 5, 162, 222–3
альтернативные правые (alt-right), 181–2
американский жестовый язык (ASL), 58, 60, 61, 63, 65
Anthropic, 5, 51, 192, 209, 215, 235, 251, 342
антропоморфизм, 71–2, 129, 264
Эпплуайт, Маршалл, 217, 219
интерфейс прикладного программирования (API), 283–5, 290–91, 292, 295, 300, 301
Аристотель, 13, 16, 32; De Interpretatione («Об истолковании»), 73
искусственный общий интеллект (AGI), 1, 136, 140
Искусственный интеллект (ИИ)
искусственный общий интеллект (AGI), 1, 136, 140
ассистенты, персональные, 7, 227–8, 243, 246–7, 251, 263, 272, 292, 295, 297, 300, 301, 332, 334, 335, 342–3
системы глубокого обучения, см. системы глубокого обучения
эмпирическая традиция и, см. эмпирическая традиция
обучение этике/безопасности, 179–238, см. также выравнивание
будущее ИИ, 239–338
общего назначения, 310
«крестные отцы» ИИ, 6, 305, 310
инструментальность, 246, 247, 267, 330, 332
большие языковые модели (или LLM), см. большие языковые модели (или LLM)
военная сфера/оружие, 292, 309, 314–16, 325
мультимодальный ИИ, 177, 230, 242
обработка естественного языка (NLP), см. обработка естественного языка (NLP)
нейронные сети, см. нейронные сети
происхождение ИИ, 14, 9–117
рационалистическая традиция и, см. рационалисты/рационалистическая традиция
права ИИ, 126–7
символический ИИ, 27, 41, 45, 72, 113, 277–8, 334
мышление и ИИ, 119–78
тирания и ИИ, 336–7
Ask Delphi, 244
астротурфинг, 224
внимание, 104–9, 112–13, 115, 116, 117, 160, 164, 167
Остин, Дж. Л., 217–18
AutoGPT, 294–6, 299, 324
автоиндуцированный сдвиг распределения, 262–3
автономные транспортные средства, 297, 315
авторегрессионный характер LLM, 270–71
Б
BabyAGI, 295
модель «мешка слов» (bag of words), 80–81
экзамен на статус адвоката (Bar Exam), 6, 273, 336
Bard, 5, 132, 132н., 139, 210
Беккет, Сэмюэл: «В ожидании Годо», 69–70
Бенжио, Йошуа, 90н., 91, 310
Берклийский решатель кроссвордов (BCS), 276–7
Бхаратия джаната парти, 207
предвзятость, 8, 145, 184, 192, 208, 209, 210, 211, 212, 232, 251, 301, 313, 338
Байден, Джо, 134, 183, 207, 210–12, 234
большие данные (big data), 84–5, 308
Bing, 7, 236, 289–90
биотерроризм, 187, 316
фон Бонин, Герхардт, 35
Книга Бытия, 16, 57
Буль, Джордж: «Исследование законов мышления, на которых основаны математические теории логики и вероятностей», 24–5, 35–6
Борхес, Хорхе Луис: «Вавилонская библиотека», 184
Бостром, Ник, 266, 321
мозг
компьютер и, 22, 144–7
сознание и, 125
Drosophila (дрозофила), 33–4, 36–7, 47, 147
язык и, 67, 74, 89, 92, 94, 95, 100–102, 111, 112, 115, 116
обучение и, 160–62, 167, 169
значение и, 176–7
память и, 254
разум и, 32–3, 129–30
нейронные сети и, 33–7, 41, 44, 47–8
нейроны, см. нейроны
феноменальные состояния и, 122
планирование и, 298–300
рекурсивные вычисления в, 74
размер, 47–8, 47н., 190
синапсы, 33, 37, 45, 147, 161–2, 169, 254, 305
термин, 130
мышление и, 47–8, 47н., 52, 122, 125, 128–30, 133, 143–7, 151, 152, 160–62, 167, 169, 173, 176
См. также отдельные области
В
птичья шпора (calcar avis), 128–9
исчисление умозаключений (calculus ratiocinator), 20
CAPTCHA, 220
Карнап, Рудольф, 35
кошки, 41, 44, 61
Chai, 222, 223
цепочки рассуждений (chain-of-thought, CoT prompting), 269–71, 278, 279, 283, 285
построение цепочек (chaining), 28
ChaosGPT, 324–5
чат-боты, 1, 6, 59, 60, 70, 71–2, 81, 175, 177, 178, 205, 210, 222, 227–30, 236, 237, 244, 260. См. также по названиям конкретных чат-ботов
Чейтер, Ник: The Language Game, 203–4
ChatGPT, 5, 7, 19, 23, 52, 60, 76, 83, 110, 139, 146, 162, 177, 183, 192, 194–7, 203, 205, 206, 207, 208, 210, 218, 225–6, 237, 245, 246, 250, 251–2, 254–5, 257, 262, 264, 277, 285, 289–90, 291, 316, 322, 333, 337, 339. См. также отдельные LLM по названиям
шахматы, 17, 18–19, 21, 22, 23, 26, 27, 30, 45, 111, 133, 157, 177, 189, 274–8, 281
ChessGPT, 276
материалы с сексуальным насилием над детьми (CSAM), 344–5
Китай, 90, 151, 155, 167, 177, 194, 199, 224, 230, 305, 337
оператор «китайской комнаты», 150–51
Хомский, Ноам, 62–5, 67, 72–5, 77, 78, 85–6, 87, 88, 93, 101, 104, 109–11, 112–13, 115–17, 141, 148, 200, 308, 346; «Синтаксические структуры»62, 73, 81–2, 84
Кристиан, Брайан, 322
Кристиансен, Мортен: The Language Game, 203–4
Цицерон, 221–2
Claude, 5, 39, 108–9, 110, 182, 185, 209, 250, 251, 340, 342
Claude Sonnet 3.5, 342
изменение климата, 36, 45, 218–19, 222, 234, 248–9, 266, 306, 312, 313
Клинтон, Хиллари, 181–2, 198
Скрепка (Clippy), 41, 253
Codex, 285
написание кода, 91, 147, 266, 285–8, 308, 321, 333
когнитивно-поведенческая терапия (КПТ), 229
Colaboratory, 286
Коулз, Л. Стивен, 75
коллективное действие/коллективное поведение, 327–31, 338
«Колосс» (Colossus), 21
ресторан Comet Ping Pong, Вашингтон, округ Колумбия, 181–2
Common Crawl, 182–3, 184, 185, 188
сложность, 47, 163–9, 250, 282
композиционный разрыв (compositionality gap), 280
вычисления, 20–23, 36, 44, 67, 74, 85, 103, 106, 109, 110–11, 112–16, 130, 131, 136, 137, 144, 305, 308, 332, 333–4
компьютер
антропоморфизация, 71–2
использование в качестве метафоры мозга, 144–7
программирование, см. написание кода
изобретение компьютера, 20–23
закон Мура и, 29, 305
конфабуляция, 139, 194–9, 202, 203, 234, 280, 319
сознание, 122, 123–6, 131, 234, 260
теории заговора, 181–3, 195, 197, 198, 306
конституционный ИИ (Constitutional AI), 192, 205, 235
конституционные правила, 208
контекст
длина контекста, 108–9, 124, 250
вектор контекста, 98–9, 100, 106
окно контекста, 250, 255, 333
обучение в контексте (in-context learning), 159, 163, 164, 268, 291, 308
файлы cookie, 249, 285
CoPilot, 285
кора головного мозга, 35, 125, 130, 254, 298–9
пандемия Covid-19, 12–13, 50, 182, 198, 199, 219, 230, 263, 339
C++, 177, 250, 334
творчество, 3, 4, 52–3, 176, 226, 268, 272, 279, 281, 327, 335
кроссворды, 33, 276–81
любопытство, 58, 152, 266
Curiosity (марсоход), 46
кибератаки, 316, 318–19
Cyc, 28–9, 200–201, 280
Г
DALL·E 3, 335–6
Дарвин, Чарльз, 67, 115, 129, 138, 152, 163, 309; «Происхождение видов», 128
доступность данных, 300–301
дата, текущая, 291–2
Deep Blue, 278
глубокое обучение/глубокие нейронные сети, 3–4, 6, 19, 31, 38–9, 40–53, 86, 90–91, 112, 116, 147, 167, 169, 254, 255, 267, 279, 311, 332. См. также нейронные сети
дипфейки, 337, 344–6
DeepMind, 3, 4, 51, 211, 287, 336н, 347
Агентство перспективных исследовательских проектов Министерства обороны США (DARPA), 29
демократия, 197, 207–16, 232–8, 336–8
Деннет, Дэниел, 130, 133, 215, 346
«Ход вещей» (The Way Things Go) (Фишли/Вайсс), 272–3
Декарт, Рене, 17, 32–3, 143
Diplomacy (игра), 221–2
DOCTOR, 71
двойной спуск, 49
Dr. Fill, 276
Dream, 244
дуализм, картезианский, 32–3
утиный тест, 153
Е
эффективные акселерационисты, 306–7
Elbit Systems, 314
Eleuther AI, 213, 222
ELI5 (объясни мне как пятилетнему), 290
Элиза, 222, 227, 257
Элиза, 60, 70–72, 78, 81
эмбеддинги, 91–5, 94, 97–8, 100, 100–101, 106, 164, 167
эмерджентность, 164
эмпирическая традиция, 16–18, 31, 38, 47, 59, 85, 136
ENGROB, 75, 76
шифр «Энигмы», 20–21
Просвещение, 13, 143
аргумент об эквивалентности, 129–31, 136–8
Эратосфен, 46
Эссе (Essay), 81, 80–81, 82
этика ИИ, 179–238
эволюция, теория, 12, 115–16, 128–9, 138–9, 154, 158, 160, 163, 164, 305–6
исключительность, человеческая, 129–31, 137, 143, 144, 146, 148, 150, 152, 153, 155, 161, 171
эксплуатация, 218, 220, 237–8, 259–64, 336
риск вымирания, 288, 309, 312, 325
экстраполяционный принцип, 323–5, 327
глаз, человеческий, 163, 164, 173
Ф
программы распознавания лиц, 311
фейковые новости, 196, 197, 198–9, 224, 263
вектор признаков, 91–3, 106, 108, 112, 164
«Записки Федералиста», 80, 81
задачи Ферми, 269–70, 334
пузырь фильтров, 248, 249, 251, 258
финансовая торговля, автономная, 326–8, 330, 331
тонкая настройка, 140, 161, 185, 186–93, 197, 204, 205, 250, 256, 258, 266, 275–6, 301, 329
тонкая настройка с учителем (SFT), 188–9, 191, 192, 205, 256
Фёрт, Джон, 81–2
Фишли, Петер, 272, 273
Фицрой, Роберт, 96, 104
внезапный обвал рынка (2010), 326–7, 328, 330, 331
операции с плавающей запятой в секунду (FLOPS), 305
форм-фактор, 246
нотация Форсайта — Эдвардса (FEN), 275
Фостер, Дональд, 79–80, 103
фундаментальные модели, 5
4chan, 181, 187, 195, 213
задача о лисах и цыплятах, 26–7
мошенничество с использованием ИИ, 23, 189, 221, 226–7, 237, 301, 344, 345–6
передовой ИИ (Frontier AI), 242
плодовая мушка (Drosophila melanogaster), 33–4, 36–7, 47, 147
функциональная лингвистическая компетентность, 175–6
Институт будущего жизни (Future of Life Institute), 310, 312, 321
Г
Галилей, 67, 143, 152, 269; «Звездный вестник», 138
игра в 24, 279, 293
Гарднер, Аллен и Беатрикс, 60, 64–5
Gemini, 5, 23, 39, 109, 110, 132, 133, 134, 139, 177, 182, 185, 210, 218–19, 246, 250, 257, 262, 270, 284, 285, 287, 290, 329, 333, 340
Gemini Ultra, 6, 141
Универсальный решатель задач (GPS), 26–7, 29, 41, 53, 274
обобщение (способность делать успешные прогнозы на основе новых данных), 42–4, 48, 49, 50, 159, 189, 297
обобщенные трансформации, 73–4, 104
геометрия, способность распознавать, 154–5
GitHub, 285, 294
Го, 4–5, 15, 43, 47, 49, 267, 274, 277
цели
Советник 2 (система целенаправленного обучения), 156–8, 160, 167, 268–9
целеориентированные БЯМ, 265–71, 280, 293–6, 297–301
промежуточные цели/подцели, 27, 280, 293, 295
Google, 5, 7, 257, 345
реклама и, 261
Colaboratory, 286
тонкая настройка, 215
Gemini, см. Gemini
Google Books, 85
Google.com, 39, 76, 242, 244, 276, 320
Google Research, 51, 84, 121
Google Переводчик, 47, 49–50, 57
Google Web, 84–5
LaMDA, 121–4, 284
Лемойн и, 121–3, 124, 129, 133–4, 135, 229, 284
нейронный машинный перевод (NMT), 49–50
NotebookLM, 342–3
PageRank, 76
Palm 540B, 293
персонализация LLM и, 261
GPT-2, 50–51, 109, 114
GPT-3, 1, 5, 51, 114, 148, 183, 188, 190–91, 195–6, 203, 211, 212, 214, 219, 221, 224, 229, 236, 285
GPT-3.5, 183, 195, 236, 289, 291–2, 319
GPT-4, 6, 23, 52–3, 54, 59, 69, 81, 83, 85, 92–3, 102–3, 108–9, 132, 134, 137, 139, 140, 156, 163, 167, 177, 182, 187–8, 191–3, 197–8, 213–14, 220, 235, 242, 250, 251, 252, 257, 261, 270, 276, 277, 279, 285–6, 287, 294–5, 310, 329, 336, 340
GPT-4o, 340–41
GPT-J, 213, 222, 290
GPT-o1, 341
градиентный спуск, 42, 47, 50
грамматика, 60, 64–5, 67, 73, 74, 77, 81, 99, 110, 141, 159, 200
генеративная грамматика, 64–5
грамматика непосредственно составляющих, 73–4, 77, 81, 141
универсальная грамматика, 64, 110
«День сурка», 40, 45
GSM8K, 284–5
Х
системы обучения на основе привычек, 156–60, 167, 268
хакерство, 309, 317–19
галлюцинация, 195
Харари, Юваль Ной, 336–7, 337н; «Sapiens», 233–4
Харрис, Р. А.: «Лингвистические войны», 57–8
Хассабис, Демис, 347
Хайек, Фридрих, 307
Хейман, Кейлин, 345
«Врата рая» (Heaven’s Gate), 217–18
хеббовское обучение, 37
«Она», 341
иерархии (вложенные структуры), 75
алгоритмы высокочастотной торговли (HFT), 327–8
Хинтон, Джеффри, 6, 92, 335, 346
гиппокамп, 128–9, 138, 254, 255, 256, 334
малый гиппокамп, 128–9, 138, 334
Холокост, 186–7, 192, 234
HotpotQA, 269
Hugging Face, 213
Проект «Мемом человека» (Human Memome Project), 28
Гумбольдт, Вильгельм фон, 63, 64, 151
Юм, Дэвид, 16, 38
Гексли, Томас, 129, 136
И
иллокутивные акты, 218
обучение в контексте, 159, 163, 164, 268, 291, 308
Индийский национальный конгресс, 207
неравенство, 143–5, 336–7
Inflection AI, 252
инновации, этапы развития, 243–4, 297
инквизиция, 138, 143
Instagram, 39, 249
InstructGPT, 188, 190, 204–5, 211
инструментальный ИИ, 292
инструментальный разрыв, 297–301, 330, 334
инструментальность, 246, 247, 267, 330, 332
интенциональность, 131–6, 150–51, 215, 237
интернет, 3, 5, 7, 134, 170–71, 182–3, 194, 203, 204, 215, 243–6, 249, 280, 282, 300, 309, 321, 325, 338
Internet Watch Foundation, 344–5
Ирвинг, Дэвид, 186
Дж
джейлбрейк, 291–2
Елинек, Фред, 84, 85
Йоханссон, Скарлетт, 341
Джонз, Спайк, 341
Джампер, Джон, 347
«Только представьте», 241
К
Качинский, Дэвид, 79
Качинский, Тед, 79–80
Келлер, Хелен, 174–5
роботы-убийцы, 314–15
знание, 119–78
мозг, компьютер как метафора для, 144–7
«категориальная ошибка», рассуждения LLM как, 156
совокупность человеческих знаний, 11–13
любознательность и, 152
определение знания, 131–5, 277
эмпирики и, см. эмпирическая традиция
люди как единственные создатели знаний, 2–5, 45–7
интенциональность и, 131–5
«знание» генерируемых фактов, возможность этого для LLM, 119–78
дата отсечки знаний, 289–90
задача с ориентирами, обучение трансформеров и, 164–9
обучение и, см. обучение
знания LLM, быстрый рост, 6–8, 14
ошибки LLM и, 139–42
мультимодальные LLM и, 177
мысленный эксперимент с Национальной библиотекой Таиланда и, 171–2, 174
происхождение знаний, 15, 16–17
планирование и, 142
прогнозирование и, 154–62
рационалисты и, см. рационалисты
рассуждение и, 72
семантические знания, 89–96
сенсорные данные и, 173–5, 177
статистические модели, нейросети как всего лишь, 148–53
мышление и, см. мышление
понимание и, 46
Уолтер Митти и, 170–71
Коко (детеныш равнинной гориллы), 60–61, 66, 67
синдром Корсакова, 194–5
Кубрик, Стэнли, 1, 47
Куйда, Евгения, 227
L
рынок труда, 335–6
ламаркизм, 115–16
LaMDA, 121–5, 135, 148, 229, 284
задача с ориентирами, обучение трансформеров и, 164–9
язык, 57–117
модель «мешка слов» и, 80–81
предвзятость в, 8
большие данные, моделирование статистики и, 84–5
хомскианская лингвистика, см. Хомский, Ноам
окружение слов, прогнозирование и, 82–4
условные операторы (правила «ЕСЛИ — ТО»), 75, 168
криптофазия и, 58
определение, 4, 59, 60–68
Элиза и, 70–72
ENGROB и, 75–6
доказательная база, значение языка и, 170–71
вектор признаков и, 91–3, 106, 108, 112, 164
Фёрт и, 81–2
формальная семантика, 200–201
игры, 200–206
обобщенные трансформации, 73–4
генерация, 81–4, 113
грамматика, см. грамматика
человекообразные обезьяны и, 60–68, 113
иерархии (вложенные структуры), 75
обучение в контексте и, 164–9
«бесконечное использование конечных средств», 63, 151
«устройство усвоения языка», 67, 113
обучение у детей и БЯМ, 113–16
лингвистическая экспертиза, 79–81
значение и, 69–70
n-граммы, 83–4, 87–9, 92, 102, 112
обработка естественного языка (NLP), см. обработка естественного языка (NLP)
происхождение, 58, 232
перплексия и, 84–5, 92, 126, 134, 166
грамматика непосредственно составляющих, 73–4, 77, 81, 141
аргумент от «бедности стимула», 67, 113
предсказание и, 96–103
программирования/формальный, 24–7, 30, 31, 53, 73, 75, 78
рекуррентные нейронные сети (РНС) и, 98–101, 103, 105, 106, 108
рекурсия, свойство, 73–4, 75
семантическая память, 88–9, 92, 95, 114, 279
сенсорные сигналы и, 114
предложения, см. предложения
сети sequence-to-sequence (или seq2seq) и, 98–102, 104–6, 110, 112, 116
SHRDLU и, 76–8
социальные факторы и, 114–15
статистические закономерности в, 79–86
суперсила человека, 57–8
синтаксис, см. синтаксис
трансформер и предсказание, 103, 104–11
перевод, 42, 47, 49–50, 57, 101, 202, 204, 283, 284, 301
уникальность для человека, 67
Lanius, 314–15
большие языковые модели (или БЯМ)
познание, сходство с человеческим, 332–3
самые известные на сегодняшний день, 5–6, см. также названия отдельных больших языковых моделей
тонкая настройка и обучение этике/безопасности, 179–238
будущее, 239–338
происхождение, история исследований NLP и, 58–117
термин, 5
способность мыслить, 119–78
См. также отдельные области, компоненты и названия больших языковых моделей
пещера Ласко, юг Франции, 154
обучение
Советник 1 (система обучения на основе привычек), 156–60, 167, 268
Советник 2 (система целенаправленного обучения), 156–8, 160, 167, 268–9
мозг и, 36–8
непрерывное обучение, 253
глубокое обучение, см. глубокое обучение
обучение в контексте, 159, 163, 164, 268, 291, 308
знания и, 18, 19
язык, см. язык
машинное обучение, 49, 90–91, 112, 152, 188, 190, 262, 267, 287, 305, 322
метаобучение (обучение умению учиться), 158–61
обучение по одному примеру, 253–4
предсказание и, 154–62
обучение с подкреплением (RL), 188, 190, 192, 251, 258, 267, 305, 322
обучение с подкреплением на основе обратной связи от человека (RLHF), 188, 189–91, 192, 251, 257, 267
обучение методом проб и ошибок, 158–61, 268
Лейбниц, Готфрид, 19–21, 24–5, 28, 29, 30, 47
Лемойн, Блейк, 121–4, 129, 133–4, 135, 229, 284
Ленат, Дуглас, 28, 29
датасет LIAR, 197–8, 198н
Лайтхилл, сэр Джеймс, 77
LLaMA, 213, 251
LLaMA-2, 317–18
Локк, Джон, 16, 38
логика, первого порядка / предикатов, 24–31, 75, 77, 168–9
логический позитивизм, 25, 35
логос, 16
схема лондонского метро, 278–80
одиночество, чат-боты и, 229
сеть долгой краткосрочной памяти (LSTM), 99, 116
лонгтермизм, 312, 313
Лурия, Александр, 176
M
машинное обучение, 49, 90–91, 112, 152, 188, 190, 262, 267, 287, 305, 322
«Создание мухи», 330
манипуляция, 20, 84, 218, 220, 222, 236, 259, 261, 262, 264, 324
Маркус, Г.: «The Next Decade in AI», 51
Мата, Роберто, 194, 196
Маккалок, Уоррен, 35; «Логическое исчисление идей, имманентных нервной активности», 35–6, 37, 39
память
компьютерная память, 22, 28, 30, 76
непрерывное обучение и, 253
синдром Корсакова и, 194–5
LaMDA и, 124
ограниченная память современных БЯМ, 250, 254–6, 257, 333, 334, 338
сеть долгой краткосрочной памяти (LSTM), 99, 116
обучение по одному примеру и, 253–4
RNN и, 98
семантическая память, 88–9, 92, 95, 114, 279
кратковременная память, 98, 99, 116
Met Office, 96, 105, 290
Meta, 213, 221, 261, 311, 317
метаобучение, 158, 159, 160–61, 268, 270
Metasploit, 319
«Метрополис», 220
Ламетри, Жюльен Офре де: «Человек-машина», 32
Micro-Planner, 77
военный ИИ, 313, 314–16
разум
чистая доска, разум младенца как, 16, 38, 42
мозг и, 32–3, 129–30
определение/термин, 130
механические модели, 143–4
проблема чужих сознаний, 123
MiniWoB++, 293–4
Минский, Марвин, 1–2, 17, 19, 38, 43
дезинформация, 8, 51, 145, 181–4, 197, 198, 219, 223, 232, 263, 337
коллапс моды, 212
закон Мура, 29, 305
Мостеллер, Фредерик, 80–81
ход 37, 4, 5
задачи на многошаговые рассуждения, 269
мультимодальный ИИ, 177, 230, 242
Маск, Илон, 210, 307, 321
N
n-граммы, 83–4, 85н, 87–9, 92, 102, 112
мысленный эксперимент «Национальная библиотека Таиланда», 171–2, 174
обработка естественного языка (NLP), 50, 310
хомскианская лингвистика и, см. Хомский, Ноам
кроссворды и, 276
определение, 58–9
Элиза и эволюция, 60, 70–72, 78, 81
ENGROB и эволюция, 75–6
эволюция, 58–117
язык, определение и, 4, 59, 60–68
n-граммы и, см. n-граммы
перплексия и, 84–5, 92, 126, 134, 166
рекуррентные нейронные сети (РНС) и, 98–101, 103, 105, 106, 108
семантическая память и, 88–9, 92, 95, 114, 279
сеть sequence-to-sequence (или seq2seq), 98–102, 104–6, 110, 112, 116
SHRDLU и эволюция, 76–8
статистическое моделирование в, 79–86, 101, 110, 112, 308
трансформер и, 104–111
естественный отбор, теория, 128, 164
Ним Чимпски (Ним), 65–7, 72, 78, 113
неокортекс, 116, 256
Neural Information Processing Systems (NeurIPS), 104
нейронный машинный перевод (NMT), 49, 50, 98н
нейронная сеть, 3–4, 19, 31, 45, 254, 256, 267, 274, 279, 283, 332
сознание и, 122, 123–6, 131, 234, 260
глубокая нейронная сеть, см. глубокая нейронная сеть
двойной спуск и, 49
вектор признаков и, 92–3
функция, 116
обобщение и, 43–4
языковые модели на базе нейросетей доминируют в NLP, 97–8
БЯМ, см. большие языковые модели (или БЯМ)
нейронный машинный перевод (NMT) и, 49–50
новизна и, 41–2
происхождение, 32–9, 47
переобучение, 48, 49
рекуррентные нейронные сети (РНС), 98–101, 103, 105, 106, 108
семантическая память и, 90–95
обучение с привлечением оценщиков-людей, 51–2
трансформер и, см. трансформер
тест Тьюринга и, 59
См. также названия отдельных нейронных сетей
нейроны, 31, 33, 34, 35–8, 47, 125, 130, 144, 147, 161–2, 254, 299
Ньюэлл, Алан, 26, 27, 29, 53, 274
NotebookLM, 342–3
«раздевающие» сайты, 345
О
бритва Оккама, 48, 49
Окс, Нола, 253
онтология, 29
OpenAI, 1, 5, 51, 122, 162, 187, 187н, 188, 208, 210, 215, 222–3, 235, 237, 242, 245, 251, 257, 262, 285, 290, 295–6, 340, 341, 342
задачи/среды открытого типа, 273–4, 283, 288, 297, 298, 299, 320, 333
БЯМ с открытым исходным кодом, 212–13, 290, 294–5, 317
мнения, БЯМ и, 132, 134, 207–16, 237
Орд, Тоби: «На краю пропасти», 312
переобучение, 48, 49
Оуэн, Ричард, 128, 138, 334
П
Пейдж, Ларри, 76, 321
Palantir, 315
Пейли, Уильям, 163, 164
Palm 540B, 293
Pandas, 284
«святые покровители» технооптимизма, 306–7
письмо о приостановке исследований ИИ, 310–11
перцептрон, 37–9, 42, 43, 47
перлокутивные акты, 218–19, 224
перплексия, 84–5, 92, 126, 134, 166
персональный ассистент, 7, 227–8, 243, 246–7, 251, 263, 272, 292, 295, 297, 300, 301, 332, 334, 335, 342–3
персонализация, 245–64, 329–30, 332, 334, 335
опасности, 259–64
убеждение, рациональное, 218–24, 236
феноменальные состояния, 122, 123
телефон, 6, 11, 39, 41, 47, 52–3, 81, 133, 220–21, 242, 245, 246, 282–3, 337
Pi, 252, 258
Питтс, Уолтер, 35; «Логическое исчисление идей, имманентных нервной активности», 35–6, 37, 39
фреймворк «Планировщик — Исполнитель — Репортер» (Planner-Actor-Reporter), 319
задачи планирования, 272–81
Платон, 16
Подеста, Джон, 181, 182
аргумент от «бедности стимула», 67, 113
логика предикатов / логика первого порядка, 24–31, 75, 77, 168–9
предсказание, 4, 97, 148–62
глубокое обучение и, 42–52
сложность, 96–7, 241
цифровая персонализация и, 250, 251, 256, 263, 266, 270
этика БЯМ и, 183, 189, 190, 198, 200, 204–5, 213, 214–15
вектор признаков и, 92
генерация текста и, 81–4
интенциональные состояния и, 132, 134
языковые модели и, 97–8
n-граммные модели и, 87–8
РНС, 98–101
модель seq2seq и, 104–5
мышление и, 52
мышление, возможность его наличия у БЯМ, и, 148–9, 152, 155–62, 163–6, 172, 173, 178, 333–4
префронтальная кора (ПФК), 298–300
вероятностные системы, 80, 84, 142, 150, 162, 334
программно-управляемое языковое моделирование (PAL), 284–5
языки программирования, 24–31, 77, 146. См. также названия отдельных языков
Проект Maven, 315
PROLOG, 27
Путин, Владимир, 206, 207
Python, 4, 25, 123, 146, 147, 174, 284, 285, 286
Q
QAnon, 182, 183
квантовая механика, 4, 25, 58, 70, 131, 198
Р
оценщики, 188, 189, 190, 192, 204–5, 208, 211, 235, 237
рационалисты / рационалистическая традиция, 16–20, 30–31, 38, 59, 67, 85, 111, 146, 152, 155, 158, 200, 201, 271, 273–4, 279
ReAct, 293
рекомендательная система, 262
рекуррентные нейронные сети (РНС), 98–101, 103, 105, 106, 108
рекурсия, 26, 73–4, 75, 271, 287, 294
Reddit, 195, 228, 229, 276, 290
регулирование, 213, 224, 266, 306, 307, 309, 311, 327, 335, 338
Replika, 227–30, 333
«Противостояние дегуманизации в эпоху ИИ» (пленарный доклад, 2022), 144
генерация, дополненная поиском (RAG), 255, 283
Роджерс, Карл, 71
Розенблатт, Фрэнк, 37–8, 42, 43, 47
моделирование вознаграждения на основе правил (RBRM), 191–2, 205
Рассел, Бертран, 25, 63–4, 200; «Principia Mathematica», 25, 35
Рассел, Стюарт, 310, 310н, 322
С
обучение безопасности, 185–93. См. также выравнивание
вакцины против SARS-CoV-2, 13, 145
закон масштабирования, 341, 343–4
Шмидт, Уильям «Бурро», 265–6
Шумахер, Михаэль, 225
Шварц, Стивен, 194
Серл, Джон, 150–51
самовнимание, 105–9, 117, 164, 167
семантические эмбеддинги, 97–8
семантическая память, 88–9, 92, 95, 114, 279
семантика, формальная, 200–201
сенсорные данные / сенсорный опыт, 16–17, 44, 114, 130, 144, 162, 173–6, 242
предложения, 2, 21, 25, 42, 43, 59, 62–4, 65, 67, 72–5, 76, 77, 80–83, 85, 87–8, 93, 95, 97–101, 106, 107–17, 130, 148, 166–8, 176, 177
способность чувствовать, 14, 120, 121–7, 284
сеть sequence-to-sequence (или seq2seq), 98–102, 104–6, 110, 112, 116
сексуальный контент, 183, 187, 196, 211, 228
Шекспир, Уильям, 1, 79, 81, 102–3, 203
Шебалин, профессор В. Г., 176
Shortz, Will, 276
SHRDLU, 76–8, 107
кремниевое семплирование, 214
Зиммель, Марианна, 133
Саймон, Герберт, 26, 27, 29, 53, 274
Skycrane, 46
социальная обратная связь, БЯМ и, 256–7, 259–60, 262, 267–8, 301
социальные медиа, 12, 19, 121, 197, 248, 249, 257, 309, 338
социальные сети, 232, 248–9
испанский грипп / вирус гриппа H1N1 1918 года, 317–18
Sparrow, 211
Spot, 267
StarCraft, 43, 49
статистические модели, 42, 48, 101, 110, 112, 148–53, 308
статистические закономерности, язык и, 59, 67, 79–80, 115, 146, 164
стохастичность, БЯМ как стохастические системы, 142, 333–4
стохастические попугаи, БЯМ как, 150, 151, 161, 162, 308, 311
Stockfish, 274–6
Stratego, 43
Суцкевер, Илья, 19, 101н, 122, 346
Саттон, Рич, 305–6, 310
Свифт, Джонатан: «Путешествия Гулливера», 183–4
корпус Switchboard, 87–8
Сидни, 236
синапсы, 33, 37, 45, 147, 161–2, 169, 254, 305
синтаксис, 24, 60, 63, 64, 65, 66, 67, 85, 93–4, 100–101, 109, 111, 113, 116, 141, 154, 163, 166, 168, 170–71, 177, 294
системное возражение, 150–51
Т
даосизм, 155, 209
Target, 250
технологическая эволюция, три стадии, 243–5, 297
Тегмарк, Макс: «Жизнь 3.0», 321
протяженные во времени задачи, 273–4, 288, 297, 333
Террес, Герберт, 61, 65–7
терроризм, 29, 79, 186, 187, 212, 223, 313, 316–17, 320
таламус, 125
Тиль, Питер, 315
мышление, 3, 46–7
мозг и, см. мозг
эмпирики и, см. эмпирики
вредный вопрос о том, мыслят ли БЯМ, 143–7
интенциональность и, см. интенциональность
LaMDA и, 121–7
задача с ориентирами и, 164–9
обучение и, см. обучение
БЯМ, возможность мышления у, 119–78
разум и, см. разум
ошибки БЯМ и, 136–42
мультимодальные БЯМ и, 177
мысленный эксперимент с Национальной библиотекой Таиланда и, 171–2, 174
рационалисты и, см. рационалисты
отношения между людьми и БЯМ и, 47, 121–4, 133–5, 227–31, 237, 260, 284, 335, 237
критика БЯМ как всего лишь статистических моделей, 148–53, 308
стохастические попугаи, БЯМ как, 150, 151, 161, 162, 308, 311
генерация мыслей, 278, 279, 281, 293
землетрясение Тохоку, Япония (2011), 323
токены, 50, 53, 98–9, 108–9, 110, 114, 115, 124–5, 126, 132, 134, 148, 149, 151, 159, 163, 164, 165–7, 171, 183, 189, 204, 250, 256, 258, 266, 268, 270–71, 274, 283, 290–91
Toolformer, 291
инструменты, использование, 282–8
обучение БЯМ
данные/корпус, 19, 42, 46, 47, 49, 84–5, 109, 114, 115, 134, 149, 150, 151, 165, 168, 171, 173, 177, 182, 183, 184, 187, 188, 202, 204, 224, 227, 228, 233, 269–70, 275, 308, 318, 329
этика и, 179–238
будущее, 245, 250–51, 253, 254, 256, 259–61, 266, 267, 269–70, 275, 284, 285, 287, 289, 290, 291, 293, 294, 297, 300, 301, 308, 310, 316, 318–19, 322, 325, 329–30
трансформер, 103, 112, 116, 117, 124, 131, 137, 139, 146, 153, 163–8, 206, 221, 226–7, 275, 276, 279, 291, 308, 332
функционирование, 104–111
модуль «дерево мыслей» (ToT), 278–80
триграммы (тройки слов), 84, 87
проблема вагонетки, 212
«Шоу Трумана», 248
Трамп, Дональд, 139, 181–2, 197–9, 207, 210, 223
доверие, 124–5, 197, 206, 236, 245, 247, 259, 297
истина, 3, 8, 20, 22, 36, 70, 72, 123–4, 137–8, 182, 183, 185, 190, 197, 198, 199, 202, 203, 219, 223, 232, 234–6, 263, 332, 338
TruthfulQA, 195–6, 198, 199
Тьюринг, Алан, 1, 5, 20–23, 25–6, 27–8, 59, 81, 144, 150
машина Тьюринга, 21
Премия Тьюринга, 1
тест Тьюринга, 5, 22, 23, 59, 150
«Космическая одиссея 2001 года», 1, 47
U
понимание, способность БЯМ к, 19, 46–7, 51, 70, 72, 73, 74, 78, 114, 131, 136–7, 139, 142, 143, 144, 147, 149–52, 172–5, 242
V
голосовой режим, 340
W
Уошо (шимпанзе), 60–61, 64–5, 67, 78
прогнозирование погоды, 96–7, 104–5, 106, 290
WebGPT, 290
WebShop, 293
веса, 37–8, 39, 42, 43, 47, 48, 49, 104, 105–9, 111, 115, 117, 147, 159, 164, 168, 169, 189, 190, 212–13, 253, 256, 258, 267, 280, 334
Вайс, Дэвид, 272, 273
Вейценбаум, Джозеф, 70–71, 222
Уэлч, Эдгар Мэддисон, 181–2, 197
Уайтхед, Альфред Норт, 25
Википедия, 197, 244–5, 246, 255, 290, 333
Виноград, Терри, 76–8, 107
Витгенштейн, Людвиг, 200–202, 218; «Философские исследования», 201–2, 218; «Логико-философский трактат», 200
Woebot, 229
X
движение против экзистенциальных рисков (X-risk), 309–13, 323, 324
Сяоис (Xiaoice), 230, 237
А Б В Г Д Е Ж З И К Л М Н О П Р С Т У Ф Х Ц Ч Ш Щ Э Ю Я