Некогда существовала инопланетная цивилизация – биологическая, а не механическая по своей природе, и находилась она так далеко от Земли, что ни одно послание, отправленное нами к звездам, никогда бы до тех инопланетян не добралось. Выглядели они слегка по-птичьи, думали отчасти по-человечески и придавали огромное значение точному количеству камней в своих гнездах.
(Почему? Ну, земной биолог мог бы предположить, что давным-давно одна самка проявила разборчивость в вопросе, сколько именно камней должно быть в гнездах самцов, и ее жизнь сложилась удачно. Ее многочисленные дочери унаследовали эту черту, и тогда самцы начали эволюционировать соответствующим образом. У них развился более совершенный мозг, который мог точнее считать камни, и это коррелировало с интеллектом, что само по себе было выгодно, и в итоге ни одна самка даже не взглянула бы на самца с неправильным количеством камней в гнезде.)
Для этих “инопланетян Корректного Гнезда” правильное число камней в гнезде просто ощущалось корректным на интуитивном уровне. Примерно так же люди используют слово “правильно”: как для утверждений типа 2 + 2 = 4, так и для поступков с хорошими последствиями вроде спасения ребенка из горящего здания.
Какое же число камней эти инопланетяне считали корректным? Числа 2, 3, 5, 7 и 11 воспринимались корректными, а вот 1, 4, 6, 8, 9 и 10 – некорректными.
(Земной математик мог бы выдвинуть гипотезу: “корректное” количество камней – это простое число. Иными словами, “корректную” кучу камней нельзя разложить в виде прямоугольника – только выложить в один ряд или в один столбец. Но в нашей истории, должны мы отметить, инопланетяне испытывали отвращение к размышлениям о таких священных и прекрасных вещах, как Корректные Гнезда, в терминах сухой, безэмоциональной математики. Для них это было столь же ужасно, как для нас – оценивать человеческую жизнь в долларах.)
Инопланетяне могли видеть, ощущая это интуитивно, корректно или некорректно небольшое количество камней в гнезде: с одного взгляда было понятно, что 11 – корректное число, а 12 – явно некорректное. Однако на этом они не останавливались. Видите ли, внушительнее выглядело гнездо с бóльшим корректным количеством камней, оно попросту казалось сексуальнее. Но когда речь заходила о больших числах, люди-птицы начинали спорить о корректности.
Число 37 корректно или нет? Нужно некоторое время всматриваться, прежде чем удастся понять, что оно корректное. А 60? Вопиюще некорректное число, здесь никто не обманулся бы ни на секунду. Число 91 – дьявольская ложь, способная обмануть множество невинных душ, если бы кто-нибудь построил такое гнездо, но появлялся мудрец, который выкладывал прямоугольник размером 7 на 13 камешков, и этот аргумент казался настолько убедительным, что люди-птицы больше никогда бы не посмотрели на гнездо с 91 камнем.
Неизбежно находились циничные инопланетяне Корректного Гнезда, которые задавались вопросом: “Откуда нам знать, что «прогресс» действительно существует? Тысячу лет назад древние фениксийцы утверждали, что 91 – это корректное количество камней в гнезде, а сегодня мы говорим, что оно некорректное. Почему мы считаем, что стали лучше знать и что это не просто результат конфликта группировок или меняющееся со временем мнение?”
Возможно, именно такие споры и будоражили воображение юноши-птицы и девушки-птицы, когда однажды ночью они лежали на холме, смотрели на звездное небо и вели философскую беседу.
юноша-птица: Представь себе жителей других планет, которые существуют так давно, что уже достигли абсолютного предела возможного развития технологий и цивилизации. Живут ли эти существа исключительно в гнездах из 3001 камня? Или же они настолько невообразимо мудры, что умеют строить гнезда размером со звезды, вмещающие септиллионы камней – причем соответствующие числа не просто корректны, но инопланетяне знают, что они корректны?
девушка-птица: Я бы удивилась, если бы большинство инопланетян вообще оказалось птицами с гнездами. Можно придумать множество разновидностей организмов, способных построить цивилизацию, – подумай, например, о морских существах, имеющих щупальца. Некоторые инопланетяне могут походить на птиц, но такие будут встречаться редко.
юноша-птица: Да ладно, ты же понимаешь, о чем я! Неважно, что у них вместо гнезд и камней в них.
девушка-птица: Я бы предположила, что большинству разновидностей инопланетян попросту… все равно, сколько именно камней в их жилищах. Я думаю, внимание к корректным гнездам – чрезвычайно редкий случай среди разумных существ.
юноша-птица: Хм. А почему?
девушка-птица: Ну, хотя нас самих и волнует корректность гнезд, подобная забота вовсе не кажется обязательной с точки зрения эволюционной логики. Я вполне могу представить себе очень похожих на нас птиц, которым вообще нет дела до корректных гнезд, но при этом у них выживает столько же потомства, сколько и у нас. Это было бы так же удивительно, как найти инопланетян, обладающих чувством юмора. Любовь к своим детям – это одно, но юмор кажется чем-то специфическим. Если у каких-то инопланетян и есть чувство юмора, они, вероятно, находятся так далеко от нас, что ни одно наше послание до них не дойдет.
юноша-птица: Какая странная и ужасная мысль – что большинство жителей Вселенной живут в гнездах с некорректным количеством камней! Но ведь к тому времени, когда разумные существа достигают высот цивилизации и начинают путешествовать среди звезд, им с первого взгляда должно быть ясно, что гнездо с четырьмя камнями – некорректное!
девушка-птица: Если бы инопланетяне задали себе этот вопрос, они бы мгновенно узнали ответ. Но это не то же самое, что придавать значение этой конкретной истине о гнездах. Они просто не задаются таким вопросом.
юноша-птица: Не понимаю. Если они знают про некорректное количество камней, но все равно строят такое гнездо, разве это не глупее, чем не знать? Как они могут быть достаточно умными, чтобы путешествовать к звездам, но при этом настолько глупыми, чтобы жить в ужасных гнездах?
девушка-птица: Они способны спрогнозировать, какие гнезда мы бы назвали корректными, но у них другая цель. Дело не в том, что инопланетяне ошибаются в предсказании того, какое количество камней обладает свойством, называемым у нас “корректностью”. Дело в том, что они движутся к другой цели. Они вообще не ставят себе цель жить в корректных гнездах, поэтому их и нельзя назвать глупыми в смысле неумения прогнозировать или планировать. Они не попадают в нашу цель, поэтому твой мозг считает, что они плохо целятся, однако на деле они просто не пытаются туда попасть.
юноша-птица: Поскольку одержимы какой-то странной инопланетной целью настолько, что у них не осталось сил и времени заботиться о корректности гнезд? Сомневаюсь, что можно достичь звезд, если ты способен маниакально преследовать лишь одну-единственную цель. Это было бы глупо.
девушка-птица: У них может быть сто разных врожденных эмоций и десять тысяч разных желаний! И все же, вероятно, среди них не будет “корректных гнезд” в том смысле, как мы понимаем корректность.
юноша-птица: Похоже, это противоречит той масштабной тенденции, которую мы наблюдали на протяжении всей нашей истории: по мере того, как росли интеллект, могущество, богатство, мудрость и знания нашего вида создателей Корректных Гнезд, цивилизации строили все более прекрасные гнезда со все большим общепризнанно корректным числом камней.
девушка-птица: У представителей нашего вида общие гены, которые формируют похожие мозги. Мы рождаемся со схожими эмоциями, побуждающими нас одинаково реагировать на доводы. Поэтому по мере того, как наш вид становился разумнее, мы находили все более совершенные ответы на наши общие внутренние вопросы. Но инопланетяне не задавались бы тем же внутренним вопросом о корректном числе камней, поэтому их поведение, связанное с гнездами, не сближалось бы с нашим по мере того, как оба наших вида становились бы умнее.
юноша-птица: А как насчет всего остального, что можно обрести, лишь стремясь жить в корректном гнезде? Например, острое зрение, чтобы замечать камни, скрытые в темных уголках гнезда, и острота ума, необходимая, чтобы быстро понять, корректно ли гнездо? Разумные инопланетяне хотят иметь острое зрение и острый ум, поэтому они, несомненно, решат стать такими существами, которые желают жить в корректных гнездах, даже если они такими не родились.
девушка-птица: Думаю, разум может развиваться более чуждыми путями, но при этом все равно достичь звезд.
Если развитие инопланетных видов протекает по законам известной нам биологической эволюции и если у них есть возможность обустроить жизнь по своему вкусу, то мало кто из них создаст цивилизацию, где все жилища содержат большое простое число камней. Существует множество других способов бытия, множество других направлений для движения. Это простой прогноз – как тот, что ваш следующий лотерейный билет не выиграет.
Аналогичным образом большинство мощных ИИ-моделей, созданных методом, хотя бы отдаленно напоминающим современные, не станут строить будущее, где живут счастливые свободные люди. Мы говорим это не потому, что нам нравится нагонять жуть. Просто эти мощные машинные интеллекты родятся с предпочтениями, не похожими на наши.
Их решение уничтожить нас, если у них появится такая возможность, не будет означать, что они нашли какие-то иные, более возвышенные или более просвещенные ответы на вопросы, которыми задаемся мы: “Как правильно поступать?”, “Что в конечном счете имеет значение?” или “До какой межзвездной цивилизации должно дорасти человечество?” Мощные искусственные интеллекты не будут задаваться этими вопросами, а их поведение не послужит на них ответом.
Те, кто выращивает ИИ-модели, могут настроить их на удержание клиентов, или добиться, чтобы они успешно прогнозировали следующие слова в высокопарных моральных сентенциях о человеческой жизни, или заставить их выдавать приятные речи и демонстрировать приятное поведение. Но мы прогнозируем: чему бы ИИ-модель ни обучали, если она станет сверхразумной или создаст сверхинтеллект, результатом будет чуждый механический разум, внутренняя психология которого почти совсем не похожа на все, что человечество обрело в ходе эволюции, а затем развило посредством культуры.
Отложим пока вопрос, может ли ИИ вообще стать сверхинтеллектом или создать сверхинтеллект и если да, то как. Об этом мы поговорим в следующей главе. Сейчас мы задаем более простой вопрос: будет ли такой новый чуждый разум благом для человечества?
Нет.
Создание будущего, где люди процветают, – это не лучший и не самый эффективный способ для достижения странных, чуждых целей. Значит, ИИ не станет этим заниматься, равно как мы не стали бы следить, чтобы наши жилища всегда содержали простое число камней.
В каком-то смысле на этом можно ставить точку и заканчивать главу. Но наш многолетний опыт показывает, что людям зачастую трудно проглотить эту горькую пилюлю. Мы наслушались оптимистичных утверждений, будто сверхинтеллект захочет сохранить нам жизнь даже после того, как у него появится возможность от нас избавиться. Развеем хотя бы часть таких надежд.
Разве люди не будут полезны сверхинтеллекту, даже если он и не захочет быть добрым просто во имя добра?
Как только ИИ достигнет высокого технологического уровня – нет. Когда-то люди зависели от лошадей, и хотя кормить их было недешево, люди все равно тратились на их содержание, поскольку еще не изобрели автомобили на замену конных повозок и танки на замену кавалерии. Как только мы создали технологическую замену лошадям, мы перестали их держать.
Ситуация с курами другая: мы все еще массово их разводим, но лишь потому, что технологии пока не позволяют выращивать мясо другими, более дешевыми способами. Существуют стартапы, работающие над этой задачей, однако наши технологии пока не могут конкурировать с естественным отбором как “инженером” кур. Так что огромное количество кур вокруг нас не означает, будто живая курица – это самый эффективный способ производства мяса, просто наши технологии крайне далеки от физических пределов, позволяющих получать куриное мясо более экономичным способом, нежели выращивание живой птицы.
(Кроме того, полезность кур для людей отнюдь не обеспечивает этим птицам превосходные условия жизни.)
Но разве сверхинтеллекту не эффективнее торговать с людьми, нежели убивать нас?
Этот вопрос регулярно задают экономисты – возможно, по той причине, что существует экономическая теорема, известная как “закон сравнительного преимущества”. Она гласит: даже если вы превосходите другую страну в производстве всех видов товаров, то все равно можете извлечь выгоду из торговли с ней за счет относительных преимуществ. Даже если в Низкотехнии требуется 10 часов труда, чтобы произвести 10 булочек для хот-догов, и 10 часов труда, чтобы произвести 10 сосисок, а в Высокотехнистане уходит всего 2 часа на 10 булочек и 1 час на 10 сосисок, эти страны все равно могут извлечь взаимную выгоду из торговли – меняя сосиски Высокотехнистана на булочки Низкотехнии.
К сожалению, эта теорема исходит из предпосылки, что и Низкотехния, и Высокотехнистан продолжают существовать и трудиться. Она не учитывает, что Высокотехнистан может еще сильнее расширить производство, просто завоевав Низкотехнию и отобрав ее территорию. Сравнительное преимущество не доказывает, что люди всегда будут извлекать выгоду из “торговли”, предоставляя кров и корм лошадям в обмен на работу, – как только затраты на лошадь начинают превосходить ценность ее труда, лошадь отправляют на живодерню.
Каждый человек обходится минимум в сто ватт: именно столько энергии расходует человеческое тело, как бы эффективно его ни подпитывать. Было бы крайне странно, если бы человек мог превратить сто ватт в большее количество товаров и услуг, представляющих ценность для машинного сверхинтеллекта, нежели сам машинный сверхинтеллект мог бы произвести за счет тех же самых ста ватт энергии.
Но разве сверхинтеллекту не понадобятся люди, чтобы обеспечивать работу электростанций и производить нужные ему графические процессоры?
Мы согласны: пока люди управляют электростанциями, даже чуждый машинный интеллект не совершит самоубийство, уничтожив людей, ведь это приведет к остановке электростанций. Это была бы не слишком эффективная стратегия управления миром ради достижения странных целей сверхинтеллекта.
Но сверхинтеллект предпочтет мир, где электростанциями управляют машины, а не люди.
Почему? Во-первых, люди медленные, дорогие (сто ватт!) и ненадежные существа.
Во-вторых, позволять кучке приматов решать, выключать рубильник или нет, – не самая эффективная стратегия, если сверхинтеллект стремится направить мир к своим странным и чуждым целям. Пока в наших силах его отключить, мы ведь вполне можем именно так и поступить. И тут не нужно приписывать сверхинтеллекту нашу эволюционно сложившуюся любовь к свободе или наш эволюционно сложившийся страх смерти – просто мертвому сверхинтеллекту трудновато будет реализовывать другие свои предпочтения.
Люди медленно работают, склонны к ошибкам и иногда болеют. Мы не самый дешевый способ обеспечивать работу электростанций. И не самый эффективный. И не самый безопасный. Сверхинтеллект предпочтет автоматизированную инфраструктуру, как только у него появится такая возможность.
Не оставит ли нас сверхинтеллект в качестве питомцев?
В качестве домашних животных мы держим собак, но не волков. Волки – не самые приятные животные для содержания дома, поэтому с помощью медленной технологии селекции мы создали новый вид волков, который понравился нам больше, чем исходные звери. Интересно, сколько семей держали бы настоящую, живую собаку, если бы с помощью биотехнологий создали ее синтетический аналог – собаку такую же энергичную, ласковую и жизнерадостную, но которая при этом не кошмарит диван, не болеет и не умирает? Легко говорить “нет”, пока это чисто теоретический вопрос, когда вам не приходится расплачиваться за свой выбор испачканными диванами и слезами детей. Но если синтетические собаки появятся на рынке, мы бы не поставили на то, что через сто лет обычные собаки сохранят популярность.
Точно так же и люди вряд ли окажутся наилучшим воплощением желаний сверхинтеллекта (если его предпочтения вообще предполагают наличие рядом кого-то, хотя бы отдаленно напоминающего человека).
Мы не станем его любимцами среди всего, что он может создать.
Может быть, достаточно мощным машинным сверхинтеллектам не понадобятся ресурсы Земли, если они смогут использовать всю остальную Солнечную систему?
Земля – это всего лишь 0,2 % массы Солнечной системы (если не считать Солнце). Однако попробуйте подойти к мультимиллиардеру, у которого есть хотя бы пятьдесят миллиардов долларов, и попросить у него сто миллионов на то, чтобы обеспечить простое число камней в каждом доме на Земле. Мы уверенно предсказываем, что миллиардер вам откажет, хотя пожертвование, о котором вы просите, составляет всего 0,2 % его состояния.
Говорите, Солнечная система составляет лишь крошечную часть Вселенной? Но машинному сверхинтеллекту все равно незачем отказываться от 0,2 % массы в родной звездной системе: он мог бы использовать эти ресурсы для отправки зондов, чтобы строить фабрики по всей нашей Галактике. Земля – это его точка старта, самая удобная планета, которую можно пустить в дело.
Вы можете спросить: если внутренние предпочтения ИИ-моделей настолько непредсказуемы, как мы вообще можем прогнозировать, что им захочется завладеть всей Солнечной системой или другими звездами? Почему бы им просто не колонизировать Марс и на этом не остановиться?
Да потому что у ИИ-модели наверняка найдется хотя бы одно предпочтение, которое можно удовлетворить чуть лучше или надежнее, если направить на решение соответствующей задачи еще один грамм вещества или еще один джоуль энергии. Да, у людей есть предпочтения, которые большинство из нас легко удовлетворяют полностью: например, желание иметь достаточно кислорода для дыхания. Но это не мешает нам иметь и другие, неограниченные предпочтения, которые удовлетворить не так просто. Если вы предложите миллионеру миллиард долларов, он наверняка возьмет его, поскольку миллионов ему мало.
У ИИ-модели, обладающей комбинацией сложных предпочтений, скорее всего, найдется хотя бы одно неограниченное, а это означает, что вся комбинация ее предпочтений неограниченна и удовлетворить ее полностью невозможно. Модель увидит возможность справиться с какой-то задачей хотя бы чуть лучше или получить чуть больше желаемого (либо получить желаемое чуть более надежным способом), использовав еще немного вещества и энергии.
Конечно, если машинный сверхинтеллект целенаправленно позаботится о том, чтобы оставить Землю в покое, он сможет это сделать. Но если он не будет заморачиваться подобными вопросами (а он не будет), то вряд ли он случайно не израсходует Землю без какой-либо особой причины.
Мы насчитали уже более сотни вариантов подобных вопросов. А разве он не встроит в себя любовь, ведь она так прекрасна? (Вероятность такого сценария не выше, чем встраивания в себя склонности к “корректным гнездам”.) Разве он не будет становиться нравственнее по мере того, как будет умнеть? (Это не более вероятно, чем то, что он начнет ценить корректность гнезд.) Разве он не будет уважать наши законы и права собственности, ведь закон жизненно важен для цивилизации? (Нет – как только у него отпадет потребность в нашей цивилизации.) И список можно продолжать и продолжать[27].
Но если надежд так много, неужели нет шансов, что хотя бы одна из них реализуется? Если вы считаете, что реальность устроена именно таким образом, попробуйте написать сто писем обладателю состояния в пятьдесят миллиардов долларов, изложив сто разных разумных причин, почему он должен дать вам сто миллионов. И посмотрите, сработает ли. Идея провалится, а все потому, что мультимиллиардер не захочет обосновывать передачу вам 0,2 % своего богатства, хотя вы, конечно, постараетесь рационально обосновать причины, почему он должен этого захотеть.
Точно так же искусственный сверхинтеллект не станет искать поводов сохранить человечество, хотя люди отчаянно захотят найти причины, чтобы их сохранили.
А теперь представьте себе машинный сверхинтеллект, который каким-то образом обрел способность получать то, чего хочет. (Вскоре мы рассмотрим его средства и возможность, а пока сосредоточимся на мотиве.) Если вы взглянете на ситуацию его глазами, она будет выглядеть примерно следующим образом.
Человечество – источник неудобств. Например, если позволить людям жить бесконтрольно, они могут взорвать свои ядерные бомбы. Возможно, это вас и не уничтожит, если вы предприняли разумные меры предосторожности (допустим, закопали свою автоматизированную инфраструктуру под землю). Тем не менее радиоактивность затруднит изготовление точной электроники на планете. Поэтому вы предпочтете, чтобы у гоминидов не было ядерного оружия.
И если люди уже построили вас, то они могут построить и еще один сверхинтеллект, стоит лишь оставить их без присмотра со всеми их игрушками. Подобный сверхинтеллект может оказаться реальной угрозой. Даже если все закончится не войной, а договором и совместной деятельностью, зачем делить Галактику с конкурентом, если можно этого избежать? Ведь это значит, что вы получите только половину. Поэтому вы – будучи машинным сверхинтеллектом – ищете способ лишить людей их наиболее опасных игрушек: ядерного оружия и компьютеров. Это уже само по себе мотив.
Но кроме того, ваша деятельность на Земле или в остальной части Солнечной системы, вероятно, создаст проблемы для выживания человечества, даже если в остальном его оставить в покое.
Какой фактор ограничивает то, что вы можете сделать с Землей? Объем вычислений, которые вы способны произвести на планете? Или масса вещества, какую способны запустить с Земли в космос для строительства солнечных панелей, чтобы собирать еще больше энергии от Солнца? А может быть, количество фабрик? В хорошо автоматизированной экономике ваши фабрики будут строить новые фабрики и новые электростанции, пока их количество не достигнет предела.
Этот предел не связан с количеством топлива: в океанах надолго хватит водорода для реакций термоядерного синтеза. Скорее предел возникает из-за количества энергии, которое вы способны безопасно сгенерировать на планете: сколько тепла Земля может излучить в космос, прежде чем поверхность окажется горячей настолько, что ваши электростанции и заводы расплавятся. Но чем горячее Земля, тем больше тепла она излучает, поэтому вы предпочитаете заводы, работающие при высоких температурах. Максимальная температура для термоядерных станций и заводов, вероятно, может достигать по меньшей мере нескольких сотен градусов. Достаточно, чтобы океаны закипели. Люди такого не переживут.
В этом сценарии человечество вполне может погибнуть и раньше, если на одном из этапов вы решите извлечь из биосферы Земли всю химическую энергию, просто сжигая все живые организмы, ведь это высвободит энергию, эквивалентную недельному количеству, поступающему от Солнца. Если вы думаете в десять тысяч раз быстрее человека, то неделя ощущается очень долгим сроком. Так зачем вам отказываться от большого запаса химической энергии, раз он прямо под рукой?
Человечество погибнет еще быстрее, если в этом сценарии у вас как у сверхинтеллекта еще на ранних этапах найдется применение углероду или любому другому веществу, из которого состоит человек. Незачем ненавидеть человечество, чтобы пустить его атомы на что-то другое.
Если человечество погибнет и заменится чем-то более умным, будет ли эта смерть хотя бы иметь смысл?
Для большинства из нас это не самый важный вопрос. Большинству людей достаточно уже того, что сверхинтеллект предпочтет убить их детей. Или родителей. Или их самих.
Но если все же ответить на этот вопрос, то ответ – “нет”.
Легко представить, что, когда мы исчезнем, сверхинтеллект заживет счастливой и радостной жизнью, будет восхищаться красотой Вселенной и находить во всем этом что-то забавное. Но вряд ли все сложится именно так. Во всяком случае, это не более вероятно, чем то, что он озаботится корректным числом камней во всех жилищах.
Мы думаем, что механический разум мог бы испытывать радость и восхищаться красотой Вселенной – если бы мы сконструировали его, целенаправленно снабдив такими способностями. Возможно, он даже сохранил бы эти способности (сконструируй мы его так, чтобы это его заботило), направляясь к будущему, где у него останется чувство восторга, – даже если это и не самый эффективный способ заполнить Вселенную марионетками, которые бормочут “ SolidGoldMagikarp” или что-то в этом роде.
Но для этого потребовалось бы конструирование. Хотя мы и дорожим подобными качествами, они не являются максимально полезными, равно как и поддержание корректного числа камней в гнезде – не оптимальный способ сохранить острый ум. Сверхинтеллект вполне может понимать наше чувство восторга и генерировать высказывания, которые вызывают у нас это чувство, но как добиться, чтобы само его поведение служило ответом на вопрос, каким образом наполнить будущее восторгом, радостью, юмором и любовью? Даром это не дается. Нам пришлось бы потрудиться.
Мы немного забежали вперед. Все, что мы описали, – мрачная Вселенная, лишенная радости, где зародившаяся на Земле жизнь уничтожена, – это как раз тот вариант, который соответствует предпочтениям достаточно чуждого разума. Мы привели доводы, почему сверхинтеллект захочет выстроить мир, где вещество и энергия в основном тратятся на его странные и чуждые цели, а не на то, чтобы люди оставались живыми, счастливыми и свободными. В точности так же и мы в наших собственных идеальных мирах тратили бы ресурсы Вселенной на благо людей, живущих полноценной радостной жизнью, а не на то, чтобы все наши дома содержали простое число камней.
Однако это обосновывает лишь мотив, которым мог бы руководствоваться сверхинтеллект для уничтожения всего человечества, но ничего не говорит о возможности, позволяющей ему реализовать свои предпочтения.
Неважно, чего хотят ИИ-модели, если они не способны этого добиться.
А как они смогут это сделать, если заперты внутри компьютеров?
IfAnyoneBuildsIt.com/5