«То, что мы имеем сейчас, не значит, что так будет всегда. Говоря о моделях искусственного интеллекта, то, что имеем сейчас, улучшится с такой космической скоростью, с которой не развивалась ни одна предыдущая технология. Единственное, с чем мы все согласны, так это с тем, что мы живем в чертовски странное время».
Стивен Фрай[86] на международном фестивале CogX Festival в сентябре 2023 года
Таким образом, мы добрались до сегодняшнего дня. Сейчас невозможно открыть газету, не прочитав истории о вмешательстве искусственного интеллекта в нашу жизнь. В большинстве случаев заголовки тревожны, негативны и вызывают всеобщую истерию.
Безусловно, история искусственного интеллекта все еще в процессе написания. Существующие сейчас системы искусственного интеллекта, конечно, впечатляют, а порой настораживают, но все же мы пока очень далеки от нашей конечной цели: достичь уровня человеческого интеллекта во всем его многообразии. Не сомневаюсь, что спустя 10, 50 или даже 100 лет мы достигнем ее. И, достигнув уровня человеческого интеллекта, мы, вероятно, значительно превзойдем его. Было бы невероятно самонадеянно полагать, что мы не сможем этого сделать. После всего проделанного, что такого особенного в человеческих способностях? В узкоспециализированных областях, например шахматах, чтении рентгеновских снимков или прогнозировании неисправностей, искусственный интеллект уже превзошел среднестатистического человека.
Не первый раз технологии кажутся нам разрушительными. Многие из них – от парового двигателя до электричества – уже кардинально изменили наш образ жизни. Как и все предыдущие инновации, искусственный интеллект преобразует все области нашей жизни: как мы рождаемся, живем, работаем, играем и умираем. Но в одном революция искусственного интеллекта все же будет отличаться, а именно скоростью, с которой она трансформирует все вокруг.
Промышленная революция заняла более 50 лет, а электрификация несколько десятилетий. Даже интернету потребовалось около десяти лет, чтобы успешно войти в жизнь, поскольку нужно было обеспечить людям доступ к сети. Но революция искусственного интеллекта – совсем другая история. Мы уже подготовили техническую базу, а вам требуется только указать URL-адрес или описать необходимые параметры для работы какого-либо сервиса искусственного интеллекта и можно приступать к работе. В сектор искусственного интеллекта инвестируются колоссальные суммы. В 2024 году ежедневно в разработку вкладывается около миллиарда долларов США. Ранее не наблюдалось сфер с такими внушительными инвестициями. Тем не менее ИИ начинают окупаться. Спустя год после запуска ChatGPT доходы OpenAI выросли с нуля до миллиарда долларов в год, а стоимость компании оценивается в 100 миллиардов долларов[87]. В истории капитализма никогда не наблюдалось столь впечатляющего роста. Область искусственного интеллекта – самая крупная золотая лихорадка. С точки зрения прибыли и рыночной стоимости OpenAI – самая быстро растущая компания из когда-либо существовавших.
Часто говорят, что мы живем в эпоху экспоненциального роста. С 1950-х годов мощность компьютеров удваивается примерно каждые два года. Это то, что мы называем законом Мура. Количество данных в сети, имеющих первостепенную значимость для таких технологий, как машинное обучение, также удваивается каждые пару лет. А многие основополагающие алгоритмы на основе трансформеров кратно увеличили производительность за последние несколько лет.
Однако существует другой экспоненциальный рост, о котором мало говорят. Рост науки в целом. Ни в одной области это не ощущается так, как в секторе искусственного интеллекта. По данным ежегодного отчета Стэнфордского университета AI Index от 2024 года, количество опубликованных работ, посвященных исследованиям искусственного интеллекта, за последние пять лет удвоилось [1], равно как и число поданных и выданных патентов. Следовательно, ожидается, что существенная масса ограничений в существующих системах будет устранена уже в ближайшем будущем. И если это действительно так, то возникает вопрос: куда это все приведет?
Одной из невероятно притягательных конечных целей искусственного интеллекта является технологическая сингулярность. Эта идея восходит глубоко в 1950-е к выдающемуся Джону фон Нейману, одному из отцов информатики. Он предупредил, что «постоянно ускоряющийся технический прогресс и изменения в образе жизни человека создают видимость приближения к какой-то некой сингулярности, за пределами которой привычный образ жизни уже невозможен» [2]. Недавно сингулярность начала популяризироваться благодаря писателю-фантасту Вернору Винджу[88], футурологу Рэймонду Курцвейлу[89], философу Нику Бострому[90] и другим.
Сингулярность искусственного интеллекта – та точка, где будут развиты настолько умные системы, что смогут самостоятельно последовательно обновляться, улучшая свои способности. Такие усовершенствованные, более смышленые технологии смогут совершенствоваться снова и снова, создавая эффект снежного кома. В отличие от биологической эволюции, на которую потребовались тысячи лет, это рекурсивное улучшение может произойти в одночасье, создав искусственный интеллект, внезапно значительно превосходящий человеческий.
Но что же препятствует дальнейшему развитию человечества? Проблема заключается в том, что мы больше не будем самыми разумными существами на планете, а люди стали доминирующим видом как раз благодаря развитым умственным способностям. Мы не были самыми быстрыми или сильными животными, но были самыми сообразительными. Мы использовали свои способности для создания языка, чтобы общаться и взаимодействовать друг с другом, мы придумали инструменты, чтобы усилить возможности мышц, и это позволило нам управлять планетой. Участью других, менее развитых интеллектуально видов, стала зависимость от человечества.
Аналогичным образом, если искусственный интеллект превосходит наш, то наша участь зависит от благосклонности машин. Не то чтобы у технологий были плохие намерения. Если мы строим новый жилой комплекс и на нашем пути попался муравейник, мы просто сносим его. Муравьи не настолько важны для нас, чтобы заботиться о том, что может случиться с ними. Точно так же, как муравьи не могут противодействовать человеку, можем ли мы быть уверены, что сможем противостоять более развитому, чем наш, интеллекту?
Позвольте привести несколько идей о надвигающейся сингулярности, которые помогут не впадать в панику. Во-первых, мы можем оказаться в тупике, поскольку существуют естественные пределы многих физических явлений. Альберт Эйнштейн учил нас, что невозможно превысить скорость света, а Вернер Гейзенберг – что на квантовом уровне невозможно определить одновременно положение и момент импульса частиц. Возможно, есть физические ограничения интеллекта? Мир непредсказуем, и эта неопределенность ограничивает, насколько умным вы можете быть. Не имеет значения, насколько вы умны, поскольку есть предел того, насколько хорошо вы можете играть в казино. На самом деле, самая умная вещь, которую вы можете там сделать, так это выйти оттуда!
Во-вторых, неудивительно, что эрудированные люди придают огромное значение интеллектуальным способностям, но наша суперсила – не интеллект, а общество. Наша способность сплотиться и работать вместе помогла нам выполнять больше работ, чем мы могли бы выполнить в одиночку. Конечно, без интеллекта этого бы не случилось, у нас бы не было языка и возможности общаться, а следовательно, не получилось бы хорошо взаимодействовать друг с другом. Без нашей способности распределять задачи и решать их сообща мы не были бы такими эффективными. Большинство из нас не смогло бы выжить на необитаемом острове. Поэтому интеллект – это не то, чего нужно бояться, а то, что помогает нам выжить.
В-третьих, интеллект, превосходящий человеческий, уже существует и не причинил никакого вреда. На самом деле, даже наоборот. Наш прогресс находится на таком высоком уровне благодаря этому интеллекту, превосходящему интеллект отдельного человека. Это коллективный интеллект человеческих институций, например как в корпорациях и правительствах. Ни один человек не знает, как построить атомную электростанцию, но сообща люди, которые работают в Westinghouse Electric или General Electric Hitachi, и их подрядчики обладают этими знаниями.
Несомненно, сингулярность – интересная возможность. Нам действительно нужно смириться с тем, что технологии будут умнее нас, и подумать о последствиях. Но, возможно, это далеко не самый большой риск, который представляет собой искусственный интеллект.
Один из серьезных рисков – это влияние искусственного интеллекта на сферу труда. Сенсационные заголовки регулярно предупреждают о технологической безработице и делают прогнозы, в соответствии с которыми искусственный интеллект может лишить работы половину населения. Как всегда, реальность, скорее всего, будет гораздо многограннее.
Одно из самых ранних и подробных исследований было опубликовано Оксфордской школой Мартина[91] при Оксфордском университете в сентябре 2013 года. По прогнозу, сделанному в данном исследовании, 47% рабочих должностей в Соединенных Штатах находятся под угрозой автоматизации [3]. Похожие исследования, основанные на данных из других стран, пришли к схожим выводам. С Оксфордским отчетом во многом можно поспорить, но даже если вы и согласны с приведенными в нем заключениями, не спешите думать, что останетесь без работы. На то есть веские причины.
Во-первых, Оксфордский отчет лишь оценивал количество рабочих мест, подлежащих автоматизации. Но на практике некоторые из них едва ли будут заменены технологиями по экономическим, общественным, техническим и многим другим причинам. Например, функции пилота самолета сегодня практически полностью автоматизированы. В большинстве случаев самолетом управляет компьютер. Но общество, скорее всего, и дальше будет требовать присутствия пилота на борту, даже если он большую часть времени будет просто читать свой iPad. Еще один пример, Оксфордский отчет оценивает в 94% вероятность того, что ремонт велосипедов будет автоматизирован. Однако такой процесс будет достаточно сложным и дорогим, следовательно, экономически невыгодным. И я еще ни разу не встречал специалиста, пытающегося создать робота для починки велосипедов.
Во-вторых, нам следует задуматься о том, что технологии откроют возможности для создания новых рабочих позиций. Например, сейчас мы не нанимаем наборщиков текста. Вместо этого наш штат состоит из сотрудников, занимающих высокотехнологичные должности, например разработчиков веб-сайтов. Конечно, если вы специалист по печати и ваши функции переданы машине, то при наличии соответствующего образования переквалифицироваться на новую специальность не составит труда.
В-третьих, некоторые профессии будут только частично автоматизированы, что на самом деле повысит нашу эффективность. Например, в отчете Оксфордского университета вероятность автоматизации профессии геолога оценивается в 63%. Однако автоматизация, скорее всего, позволит геологам больше заниматься непосредственно геологией или выполнять больший объем работ. В действительности, по прогнозам Министерства труда США, число геологов через десять лет увеличится на 10%, поскольку мы стремимся более эффективно использовать сокращающиеся природные ресурсы планеты.
В-четвертых, нам также стоит подумать, как изменится рабочая неделя через несколько десятилетий. С началом промышленной революции в большинстве стран развитого мира количество рабочих часов в неделю значительно сократилось. В Соединенных Штатах средняя продолжительность рабочей недели упала с 60 до 33 часов. В других развитых странах этот показатель еще ниже. В Германии работают 26 часов в неделю. Если такая тенденция продолжится, то нам нужно будет создать больше рабочих мест, чтобы компенсировать потерянные часы.
Часто люди забывают, что выходные дни были придуманы во время промышленной революции. Рабочие требовали выходной в воскресенье для походов в церковь, а затем и в субботу, чтобы просто отдохнуть. Но по причинам, мне неизвестным, мы перестали просить больше. Однако сейчас во всем мире проводятся исследования, посвященные переходу на четырехдневную рабочую неделю, по результатам которых люди, работающие четыре дня, более продуктивны и чувствуют себя счастливее, чем те, кто трудится все пять. Как вам такое?
В-пятых, нам также не следует забывать о демографии. В большинстве развитых стран население стареет. Это означает, что доля пожилых людей в общей численности населения увеличивается, а количество работоспособного населения уменьшается. Повышение производительности за счет искусственного интеллекта необходимо как минимум для того, чтобы удержать нашу экономику на плаву, а пенсионеров обеспечить выплатами.
Тем не менее сложно предсказать наверняка, сколько из нас действительно останутся без работы по вине технологий, но точно не половина населения. Общество в современном его виде изменится задолго до того, как мы достигнем 50-процентного уровня безработицы. Искусственный интеллект, тем не менее, окажет огромное влияние на занятость, и нам нужно начать планировать и принимать меры по предотвращению этого сбоя уже сегодня.
В заключение хотелось бы отметить, что при всей автоматизации рабочего процесса сегодня все еще существует большое количество профессий, которые мы не ценим и не оплачиваем должным образом, например в сфере ухода за пожилыми или людьми с ограниченными возможностями. В большинстве случаев такая работа выполняется женщинами, и в будущем, когда ИИ обеспечит значительный рост производительности, появится возможность повышения заработной платы сиделкам. Какое прекрасное будущее могло бы быть!
Сегодня нас беспокоит не только вопрос трудовой деятельности, многие другие сферы также подвержены влиянию искусственного интеллекта. У развития высоких технологий две стороны медали. Наряду с такими весомыми преимуществами, как совершенствование медицины и системы образования, приходит и много рисков.
В августе 2023 году Специальный комитет палаты общин по науке, инновациям и технологиям проделал колоссальную работу и выделил несколько главных вызовов, которые бросает нам искусственный интеллект [4].
• Проблема предвзятости. Искусственный интеллект может создавать или закреплять предубеждения, которые общество считает неприемлемыми.
• Проблема конфиденциальности. Искусственный интеллект способен идентифицировать личность или предоставлять персональные данные о человеке сверх дозволенного.
• Проблема искажения фактов. Искусственный интеллект может создавать материалы, содержащие ложное представление о чьем-либо поведении, мнении или характере, а также искаженные сведения в таких важных вопросах, как климат или политические партии.
• Проблема доступа к данным. Самые мощные системы искусственного интеллекта требуют доступ к огромным массивам данных, принадлежащим нескольким организациям.
• Проблема доступа к компьютеру. Самые мощные системы искусственного интеллекта требуют больших вычислительных мощностей, которые доступны только некоторым организациям.
• Проблема черного ящика. Модели искусственного интеллекта зачастую не способны объяснить, почему они выдали тот или иной результат.
• Проблема открытых источников. Сделав код разработки искусственного интеллекта общедоступным, мы будем способствовать прозрачности и инновациям, но в то же время это позволит злоумышленникам воспользоваться им в своих целях. С другой стороны, если права собственности будут только у узкого круга лиц, то это может привести к злоупотреблениям властью.
• Проблема интеллектуальной собственности и авторского права. Большие модели часто обучены на данных, защищенных авторским правом, без ведома правообладателя, не говоря уже об отчислениях ему за пользование ими. Все еще непонятно, кто владелец выходных данных.
• Проблема материальной ответственности. Если модели искусственного интеллекта используются третьими лицами для причинения вреда, должна быть создана правовая система, регулирующая права и ответственность за совершение противоправного деяния.
• Проблема трудоустройства. Как мы обсуждали выше, искусственный интеллект вмешается в рабочий процесс, к которому мы привыкли сегодня. И нам необходимо внимательно контролировать изменения, которые произойдут вследствие такого воздействия.
• Проблема международного сотрудничества. Искусственный интеллект разрабатывают во всем мире, следовательно, должны быть определенные структуры управления и регулирования, предусмотренные международным сообществом.
• Проблема вымирания. Искусственный интеллект может поставить под угрозу вымирания вид человека в целом.
Это довольно-таки тревожный и в то же время неполный список сложностей. Сюда можно также добавить проблему окружающей среды, так как в процессе работы больших моделей искусственного интеллекта выделяется углекислый газ и используется вода для охлаждения. Демократический вопрос также может быть поднят в результате развития технологий, использующихся для влияния на избирателей и подтасовки результатов выборов по всему миру. На самом деле, большинство «проблем будущего» уже существуют в настоящем. Например, в США уже подано несколько коллективных исков о нарушении авторских прав и защите интеллектуальной собственности против компаний, разрабатывающих искусственный интеллект. Могут ли компании технического сектора использовать огромное количество материалов, защищенных авторским правом, для обучения больших языковых моделей без согласия или компенсации правообладателю? Справедливо ли так поступать?
Невозможно предположить, как будут развиваться такие судебные дела. Предыдущие судебные процессы, которые могли бы помочь создать прецеденты, сработали в обе стороны. В 2013 году компания Google выиграла дело, поданное Американской гильдией писателей. По результатам судебного разбирательства сканирование и суммирование миллионов текстов, выполненное Google Books, признано добросовестным. Верховный суд США в 2016 году оставил постановление без изменений. Однако в 2001 году платформа Napster прекратила свою деятельность после проигрыша в нескольких судебных процессах о нарушении авторских прав, несмотря на выявление и блокировку 99,4% материалов, подпадающих под категорию неправомерных.
Тем не менее ясно одно – предстоящий путь будет тернистым.
Когда меня спрашивают, оптимист я или пессимист касательно сложностей, вызванных искусственным интеллектом, я отвечаю, что все вместе. Я оптимист ввиду последних преимуществ, приобретенных не так недавно благодаря технологиям, но в то же время и пессимист. К сожалению, наши дети унаследуют совсем другой мир, отличный от того, в котором родились мы, и все из-за череды сложностей, некоторые из которых вызваны искусственным интеллектом, например технологическая безработица и недоверие к тем самым институтам, в которых мы сейчас больше всего нуждаемся.
Следующее десятилетие, а может, даже и не одно, будет сложным. Технологии, включая искусственный интеллект, помогут нам решить массу проблем. Но, чтобы действительно получить пользу от искусственного интеллекта, нужно помнить об истории. Социальные сети, например, должны были стать тревожным сигналом о том, как технологии могут нарушить нашу жизнь. Сейчас мы на пороге того, чтобы искусственный интеллект нарушил нашу жизнь еще существеннее, став частью наших будней. Если мы не хотим допустить этого, то лучше бы нам извлечь уроки из прошлого.
Возможно, эта книга – неплохое место, чтобы начать?