В этой книге мы описали гонку в области искусственного интеллекта, проиллюстрировав потенциал технологии генеративного ИИ и попытавшись вникнуть в ее недостатки. Энтузиасты ожидают, что генеративный ИИ изменит привычные способы работы, ведения личных дел и бизнеса, а также создания материальных благ. С другой стороны, все большее число экспертов в этой технологии разделяют серьезные опасения по поводу экзистенциальных опасностей делегирования задач и принятия решений компьютерам при ограниченном в ближайшем будущем участии людей. Эта обеспокоенность усугубляется существующим дисбалансом власти и богатства, из-за которого критики ИИ опасаются, что выгода от этой технологии будет диспропорционально распределяться среди 1 % самых состоятельных людей. В главе 6 мы написали, что считаем технологию генеративного ИИ эволюционной, а не революционной, но при условии, что мы ответственно используем и регулируем ее.

На протяжении всей книги мы заостряли внимание на практических перспективах генеративного ИИ, от прироста производительности до агентных систем. Но в то же время мы подчеркивали, что у технологии генеративного ИИ есть риски и ограничения, ее могут случайно или преднамеренно использовать ненадлежащим образом. По мере того как растет осведомленность о рисках, связанных с ИИ, появляются стандарты и рекомендации по их снижению. Мы прошли долгий путь, но впереди нас ждет еще больший. Мы надеемся и верим, что найдем баланс между сторонниками идеи о приостановке создания ИИ-систем и теми, кто утверждает, что ChatGPT – это чудо. Независимо от того, как будут разворачиваться глобальные изменения в связи с ИИ, мир не станет более приятным местом для жизни, работы или участия в демократических процессах, пока не будут приняты меры по регулированию развития ИИ, его воздействия и мер безопасности при его применении.

Как мы обсуждали в разделе 8.4, усилия по регулированию предпринимаются в основном добровольно; они охватывают многочисленные протоколы и принципы, которые поддерживают добросовестное проектирование и контролируемое поведение. Это особенно актуально в Северной Америке, где общие цели крупных технологических компаний включают в себя приведение ИИ в соответствие к потребностям человека и обеспечение безопасности на протяжении всего процесса создания и внедрения алгоритмов. Также перед разработчиками систем ИИ стоят такие цели, как алгоритмическая прозрачность, справедливость в использовании ИИ, конфиденциальность и защита данных, надзор со стороны человека и соблюдение нормативных стандартов. Учитывая амбициозность всех этих целей, мы должны подчеркнуть, что разработчики ИИ часто их не достигают. Многие компании используют для разработки ИИ-систем свою интеллектуальную собственность, которую не раскрывают, чтобы сохранить конкурентное преимущество. Для участников cообществ по этике ИИ это свидетельствует о том, что компании больше заинтересованы в получении финансовой выгоды, чем в принесении пользы обществу.

В различных странах с начала 2020‐х годов акцент на добровольном самоконтроле внутри ИИ-компаний начал смещаться в сторону всеобъемлющей регуляции. Румман Чоудхури в своей статье для Wired написала: «Чтобы мы могли действительно принести пользу обществу, нам нужны механизмы контроля»⁴⁶. Однако важно отметить, что большинство дискуссий вокруг ИИ и возможных подходов к устранению непреднамеренных негативных последствий были в основном сосредоточены на Западе: в Европейском союзе, Соединенных Штатах и странах с развитой экономикой. Такой перекос понятен, учитывая, что крупные ИИ-компании, включая OpenAI, Google, Meta [117] и Anthrophic, сосредоточены в Кремниевой долине. Но стоит подчеркнуть:

«Подавляющее большинство дискуссий о последствиях и регулировании ИИ происходят между странами, население которых в сумме составляет 1,3 миллиарда человек. Гораздо меньше внимания и ресурсов уделяется решению этих проблем в бедных странах и странах с переходной экономикой, на долю которых приходятся оставшиеся 6,7 миллиарда человек мирового населения»⁴⁷.

Итак, куда нам идти дальше? Как мы действительно можем гарантировать, что генеративный ИИ или системы ИИ в целом будут использоваться для улучшения общества? В ранее упомянутой статье Чоудхури говорит:

«Миру нужен глобальный регулирующий орган в области ИИ, чтобы решать социальные, экономические и политические проблемы, выходящие за рамки того, что может сделать отдельное правительство, что могут реализовать академические круги и гражданское общество или что хочет и в состоянии сделать любая корпорация»⁴⁶.

Риски, связанные с генеративным ИИ, подчеркивают то, к чему призывали многие эксперты: необходимость нового, постоянного, независимого, хорошо финансируемого и обеспеченного ресурсами учреждения или группы учреждений для комплексного обеспечения общественного блага. Далее Чоудхури заявляет:

«Подобная группа должна охватывать все аспекты моделей генеративного ИИ, включая разработку, развертывание и использование в целях общественного блага. Она должна опираться на реальные рекомендации гражданского общества и академических организаций и обладать полномочиями по обеспечению соблюдения своих решений, включая право требовать изменить архитектуру или использование моделей генеративного ИИ или даже полностью запретить их использование, если это необходимо. Наконец, эта группа должна предусмотреть компенсации за радикальные изменения, которые могут произойти: потерю работы, рост дезинформации и потенциальное подавление свободных и честных выборов. Это группа не только для исследований. Это группа для действий»⁴⁶.

Мы должны отметить, что в мире уже есть пример глобальной, независимой и хорошо финансируемой организации, которая принимает решения на благо общества. Международное агентство по атомной энергии (МАГАТЭ) (см. https://www.iaea.org/) было создано после Второй мировой войны для регуляции в области ядерных технологий. МАГАТЭ, сформированное под руководством Организации Объединенных Наций, является независимым от правительств и корпораций органом, предоставляющим консультативную помощь и ресурсы. Хотя агентство имеет ограниченные полномочия, оно показывает, что мы уже проходили этот путь и можем пройти его снова.

По сути, недавние достижения в области генеративного ИИ высветили то, что многие из нас знали уже давно. Мы никогда не сможем «решить» проблему злоупотребления технологиями и их ненадлежащего использования. Поэтому вместо половинчатых технических мер нам нужны инвестиции в социотехнические подходы к устранению корня проблемы. Как сказала Чоудхури, МАГАТЭ является отправной точкой для глобального регулирующего органа, а не конечной целью. В отличие от МАГАТЭ, у этого органа должны быть полномочия принимать независимые и подлежащие исполнению решения. Он должен опираться на консультативные советы ИИ-компаний, но при этом сотрудничать с гражданским обществом, правительством и научными кругами. Этот орган не будет и не обязан заменять ни одну из этих структур, но он должен сформировать коалицию для обеспечения общественного блага в условиях существования ИИ. Хотя мы признаем, что для создания глобального органа по управлению ИИ необходимы значительные усилия, мы с оптимизмом смотрим в будущее и надеемся, что ИИ-компании и правительства будут работать над созданием независимого глобального органа для принятия решений, касающихся регулирования ИИ-систем и их воздействия.