Мы подошли к шестой и заключительной идее, использующейся в создании систем на основе искусственного интеллекта. Мир нестабилен, следовательно, системам необходимо справляться с неопределенностью при взаимодействии с миром. Насколько беспилотный автомобиль уверен, что сейчас безопасно совершить обгон? Какова вероятность, что алгоритм компьютерного зрения, анализируя рентгеновский снимок, сделает вывод, что рака нет? Или каковы шансы, что именно это входящее письмо окажется спамом?
К счастью, 250 лет назад преподобный Томас Байес, пресвитерианский священник из Танбридж-Уэллса в графстве Кент, предложил основательный подход, как справляться с неопределенностью. А именно, он вывел теорему, в соответствии с которой компьютеры получили новый способ вычисления вероятностей. Простой пример поможет понять силу теоремы Байеса.
Данный пример предполагает техническое описание, но уверяю вас, что он стоит того, а вы вполне справитесь с его пониманием. Вы подходите к концу этой краткой истории искусственного интеллекта, соответственно, теперь вы практически эксперт в этой области. Просто представьте, что через две страницы вы сможете похвастаться, что смогли самостоятельно вывести теорему Байеса, начиная с самого первого условия! Оставайтесь со мной.
Предположим, что вы моделируете детектор коронавируса COVID–19, основанный на типе кашля, и вы решили обучить этому нейронную сеть. Прочитав несколько книг об искусственном интеллекте, для достижения своей цели вы используете модель на базе трансформера для обнаружения своего рода плохого кашля, который характерен для коронавируса. И кажется, что все отлично работает. Но как вы можете в этом убедиться? Здесь нам поможет теорема Байеса. Вы хотите вычислить точность вашего детектора, а если точнее, вычислить вероятность того, что у человека есть коронавирус (ваша гипотеза), учитывая, что детектор воспринимает кашель как подозрительный (ваше наблюдение). Переведем в символы:
вероятность (есть коронавирус | подозрительный кашель)
Это «вероятность» того, что у человека «есть коронавирус», учитывая (вертикальная черта «|»), что у него «подозрительный кашель».
Вычислить условную вероятность напрямую не так уж и сложно. Вам необходимо предоставить вашему детектору тысячи аудиофайлов, а затем клинически проверить, что десятки людей, у которых по результатам детектора выявлен нетипичный кашель, действительно больны. При каждом обновлении детектора вам придется высчитывать это вручную.
К счастью, преподобный Байес предложил нам способ получше. Существуют три другие связанные вероятности для определения точности детектора, вычисление которых значительно проще. Первое, вы меняете местами члены условной вероятности и вычисляете вероятность того, что зараженные коронавирусом верно определены вашим детектором по характерным признакам кашля. Получаем следующее:
вероятность (подозрительный кашель | есть коронавирус)
Кажется, что ничего не изменилось, но на самом деле выполнить такое вычисление намного легче. В данном случае необходимо учитывать только небольшую группу людей с коронавирусом. При их обследовании использовать детектор и далее высчитать, какой процент из них действительно имеют сомнительный кашель. Предположим, что у 95% больных коронавирусом действительно наблюдается подозрительный кашель. Тогда вероятность (подозрительный кашель | есть коронавирус) = 0,95.
Второе, необходимо вычислить вероятность гипотезы, то есть вероятность, что среди общей массы населения обнаружен зараженный. И вновь это несложно сделать, учитывая собранные ранее данные. Выполнять расчеты каждый раз при обновлении детектора не требуется, поскольку данные от него не зависят. Вы можете выявить значение по косвенным данным, например через анализ состава сточных вод. Переводя в символы, получаем вероятность, выраженную следующим образом:
вероятность (есть коронавирус).
Давайте предположим, что 2% населения сейчас больны коронавирусом. Следовательно, вероятность (есть коронавирус) = 0,02.
Третье, теперь нужно вычислить вероятность наблюдения, то есть вероятность того, что у обозначенного детектором человека есть подозрительный кашель. Такое вычисление легко выполняется на основе тысяч аудиофайлов. Затем высчитать, какая доля отмечена как подозрительная. В данном случае не имеет значения, действительно ли человек болен. В символах у нас получится следующее:
вероятность (подозрительный кашель).
В качестве альтернативного способа, если вы знаете частоту ложных срабатываний датчика (группа не больных людей, но у которых отмечено наличие подозрительного кашля), то вам и не нужно измерять это, можно посчитать напрямую.
Предположим, что частота ложных обнаружений равна 5%, то есть детектор ошибочно определил 5% не больных коронавирусом людей как имеющих подозрительный кашель. Вы можете разбить вычисление вероятности вероятность (подозрительный кашель) на две части. Мы знаем, что 2% людей больны коронавирусом, а детектор верно определил, что у 95% из них подозрительный кашель. Также мы знаем, что остальные 98% населения не заражены. Детектор ошибочно определил 5% из них как имеющих подозрительный кашель. Следовательно, доля людей, идентифицированных корректно или нет на наличие кашля, составляет (0,02 × 0,95) + (0,98 × 0,05), итого 0,068. То есть при помощи детектора у 6,8% населения обнаружен подозрительный кашель. Получается, что вероятность (подозрительный кашель) = 0,068.
Теперь мы можем использовать все три вероятности для вычисления точности детектора. И все это благодаря прекрасным взаимоотношениям между четырьмя вероятностями, которые Байес сам же и установил. Это настолько просто, что мы можем вывести формулу самостоятельно буквально с нуля.
Предположим, что мы проверили наш детектор на тысяче человек. Учитывая, что 2% населения больны COVID–19 (помним, что вероятность (есть коронавирус) = 0,02), то у 20 человек из 1000 вирус будет обнаружен. Также мы знаем, что детектор не идеален и только лишь 95% из этих 20 действительно будут идентифицированы как имеющие подозрительный кашель (помним, что вероятность (подозрительный кашель | есть коронавирус) = 0,95). 95% от 20 равно 19. Соответственно, наш детектор отметит 19 больных из 20 как имеющих подозрительный кашель.
Мы также знаем, что у 6,8% населения детектор выявляет подозрительный кашель (помним, что вероятность (подозрительный кашель) = 0,068). Из этого следует, что из 1000 протестированных 68 получат отметку о подозрительном кашле. Но мы только что вычислили, что только 19 из тех, кто отмечен, действительно больны коронавирусом. Таким образом, доля тех, кто подозрительно кашляет и кто болен, составляет 19/68 или 0,279. Таким образом, 27,9% из тех, кто идентифицирован системой на признаки подозрительного кашля, на самом деле больны.
В действительности, не имеет значение количество протестированных. Такой же результат мы получим, если исходное количество будет 10 000 или 100 000. Теорема Байеса систематизирует это рассуждение, говоря нам, что эти четыре вероятности связаны простым и красивым уравнением:
вероятность (подозрительный кашель | есть коронавирус)
=
вероятность (подозрительный кашель)
= (0,95 х 0,02) / 0,068
= 0,279
Таким образом, хотя наша система правильно определяет 95% людей как больных коронавирусом и имеющих подозрительный кашель, вероятность того, что случайный человек, у которого детектор выявил подозрительный кашель, действительно болен COVID–19, составляет всего лишь 27,9%. Иными словами, в большинстве случаев, когда детектор обнаруживает человека с патологическим кашлем, у него нет коронавируса. И наш детектор оказывается не очень-то и хорош!
Проблема заключается в том, что большинство людей не инфицировано коронавирусом. Следовательно, проведение тестирования наугад, даже если тест на кашель максимально точен, скорее всего, даст большое количество ложноположительных результатов. Такие рассуждения важны не только для толкования полученных от детектора данных, но и могут использоваться в других системах на основе искусственного интеллекта от распознавания речи до рекомендаций фильмов. На самом деле, теорема Байеса настолько основополагающая в разработке программного обеспечения, что часто приравнивается по значимости к теореме Пифагора в геометрии [1]. Во многих системах искусственного интеллекта она стала неотъемлемой составляющей для расчета вероятностей. Из всего вышесказанного вытекает шестая основная идея, используемая в разработке искусственного интеллекта сегодня. Можно вычислить вероятность события, имея наблюдение о нем, с помощью теоремы Байеса.
Теорема Байеса сегодня находит множество применений в различных областях. Например, благодаря ей спам приходит на вашу электронную почту реже, чем раньше, поскольку в функционал встроен фильтр, использующий теорему Байеса для вычисления вероятности того, что новое письмо является спамом. Рекомендации на стриминговом сервисе Netflix также используют теорему, чтобы вычислить вероятность того, что определенный фильм понравится вам. Такие предсказания достаточно точны. Четыре фильма из пяти, которые смотрят на сервисе не те, что целенаправленно вбиваются в поиск, а рекомендованные ИИ [2]. В 1970-е годы ВМС США использовали теорему Байеса для вычисления возможных траекторий советских атомных подводных лодок.
Илл. 24. Преподобный Томас Байес
К сожалению, нам известно очень мало о математическом вдохновителе такой значимой идеи. Преподобный Томас Байес родился в 1701 или 1702 году, вероятнее всего, в Хартфордшире. После изучения логики и теологии в университете Эдинбурга он стал пресвитерианским священником. Он скончался в 1761 году и за всю жизнь опубликовал всего лишь две работы: трактат о богословии и обоснование системы вычислений Ньютона. Работа на тему вероятности была опубликована спустя два года после смерти Байеса его другом, математиком и коллегой-теологом преподобным Ричардом Прайсом[81]. Прайс считался великим валлийским философом всех времен, внеся значительный вклад в развитие концепций в таких областях, как теология, экономика и финансы, теория вероятности и страхование жизни [3]. Возможно, Байес не был таким продуктивным, но тем не менее одна идея о вычислении вероятности сделала его одним из самых влиятельных математиков за всю историю.
Мы подошли к проблеме курицы и яйца, прекрасному примеру, иллюстрирующему широкий спектр применения идеи Байеса. В области искусственного интеллекта существует метод под названием SLAM, метод одновременной локализации и картографирования.
Предположим, что вы представитель компании Waymo и хотите создать беспилотный автомобиль. Установив дорогой лидар[82] на крыше автомобиля, вы можете использовать данные с этого и других датчиков для того, чтобы составлять карту окружающего мира, определяя препятствия в виде пешеходов и велосипедистов, которые не могут быть обнаружены при помощи GPS, и устанавливать точное местонахождение транспортного средства при смене картинки окружающего мира.
Именно здесь мы сталкиваемся с проблемой курицы и яйца. Невозможно определить собственное местонахождения без актуальной карты. И также невозможно создать актуальную карту без определения, где находитесь вы и датчик. Каким-то образом необходимо решить две задачи одновременно. В этом случае нам поможет технология SLAM, использующая идею Байеса о синхронном обновлении возможного местоположения автомобиля и объектов на карте.
На самом деле, возможно, что исследователи искусственного интеллекта неумышленно воссоздают части человеческого мозга. Доказано, что гиппокамп, часть головного мозга, отвечающая за пространственное мышление и память, оказывается вовлечен и в вычисления по типу SLAM[83].
Беспилотные автомобили в значительной степени опираются на карты высокой четкости и GPS. Проблема заключается в том, что не всегда можно далеко уехать, используя GPS, так как карты не обновляются, препятствия в виде пешеходов, велосипедистов и машин не отображаются на картах, и система навигации может зависнуть во время движения по улицам в окруженных зданиями кварталах или туннелям, а беспилотным автомобилям необходимо иметь отображение местности.
Stanley, беспилотный автомобиль, выигравший два миллиона долларов в заезде по пустыне Мохаве в 2005 году, использовал технологию SLAM для определения и составления карты окружающей территории, считывая данные с нескольких датчиков: лидара, GPS, камер и гироскопов. Таким образом, он мог создавать высокоточные 3D-карты пространства с точностью до 4–5 сантиметров.
Однажды такие беспилотные автомобили, как Stanley, значительно сократят количество дорожных происшествий и потребление энергии, смогут оптимизировать расположение автомобилей на загруженных дорогах и позволят пассажирам быть более продуктивными и мобильными, особенно вопрос мобильности касается тех, кто лишен ее ввиду возраста или ограниченных возможностей. Почему же требуется так много времени на создание полноценных беспилотных транспортных средств? Общество автомобильных инженеров выделяет пять уровней автономности. Если считать с нуля, то все шесть.
• Уровень 0 (Автоматизация отсутствует). Все находится под человеческим контролем, даже если автомобиль оборудован такими системами, как автоматическое экстренное торможение.
• Уровень 1 (Помощь водителю). Автомобиль помогает с рулевым управлением или ускорением/торможением, используя данные об условиях вождения. Тем не менее человек все еще отвечает за выполнение большинства задач.
• Уровень 2 (Частичная автоматизация). Автомобиль контролирует как рулевое управление, так и ускорение и торможение, но водитель все еще вовлечен в процесс, поскольку должен следить за дорогой.
• Уровень 3 (Условная автоматизация). Автомобиль справляется с функциями вождения в определенных условиях, но водитель должен быть готов перенять их при необходимости.
• Уровень 4 (Высокая автоматизация). Автомобиль выполняет все функции и следит за дорогой, но только в определенных условиях или на определенной местности. В этих случаях вмешательство человека не требуется, но в некоторых других ситуациях оно может быть необходимо.
• Уровень 5 (Полная автоматизация). Автомобиль выполняет все функции вождения в любых условиях без вмешательства человека.
На данный момент самые продвинутые беспилотные автомобили, доступные в продаже, находятся где-то между третьим и четвертым уровнями. К слову, беспилотные такси, вводимые в эксплуатацию в Сан-Франциско и некоторых других городах США, имеют четвертый уровень. Тем не менее достичь пятого уровня полной автоматизации – все еще задачка со звездочкой, несмотря на обещания Илона Маска. Потребуется решить некоторые проблемы, связанные с неблагоприятными погодными условиями, непредсказуемым человеческим поведением и редкими чрезвычайными ситуациями.
В 2017 году Volvo представила на рынок Австралии полуавтономный автомобиль, который не мог опознать кенгуру[84]. Такая ошибка потенциально опасна, что знает каждый, кто хотя бы раз сталкивался с кенгуру на австралийской проселочной дороге. Проблема в том, что алгоритм SLAM не был настроен на распознавание и отслеживание прыгающих животных, только лишь на тех, кто ходит или бегает.
Другая сложность заключается в знаменитой «проблеме вагонетки», которая сильно будоражит общество, но не экспертов. Что произойдет, если беспилотный автомобиль повернет за угол и обнаружит посередине проезжей части маму с ребенком? Свернет ли он с дороги, тем самым вызвав столкновение с кирпичной стеной, отчего пострадают пассажиры? Или наедет на пешеходов, что может стать причиной их смерти?
Проблема вагонетки – этическая дилемма касательно сошедшего с рельсов трамвая, сформулированная в 1967 го-ду английской писательницей и философом Филиппой Фут[85]. Пять человек лежат связанными на путях, по которым движется трамвай, а вы стоите рядом со стрелкой. Если вы опустите рычаг, то трамвай перейдет на другой путь, на котором также лежит связанный человек. Вам нужно сделать выбор: не делать ничего, и тогда под трамваем погибнут пять человек, или дернуть рычаг, переведя трамвай на другой путь, что повлечет за собой смерть только одного человека. Что вы выберете?
Существует множество интерпретаций этой дилеммы, включая «проблему толстяка», которого столкнули с моста, чтобы ценой его жизни спасти несколько других, а также пересадку органов живых людей без их согласия во благо других. И действительно, сегодня философы поговаривают о таком разделе этики, как «вагонеткология». Фут представила проблему вагонетки как способ более конструктивного обсуждения морально-этических вопросов, связанных с допустимостью аборта. Например, считается ли прерывание беременности обоснованным, если на кону жизнь матери?
Несомненно, проблема вагонетки захватила умы философов и общественности, но в значительной степени она не имеет никакого значения при проектировании беспилотных автомобилей. Автомобили не понимают мир на достаточном уровне, чтобы размышлять о таких высоконравственных вопросах. При просмотре видео, демонстрирующего работу беспилотного автомобиля, если вы видите перед собой подсвеченную зеленым цветом дорогу, то это означает, что движение безопасно и какие-либо препятствия отсутствуют. В случае, если дорога не подсвечивается зеленым, то в соответствии с заданной программой автомобиль будет резко тормозить. Вот так. Механизм управления в сложных ситуациях у беспилотных автомобилей достаточно прост и заключается в следующем.
ВЫПОЛНЯТЬ ДВИЖЕНИЕ, КОГДА ДОРОГА ПОДСВЕЧЕНА ЗЕЛЕНЫМ ЦВЕТОМ, В ПРОТИВНОМ СЛУЧАЕ РЕЗКО ТОРМОЗИТЬ.
Думаю, что с решением этой проблемы мы успешно справимся, в результате чего окажемся на пятом уровне полной автоматизации. В конце концов, беспилотные автомобили обладают массой преимуществ по сравнению с теми, что управляются человеком. Они активируют сенсоры для картографирования в неблагоприятных погодных условиях и темноте, реагируют с электронной, а не биологической скоростью, никогда не устают, не отвлекаются и не находятся в состоянии алкогольного опьянения. Раз уж подростки могут научиться, я почти не сомневаюсь, что и компьютеры тоже будут водить.
Эксперты по-разному оценивают время, которое нам понадобится, чтобы достичь пятого уровня. Оптимисты предполагают, что потребуется от пяти до десяти лет, другие же считают, что это займет десятки лет. Отчасти срок достижения цели будет зависеть от нашей терпимости к ущербу, который причиняет искусственный интеллект в сравнении с тем, что причиняет человек. Вне зависимости от того, сколько времени это займет, надеюсь, что, в конце концов, оглянувшись назад, мы будем поражены тем, что позволяли людям садиться за руль и устраивать кровавые происшествия на дорогах. И все это благодаря преподобному Томасу Байесу.