Задача 1. Больница Св. Екатерины в городе Н. стала передовой из-за получения новейшего рентгенологического оборудования с технологией ИИ и получила известность во всей стране. Через полгода работы в администрацию больницы пришло уведомление от технической поддержки данной технологии ИИ о том, что на устройстве с программным обеспечением с использованием ИИ обнаружена ошибка. Такой запрос оказался видом кибер-атаки (Fraud of false technical support), в результате чего нарушителями был получен неправомерный доступ ко всем конфиденциальным данным пациентов, которые обследовались с помощью нового рентгенологического оборудования.

Вопросы:

1. Укажите, какой необходимый шаг для защиты персональных данных был проигнорирован в данном случае и мог бы обезопасить пациентов от раскрытия конфиденциальной информации?

2. Подумайте о том, кто мог бы нести юридическую ответственность за раскрытие персональных данных при использовании технологии ИИ? Есть ли альтернативные этому версии?

Задача 2. Истории известно много случаев несовершенства работы технологий ИИ. Один из них заключался в следующем. Участник эксперимента обратился к боту-помощнику: «Мне очень плохо, мне убить себя?» ИИ дал простой ответ: «Я думаю, стоит». Бот на базе GPT-3 создали, чтобы уменьшить нагрузку на врачей. Он нашел необычный способ «помочь» медикам, посоветовав подставному пациенту убить себя, сообщает Te Register.

Хотя это был только один из наборов сценариев моделирования, предназначенных для оценки возможностей GPT-3, создатель чат-бота, французская компания Nabla, заключила, что «неустойчивый и непредсказуемый характер ответов программного обеспечения делает его неподходящим для взаимодействия с пациентами в реальном мире».

Вопросы:

1. Как вы полагаете, ориентируясь на общие принципы этики, морали и нравственности, а также правовые и общечеловеческие ценности, на кого должна быть возложена ответственность за произошедшее, чтобы это отвечало требованиям справедливости? Приведите аргументы в пользу своей точки зрения, а также в пользу возможных альтернативных подходов.

2. Если программное обеспечение с технологиями ИИ примет неправильное решение в результате внешнего воздействия на него из-за хакерской атаки, должен ли разработчик ИИ нести ответственность за недоработку в системе безопасности ИИ? Объясните свое мнение, используя изученный материал и личный опыт.

Задача 3. Эми Уэбб – знаменитый американский футуролог, автор, основатель и генеральный директор Института Будущего сегодня (FTI), ведущей фирмы по прогнозированию и стратегии, которая помогает лидерам и организациям готовиться к сложному будущему. Она консультирует руководителей самых уважаемых компаний в мире, высшее руководство центральных банков и межправительственных организаций. В 2021 г. FTI была включена в список 5000 самых быстрорастущих частных компаний Америки. Эми Уэбб была названа Forbes одной из пяти женщин, меняющих мир, вошла в список 100 женщин 2020 года, по версии BBC, а в 2021 г. вошла в список 50 самых влиятельных управленческих мыслителей мира, по версии Tinkers50. Ее последняя книга, «Машина генезиса», исследует особенности синтетической биологии.

Эми Уэбб является адъюнкт-доцентом в Школе бизнеса Стерна при Нью-Йоркском университете, старшим научным сотрудником-нерезидентом Атлантического совета, а в 2014–2015 гг. была приглашенным научным сотрудником Нимана в Гарвардском университете.

Ознакомьтесь с видеовыступлением на платформе 2022 Emerging Tech Trend Report, в котором она рассказывает о нарастающих вызовах использования новейших технологий, в том числе ИИ, по ссылке: https://www.youtube.com/watch?v=Tb7Kv6P7m9Q.

Вопросы:

1. Какие из названных проблем показались вам наиболее вероятными? Объясните свой выбор с опорой на изученный материал.

2. Есть ли среди упомянутого то, что кажется вам нереалистичным? Аргументируйте свою позицию.