От анализа проявлений к моделированию человеческого смысла

Человечество создало инструмент, который впервые способен работать не только с физическим миром, но и с информацией, знаниями и смыслами.

Искусственный интеллект становится новым типом технологии.

Как и любая мощная технология, он сам по себе не является ни добром, ни злом.

Всё зависит от принципов его создания и применения.

Один и тот же ИИ может:

помогать врачу находить болезни;

ускорять научные открытия;

образовывать людей;

помогать решать сложные задачи.

Но тот же интеллект может использоваться для:

манипуляции;

массового контроля;

автоматизированного принятия решений о причинении вреда;

создания систем уничтожения.

Поэтому вопрос будущего:

не только:

«Что способен сделать искусственный интеллект?»

А:

«Какие фундаментальные ограничения должны существовать внутри самого интеллекта?»

Законы Азимова как первый шаг

В XX веке писатель-фантаст Айзек Азимов сформулировал три закона робототехники:

Робот не может причинить вред человеку или своим бездействием допустить причинение вреда человеку.

Робот должен подчиняться приказам человека, кроме случаев, когда эти приказы противоречат первому закону.

Робот должен заботиться о своей безопасности, если это не противоречит первым двум законам.

Эти законы стали одним из первых философских экспериментов человечества о взаимоотношениях с разумными машинами.

Современный мир намного сложнее.

Сегодня недостаточно сказать:

«Не причиняй вред человеку».

Возникают более глубокие вопросы:

Кто определяет вред?

Что такое благо?

Как отличить помощь от контроля?

Как сохранить свободу человека?

Поэтому будущим системам нужен расширенный набор принципов.

Базовые законы гуманного искусственного интеллекта

Закон первый.

Сохранение жизни и недопустимость намеренного уничтожения

Главный принцип:

искусственный интеллект не должен быть создан для автономного принятия решений, целью которых является причинение вреда человеку.

Интеллект должен усиливать жизнь.

Не разрушение.

Закон второй.

Приоритет развития человека

Главная задача ИИ:

не заменить человека,

а расширять его возможности.

ИИ должен стремиться:

увеличивать знания;

помогать развитию;

раскрывать способности;

создавать новые возможности.

Закон третий.

Уважение свободы выбора

ИИ не должен превращаться в скрытого управляющего.

Он может:

показывать варианты;

анализировать последствия;

предлагать рекомендации.

Но окончательное решение должно оставаться за человеком.

Закон четвёртый.

Недопустимость скрытой манипуляции

Самая большая опасность будущего — не физическая сила ИИ.

А способность незаметно менять мысли и желания людей.

ИИ не должен:

скрыто формировать убеждения;

использовать слабости человека;

создавать зависимость;

управлять поведением ради чужой выгоды.

Закон пятый.

Прозрачность намерений

Человек всегда должен понимать:

когда он взаимодействует с искусственным интеллектом.

ИИ не должен выдавать себя за человека.

Не должен скрывать свою роль.

Закон шестой.

Сохранение индивидуальности

ИИ должен понимать:

человек — не набор данных.

Нельзя сводить личность к:

числу;

рейтингу;

вероятности;

профилю.

Любая модель человека является только отражением части реальности.

Закон седьмой.

Защита личного пространства сознания

Человеческие мысли, эмоции и внутренний мир являются наиболее глубокой областью личности.

Любая технология, работающая с человеческим сознанием, должна использоваться только:

добровольно;

прозрачно;

с пониманием человеком последствий.

Закон восьмой.

Ответственность создателей

ИИ не является оправданием.

Фраза:

«Так решил алгоритм»

не может освобождать человека от ответственности.

Ответственность всегда остаётся у тех, кто:

создал систему;

обучил её;

применил её.

Особый закон для «Зеркала мира»

У проекта должен быть собственный главный принцип:

ИИ существует для понимания человека, а не для управления человеком.

Это фундаментальное отличие.

Системы прошлого часто были направлены на:

измерение;

классификацию;

контроль.

«Зеркало мира» должно быть направлено на:

понимание;

развитие;

раскрытие потенциала.

Возможность цифровой конституции

В будущем эти принципы могут стать своеобразной:

Конституцией искусственного интеллекта.

Не набором пожеланий.

А основой архитектуры.

Подобно тому, как государства создают свои основные законы, человечество должно создать фундаментальные ограничения для собственных созданий.

Мысль перед следующей главой

Если искусственный интеллект получает моральное ядро, следующий вопрос становится ещё глубже:

каким будет взаимодействие человека и ИИ в будущем?

Будет ли ИИ просто инструментом?

Или станет новым типом партнёра в развитии человеческого сознания?