» Научные эксперты ЮНЕСКО изучают вопросы прав роботов
16.09.2016 - Social and Human Sciences Sector

Научные эксперты ЮНЕСКО изучают вопросы прав роботов

© Shutterstock.com / Willyam Bradberry

Группа экспертов в области этики науки и технологии приступила к рассмотрению вопроса о возможности роботов стать «моральными машинами» с потенциальными юридическими правами, если они обретут способность испытывать эмоции и различать хорошее и плохое.

«С учетом будущих достижений в этой сфере исследований, не стоит исключать возможность появления в будущем у роботов чувствительности, эмоций и, соответственно, морального статуса», - говорится в заявлении рабочей группы по новым технологиям Всемирной комиссии ЮНЕСКО по этике научных знаний и технологии (КОМЕСТ), являющейся научным консультативным органом ЮНЕСКО, в предварительном проекте доклада, вышедшем в этом месяце.

С тех пор, как первые промышленные роботы стали применяться в автомобильном производстве в 1950-х годах, они стали частью современной жизни. Роботов используют на фабриках, в зонах военных действий, в медицине, при уходе за пожилыми людьми и лечении детей, страдающих аутизмом. Ставшие популярными благодаря научно-фантастическим романам, фильмам и телевизионным передачам, от «Звездных войн» до «Терминатора», роботы в последнее время все больше на виду. Эксперты даже делают предположения о возможности людей влюбляться в роботов или вступать с ними в сексуальные отношения.

В «Предварительном проекте доклада КОМЕСТ по этике робототехники» рассматриваются этические вопросы, связанные с использованием автономных роботов и их взаимодействием с людьми. Согласно докладу, активная разработка автономных роботов с высоким уровнем интеллекта может поставить под сомнение нынешнюю классификацию живых существ, основанную на их моральном статусе, точно так же или, быть может, еще более кардинально, чем это сделали активисты движения за права животных.

Поведение робота − даже если он отличается сложным строением, высоким интеллектом и автономностью − определяет человек. Однако, если допустить, что роботы будущего скорее всего станут еще сложнее, чем нынешние (возможно, они даже будут способны использовать накопленный опыт и программировать самих себя), то характер их алгоритмов, то есть набор точных инструкций относительно функционирования робота, вероятно, станет вопросом, заслуживающим «серьезных размышлений и внимания с точки зрения этики», сообщается в докладе.

Хотя большинство ученых, работающих над вопросом «этики машин», сходятся во мнении, что роботы ещё далеки от того, чтобы стать «моральными агентами» наподобие людей, существует предположение, что роботы могут обрести в будущем человеческие черты характера, например, чувство юмора.

Благодаря научной фантастике, преобладает мнение, что роботы – это машины, которые выглядят, думают и ведут себя как люди. Однако роботы не обязательно имеют человеческие черты. Это могут быть умные машины, выполняющие обычные, повторяющиеся и опасные механические задачи.

«Скорее всего, автономия роботов возрастет до такой степени, что будет необходимо встраивать им систему этических норм путем программирования с помощью этических кодов, специально разработанных для предотвращения опасного поведения (например, нанесения вреда людям или окружающей среде)», – отмечается в докладе.

Согласно докладу, учитывая сложность современных роботов, встает вопрос о том, кто будет нести ответственность – с точки зрения этики и закона – в случае, если робот выйдет из строя и нанесет вред людям. Робототехника по-прежнему не регулируется ни с этической, ни с юридической точки зрения. Возможно, это объясняется относительной новизной и быстрым развитием этой области исследований, влияние которой на реальный мир трудно предугадать.

«Очень вероятно, что наличие сбоев в работе современных сложных роботов может причинить значительный ущерб очень большому числу людей (например, при выходе из-под контроля вооруженных военных роботов или автономных роботов-автомобилей), - сообщается в докладе. – В связи с этим, вопрос не только в том, должны ли инженеры, создающие роботов, соблюдать определенные этические нормы, но и в том, нужно ли встраивать определенные этические нормы в самих роботов».

ЮНЕСКО играет ведущую роль в плане глобального содействия развитию этической науки: науки, которая делится благами прогресса со всеми, уберегает планету от экологической катастрофы и создает прочную основу для мирного сотрудничества.

***

·       Скачать Предварительный проект доклада (на английском)

·       Вопросы и ответы по докладу (на английском)

Контакт

Секретариат МКБ – МПКБ - КОМЕСТ

 E-mail: ibc(at)unesco.org / comest(at)nesco.org




<- назад в: Обзор новостей
К началу страницы