Им закон не писан: нужна ли роботам своя конституция?

Им закон не писан: нужна ли роботам своя конституция?

«Мы хотим в будущем доверить машинам наши жизни, дома, быт и безопасность. Почему мы считаем, что роботы не заслужили собственной конституции? – спрашивает у меня Перикл Сальвини, научный сотрудник BioRobotics Institute (Пиза), один из руководителей европейского проекта RoboLaw, и тут же оговаривается. – Я понимаю, что многие посчитают нашу деятельность бессмысленной: ведь настоящих роботов пока больше в медиа, чем в реальной жизни. Но чтобы обосновать новые законы робототехники, нужно не меньше времени, чем на создание первого массового персонального робота. Будем работать параллельно с инженерами».

RoboLaw заработал ровно год назад, в марте 2012-го, получив грант от Европейской комиссии в размере 1,5 млн евро. Через несколько месяцев Сальвини и его коллеги из английских, немецких и французских университетов должны представить чиновникам свод предложений и рекомендаций по созданию законодательства, которое бы регулировало разработку, продажу и деятельность роботов в Европе. Свод рекомендаций – это не просто список возможных направлений законодательного регулирования, но и концепция, идеология будущего мира роботов: RoboLaw обещает установить взаимосвязь между техническими, правовыми и моральными нормами, уже сформированными на этом рынке. За пределами их исследования остались лишь военные роботы, разработкой законодательной базы для которых занимаются сейчас в США.

Это не первая попытка выйти за узкие границы «Трех законов робототехники» Айзека Азимова, логика которых долгое время была неформальным правилом для всех добросовестных разработчиков. 3 года назад американские профессора-системотехники Дэвид Вудс и Робин Мерфи предложили свою версию трех основных законов. В их интерпретации законы получили несколько иной смысл – на людей возлагается больше ответственности, чем предусматривают оригинальные азимовские постулаты:

Человек не может использовать робота без рабочего плана взаимодействия человека и робота, составленного по высоким правовым и профессиональным стандартам в области безопасности и этики.Робот должен реагировать на людей в зависимости от их роли.Робот должен быть наделен достаточной автономией действия в зависимости от ситуации для защиты своего собственного существования до тех пор, пока такая защита обеспечивает плавную передачу контроля, которая не противоречит первому и второму законам.

Сальвини говорит, что предложение Вудса и Мерфи обсуждается в сообществе ученых-робототехников давно, и, хотя однозначно интерпретацию трех законов никто пока не поддержал, главный шаг сделан: дискуссия в академической среде по этой теме перестала быть эпизодической, превратившись в системную.

Вторая практическая основа, на которую опирается команда RoboLaw, – разнообразный японский опыт. В Японии первые шаги в этом направлении сделаны еще больше 10 лет назад, когда правительство утвердило проект Robot Challenge in the 21st Century, одной из задач которого является разработка новых законов. Правда, правовые наработки японских юристов и ученых пока так и не получили никакой формализации. «У них написаны тома с разнообразными вариантами правовой "упаковки" персональных и военных роботов», – рассказывает Сальвини.

Проблема лишь в том, что когда дело доходит до описания робота как субъекта права, традиционная законодательная система «зависает» и требует международных прецедентов, а их нет.

RoboLaw хочет облегчить жизнь законодателей, предложив им уже готовые и универсальные модели, которые бы затем легко внедрялись в национальные правовые системы.

Для разработки этих моделей в RoboLaw берут конкретные ситуации с уже существующими роботами в разных европейских странах и пытаются применить к ним действующие законы. Любимый пример Сальвини – эксперимент с роботами-уборщиками Dustbot в его родной Пизе. Dustbot, разработку которых также профинансировала Еврокомиссия, предназначены для сбора накопившегося на тротуарах и обочинах мусора. Одна из модификаций этого робота умеет собирать и дифференцировать отходы, вторая собирает бумажки на земле, моет дорожные покрытия, а также имеет сенсорное оборудование для взятия проб воздуха. Ориентируются по городу они с помощью GPS, а вызывать их (разработчики предполагают, что в мире будущего вызов роботов-уборщиков будет обычным делом) можно по SMS, написав в сообщении точное название улицы.

В RoboLaw специально взяли для эксперимента довольно простую и при этом самую перспективную модель бытовых роботов. Роботы-мусорщики – то, во что уже готовы вкладываться муниципалитеты Италии, Ирландии и Германии. Через несколько лет, судя по заявлениям муниципальных властей крупных городов в этих странах, такие дворники не будут удивлять прохожих, как никого не удивляют работающие на солнечных батареях «умные мусорные баки» в Дублине.

Вот на какие вопросы пытались ответить в RoboLaw, два года изучая экспериментальную (Dustbot убирали улицы по несколько недель) деятельность роботов-дворников. Как Dustbot соотносятся с установленными правилами дорожного движения? Итальянский кодекс не давал ответа на этот вопрос. Роботы-дворники оказывались в статусе, что называется, неустановленного объекта. Обладая некоторыми признаками автотранспортного средства (колеса и мини-фары), они в то же время и не имеют водителя – единственного ответственного, по кодексу, за те или иные нарушения.

Если робот случайно поцарапал чужой автомобиль или по тем или иным причинам создал препятствие на дороге, как городским службам регистрировать и оформлять эту ситуацию? Должны ли отвечать за сбои владельцы робота или производители программного обеспечения? И могут ли в таких случаях владельцами быть частные лица? Где граница, за которую не должны заходить собственники персональных роботов? Как водители автомобилей, мотоциклов и скутеров, пешеходы и велосипедисты должны вести себя на проезжей части или в пешеходной зоне относительно таких автономных объектов, какие правила соблюдать?

Да, уже есть практика использования беспилотного автомобиля Google в некоторых американских штатах, где правилами разрешены тестирования такого типа машин.

Но на один вопрос ответа так и не дано: если автономный автомобиль разбился, кто будет отвечать? Водитель? Google? Сам автомобиль?

Другие возможные участники процесса при прямом столкновении с роботами тоже, используя терминологию Сальвини, «зависали». Страховые компании не умеют роботов страховать, а службы защиты прав потребителей не знают, как оценивать результаты их труда. И понятно почему – перед ними вставала интересная правовая задачка. Функционал робота четко описан программными методами, этот функционал по умолчанию соответствует установленным нормам и не может быть изменен без стороннего преднамеренного вмешательства. Означает ли это, что во всех проблемах, связанных с роботами, нужно искать ответственное лицо? И как страховать автономные машины, если они не могли ничего нарушить по определению?

В результате эксперимента с Dustbot специалисты из RoboLaw поставили 17 принципиальных вопросов, ответы на которые не способно дать сегодня европейское законодательство (как общее, так и каждой конкретной страны ЕС). Всего же, с учетом пизанских опытов с «мусорщиками», таких вопросов сформулировано 120 – и касаются они далеко не только уличного регулирования продуктов робототехники.

Например, отдельная проблема лежит в плоскости сбора личных данных. Персональные роботы в наших домах (а также в больницах и других организациях, где уже возможно использовать их труд) неизбежно будут собирать информацию о том, кто мы такие и что мы делаем, – это часть их адаптационного функционала, без него работа личных помощников невозможна. Даже самые простые роботы, предназначенные для телеприсутствия и уже продающиеся на рынке, знают о нас часто слишком много. Какие законы и нормы обеспечат конфиденциальность этой информации? Где она будет храниться? Что будет происходить с ней при утилизации роботов, сдаче их в аренду или перепродаже? Ответы на эти вопросы должен давать закон, а не каждый потребитель или компания в отдельности – на свое усмотрение. Рынок персональных роботов при этом растет стремительно: эксперты ожидают, что его объем в 2015 году составит $18 млрд. Вместе с рынком столь же стремительно будет расти и объем собранной о нас информации.

Сальвини уверенно отвечает на вопрос, справится ли команда его юристов с объемом поставленных задач: тут проблем нет, рекомендации для Еврокомиссии уже почти готовы. Куда сложнее создать концептуальный фундамент для правовой модернизации. Над этим в команде RoboLaw сейчас ломают головы философы, социологи и психологи. Что такое персональный робот – объект или субъект? Сильно ли он отличается от холодильника на кухне или ноутбука на нашем столе? Или он больше соответствует по статусу домашнему животному? Может быть, в будущем с роботами будут складываться детско-родительские отношения, в рамках которых «родители» должны нести личную ответственность?

В RoboLaw признаются, что на такие вопросы им отвечать страшнее всего, в этот момент они понимают, что привычный мир меняется быстрее, чем они успевают его анализировать.

Источник: slon.ru

Похожие новости:
Роботы смогут передвигаться при помощи «лыжных палок»
Стэнфордские инженеры представили модель антропоморфного робота SupraPed, который сохраняет равновесие на пересеченной местности благодаря «лыжным палкам», сообщает интернет-издание IEEE Spectrum. Оснащенные многочисленными датчиками палки позволят двуногим роботам рассчитывать безопасность следующего шага. Люди ..
2014-07-15 1080 0 Разное, интересное
0
Робот Google Schaft победил на конкурсе DARPA
В субботу 16 команд робототехников со всего мира соревновались в «DARPA Robotics Challenge Trials for 2013», в рамках проекта DARPA для разработки роботов, способных автономно управлять зонами бедствия и делать полезную работу, используя инструменты и материалы под рукой. Человекоподобный робот ..
2013-12-30 1141 0 Разное, интересное
0
Роботов поставили в ситуацию морального выбора
Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) ..
2014-09-16 1182 0 Разное, интересное
1
В США выбирают лучшего человекоподобного робота
В Майами проходит второй этап состязания за звание лучшего андроида. Роботам из США, Китая, Германии, Японии и Южной Кореи предстоит выполнить восемь заданий, чтобы доказать, что они способны принести пользу людям. В том числе они должны уметь открывать дверь, ..
2013-12-23 1044 0 Разное, интересное
0
В каракулях да Винчи обнаружили открытый им закон трения
Тщательное изучение малоизвестных рукописей Леонардо да Винчи позволило историкам найти записанные им еще в 1493 году законы трения. Об открытии сообщается в пресс-релизе Кембриджского университета.Профессор технологии машиностроения Йен Хатчингс (Ian Hutchings) обнаружил, что первые наброски законов трения да Винчи ..
2016-07-25 1192 0 Разное, интересное
0
Робота Nao посадили за руль BMW
В Калифорнии антропоморфного робота Nao впервые посадили за руль автомобиля — хотя и миниатюрного, сообщает интернет-издание IEEE Spectrum. До недавнего времени водителей из роботов сделать не получалось — роботизированные (самоуправляемые) автомобили справляются с задачей автоматического вождения гораздо лучше. На конкурсе, который ..
2014-09-16 1140 0 Разное, интересное
0
Ученый из Казахстана разработал проект вечного двигателя
Казахстанский изобретатель Бахытжан Альменов заявил, что разработал проект вечного двигателя. Энергию ученый планирует получить с помощью силы Архимеда. Однако коллеги отнеслись к его идее скептически, сообщает корреспондент МТРК «Мир» Чингиз Майсеитов. «В Женевском международном патентном ..
2013-01-16 2556 0 Разное, интересное
0
Названа дата открытия корейского «Диснейленда с роботами»
Южная Корея определилась со сроками открытия парка Robot Land, посвященного роботам. Парк начнет работу в 2016 году, в то время как его часть с аттракционами откроется уже в 2015 году, передает издание Robohub. Парк будет состоять из развлекательной и образовательной площадок. На первой ..
2014-01-27 1080 0 Разное, интересное
0
Демону Максвелла помогло квантовое запутывание
Физики показали, что учет квантовых эффектов делает перевод информации в энергию еще эффективнее, чем считалось ранее. Работа пока не принята к публикации, но ее препринт доступен на сайте Корнельского университета. Кратко о результатах исследования пишет блог издания Technology Review. Авторы рассмотрели ..
2012-08-3 1206 0 Разное, интересное
0
Создан биоробот с мышечными тканями
Уже достаточно давно ученые пытаются найти лучшие способы совмещения биологических тканей и робототехнических технологий. Биологические материалы могут дать роботам возможность быстрой адаптации к резким изменениям окружающей среды. И это может оказаться весьма полезной функцией для многофункциональных ..
2016-03-23 1879 0 Разное, интересное
-1
США создали робота-червяка
Американские инженеры разработали нового робота, который имитирует движения червя и способен передвигаться сквозь узкие отверстия, говорится в видеопрезентации Массачусетского технологического университета. Финансирование проекта ведется за счет Управления перспективных разработок (DARPA) Пентагона. Новый робот, ..
2012-08-11 1461 0 Разное, интересное
0
Эксперт прокомментировал будущую остановку работы GPS в России
Автолюбители, пилоты и туристы не почувствуют ухудшения точности навигации в случае остановки работы наземных станций GPS в России, заявил РИА Новости главный редактор журнала "Новости космонавтики" Игорь Маринин. Россия с 1 июня приостановит работу 11 наземных станций GPS на своей территории, ..
2014-05-13 1163 0 Разное, интересное
0
Выполнение закона Мура на протяжении 50 лет стало сюрпризом для его автора
Основатель Intel Гордон Мур признался, что удивлен точным исполнением открытого им закона на протяжении полувека. Об этом он заявил, отвечая на вопрос корреспондента «Ленты.ру». «В 1965-м передо мной не стояла задача вывести некий закон. От меня требовалось снизить стоимость комплектующих ..
2015-03-26 1298 0 Разное, интересное
0
Они собирают будущее
Сила, ловкость, грациозность и даже признаки интеллекта и эмоций - в выставочный центр "Крокус Экспо" на фестиваль съехались сотни роботов. По воле своих создателей, они танцуют, играют в футбол, соревнуются в борьбе. А главное при этом - не просто удивить, но предложить идеи для решения ..
2013-02-9 1197 0 Разное, интересное
0
В Японии разработан прототип искусственного разума
Синтетический интеллект способен обрабатывать гигантское количество информации, но давать роботам возможность мыслить ученые пока боятся.Они уже умеют очень многое из того, что делает их похожими на людей: ходить и бегать на двух ногах, различать лица, поддерживать диалог, выполнять ..
2013-01-31 2437 0 Разное, интересное
0