Роботов поставили в ситуацию морального выбора

Роботов поставили в ситуацию морального выбора

Создав для роботов ситуацию этического выбора — кого из двух человек, одновременно попадающих в опасность, надо спасать — ученые выяснили, что больше всего смертей приносит не сам выбор, а слишком долгие размышления машины. О своем эксперименте Алан Винфилд (Alan Winfield) из Бристольской лаборатории робототехники рассказал на конференции по автономным роботам, которая прошла 2 сентября в Бирмингеме. Кратко об исследовании сообщается в интернет-издании New Scientist.

Винфилд запрограммировал робота удерживать другие автоматы (которые изображали людей) от падения в яму. Такой эксперимент представляет собой, по сути, иллюстрацию к первому закону робототехники А. Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Сначала у машины проблем не возникло: как только «человек» приближался к яме, робот быстро отодвигал его от опасного места. Но когда ученые добавили второй автомат, приближавшейся к ловушке с той же скоростью, перед роботом встала дилемма — кого спасать первым. Иногда ему удавалось удержать одного «человека», пару раз — двоих, но в 14 случаев из 33 робот столько времени тратил на этические размышления, что оба «человека» падали в яму.

Винфилд признает неутешительные результаты своего эксперимента и подчеркивает, что роботы все еще остаются «этическими зомби»: они, способны соблюдать определенный кодекс поведения, но не понимают его моральные основания.

Научить машины принимать этические решения могут специалисты по военной робототехнике. Рональд Аркин (Ronald Arkin) из разработал набор алгоритмов («этический руководитель»), который призван помочь роботам действовать на поле боя: в каких ситуациях прекращать огонь, в какой обстановке (около школы или больницы, например) стремится свести к минимуму количество жертв.

Аркин считает, что научить морали военных роботов будет проще всего, так как законы войны являются четкими и прописаны в международных договорах. В отличие от живых солдат, подверженных эмоциям и аффектам, машины никогда не нарушат эти законы.

Lenta.ru

Похожие новости:
Представлен план захвата Солнечной системы роботами
Эксперты Космического центра Кеннеди НАСА (США) описали сценарий, согласно которому, по их мнению, Солнечная система, в частности, Луна, может быть освоена автономной и расширяющейся популяцией роботов. Препринт исследования находится в распоряжении редакции «Ленты.ру».Моделирование, проведенное учеными, ..
2016-12-23 4158 0 Разное, интересное
0
В Кембридже создали робота, совершенствующего своё потомство
Теория природного отбора, популяризируемая Чарльзом Дарвином, продемонстрирована на примере роботов. Так называемый «мама-робот», спроектированный исследователями Кембриджского университета, умеет разрабатывать, собирать, тестировать, определять самые удачные образцы и улучшать своих «детей-роботов», которые с каждым новым поколением ..
2015-08-22 4308 0 Разное, интересное
1
Создан робот с искусственным интеллектом
"Про многих японских роботов можно сказать: да, они ходят очень красиво, но они не способны адаптироваться к окружающей среде. Если он идет по ровной поверхности, и там поставили порог, он споткнется и упадет. Наши алгоритмы позволяют распознать это препятствие и преодолеть его", - рассказал сотрудник ..
2012-06-19 2882 0 Разное, интересное
0
Организация HRW призывает к запрету роботов-убийц
Международная организация Human Rights Watch (HRW) на этой неделе выпустила новый отчет, в котором призывает всему миру полностью отказаться от автономного оружия "пока не стало слишком поздно". В 50-страничном докладе, совместно опубликованном HRW и Гарвардской юридической школой, признается, ..
2012-11-20 1204 0 Разное, интересное
1
Колумбийские роботы готовятся к большому футболу
Группа инженеров из Университета Санто-Томас в Боготе производит последние настройки. Вот так выглядит колумбийская команда роботов-футболистов. Не очень приглядные на вид, эти маленькие чудо-машины способны самостоятельно вести командную игру. Себя они должны показать на ежегодном международном чемпионате по футболу среди ..
2013-06-21 1200 0 Разное, интересное
0
Определены сроки появления покоряющих Млечный Путь разумных машин
Британский ученый Андреас Хейн оценил сроки, когда искусственный интеллект сможет отправиться в межзвездное путешествие. Препринт исследования находится в распоряжении редакции «Ленты.ру».Хейн полагает, что к 2050-2060 годам будет создана машина, интеллектуальные возможности которой будут сопоставимы ..
2017-01-17 2576 0 Разное, интересное
0
Ученые создали сферического робота
Испанские ученые сконструировали робота, имеющего сферическую форму, который способен передвигаться по неровной поверхности с целью мониторинга различных видов агротехники. Вместо того чтобы полагаться на колесных роботов, которые могут застрять, или роботов с ногами, которые могут просто ..
2013-06-25 1416 0 Разное, интересное
0
Названа дата открытия корейского «Диснейленда с роботами»
Южная Корея определилась со сроками открытия парка Robot Land, посвященного роботам. Парк начнет работу в 2016 году, в то время как его часть с аттракционами откроется уже в 2015 году, передает издание Robohub. Парк будет состоять из развлекательной и образовательной площадок. На первой ..
2014-01-27 1103 0 Разное, интересное
0
В олимпиаде по робототехнике в Сочи приняло участие рекордное количество стран
На международной олимпиаде по робототехнике в Сочи (WRO Russia 2014) приняло участие рекордное количество стран — 47. Об этом сообщил на мероприятии Вениамин Каганов, заместитель министра образования и науки РФ. Каганов сообщил, что по уточненным данным мероприятие посетили 2,6 тысячи гостей. По данным ..
2014-11-26 1030 0 Разное, интересное
0
DARPA разрабатывает автономные роботизированные руки
Роботы все чаще используются войсками для того, чтобы держать солдат, как говорится, от греха подальше. Но каждый бот, как правило, имеет весьма специфический набор функций из-за программных ограничений. Программа автономных роботизированных манипуляций ARM (Autonomous Robotic Manipulation) агентства ..
2013-04-6 1468 0 Разное, интересное
0
Роботы смогут передвигаться при помощи «лыжных палок»
Стэнфордские инженеры представили модель антропоморфного робота SupraPed, который сохраняет равновесие на пересеченной местности благодаря «лыжным палкам», сообщает интернет-издание IEEE Spectrum. Оснащенные многочисленными датчиками палки позволят двуногим роботам рассчитывать безопасность следующего шага. Люди ..
2014-07-15 1099 0 Разное, интересное
0
В Конго управление уличным движением поручили роботу
В столице Демократической Республики Конго Киншасе установили двух человекоподобных роботов, предназначенных для управления уличным движением. Об этом сообщается в видеосюжете телеканала CCTV Africa. Роботы размещены на оживленных перекрестках с автомобильным и пешеходным движением и выполняют роль светофоров. Огни, выполненные ..
2014-02-04 1095 0 Разное, интересное
0
Робота Nao посадили за руль BMW
В Калифорнии антропоморфного робота Nao впервые посадили за руль автомобиля — хотя и миниатюрного, сообщает интернет-издание IEEE Spectrum. До недавнего времени водителей из роботов сделать не получалось — роботизированные (самоуправляемые) автомобили справляются с задачей автоматического вождения гораздо лучше. На конкурсе, который ..
2014-09-16 1167 0 Разное, интересное
0
Миллионер из России создаст бессмертного киборга
В субботу 15 июня этого года представитель проекта ”Россия 2045” Дмитрий Ицков собрал лучшие умы мира и несколько роботов в Нью-Йорке для обсуждения вопросов бессмертия. Ицков, выглядящий моложе своих 32 лет, представил четкое расписание этапов для достижения поставленной цели: ..
2013-06-18 2051 0 Разное, интересное
0
Американские ученые оценили угрозу роботов для рынка труда
Подавляющее большинство экспертов считает, что беспилотные автомобили, роботы-медсестры и секретари станут нормой через 10 лет, однако они по-разному относятся к такому будущему. Американский социологический центр Pew Research провел опрос 1800 ученых, экономистов и других аналитиков на тему влияния ..
2014-08-09 1182 0 Разное, интересное
0