Роботов обучат этике через чтение книг

Роботов обучат этике через чтение книг

Ученые из Колледжа компьютерных наук технологического института в Джорджии придумали способ, с помощью которого роботов можно будет обучить морали. Для этого исследователи предложили использовать истории и рассказы, в которых поощряются человеческие ценности. Статья была опубликована на сайте колледжа.

Ученые полагают, что искусственный интеллект может научиться человеческим ценностям, если он будет обладать обширной базой возможных поведенческих сценариев, в которых определенные действия награждаются, а другие наказываются. Такой базой могут служить романы и рассказы, где действия главных героев соответствуют морали. С помощью метода, называемого выравниваем ценностей, можно предотвратить нежелательное поведение робота.

Метод выравнивания ценностей выглядит следующим образом. На основе текстов создается дерево историй. Оно представляет собой все возможные варианты поведения робота. При этом каждому действию присваивается награда или штраф, в зависимости от того, какое действие чаще встречалось в изначальных текстах. Если дать роботу проанализировать все дерево событий, то награды определят его дальнейший образ действия, и он будет вести себя, как положительный герой из романа.

Для осуществления своего подхода ученые планируют воспользоваться другим искусственным интеллектом — таким как "Шахерезада", которая ранее была разработана в том же колледже. "Шахерезада" способна сгенерировать историю на любую тему, используя тексты, доступные в сети Интернет. На их основе она создает дерево историй из возможных действий и взаимоисключающих событий.

Александр Еникеев

N+1

Похожие новости:
Amazon запустил безлимитную подписку на электронные книги
Компания Amazon представила безлимитный подписной сервис Kindle Unlimited, позволяющий неограниченно читать книги из каталога Amazon за 10 долларов в месяц. Об этом говорится в сообщении компании. Подписчики Kindle Unlimited могут читать книги как на фирменных ридерах Amazon Kindle, так и на любых ..
2014-07-20 2119 0 Интернет, IT
0
На смену Android Market пришел Google Play
Google объявила о запуске "облачного" сервиса Google Play. В нем будут объединены несколько служб компании, существовавших по отдельности, включая онлайн-магазин приложений Android Market, музыкальный магазин Google Music, магазин электронных книг eBookstore и сервис для синхронизации данных. В ..
2012-03-7 3030 0 Интернет, IT
0
Apple обвинили в книжном пиратстве
Группа писателей из Китая обвинила Apple в незаконной продаже их произведений через интернет-магазин App Store, сообщает агентство "Синьхуа".  12 авторов подали три независимые жалобы на компанию в суд в Пекине, уточняет Associated Press со ссылкой на юридического представителя истцов. В жалобах говорится, что через ..
2012-03-21 1703 0 Интернет, IT
0
Amazon запустил "виртуальную библиотеку"
Компания Amazon, владеющая одноименным интернет-магазином, запустила "виртуальную библиотеку" для владельцев устройств Kindle. Об этом сообщается в пресс-релизе, опубликованном на сайте Business Wire.Владельцы читалок Kindle и планшетов Kindle Fire смогут выбрать из "виртуальной библиотеки" раз в месяц одну книгу, ..
2011-11-4 1977 0 Интернет, IT
0
Facebook отрицает, что считывает SMS пользователей
Представители Facebook отвергли обвинения в том, что социальная сеть следит за перепиской пользователей по SMS. Об этом они заявили онлайн-изданию Business Insider. Поводом для ответа стала статья, опубликованная в London Sunday Times. В ней говорится, что соцсеть читает текстовые сообщения, собирая ..
2012-02-27 1831 0 Интернет, IT
0
Чем мы занимаемся за компьютером больше всего?
Компьютер стал неотделимой частью нашей жизни. Мы используем его дома, на работе, в дороге. С появлением интернета он еще ближе приблизился к нам. Теперь у нас есть возможность найти старых друзей, пообщаться с ними, купить или продать какие-то предметы, почитать новости, найти ..
2011-10-3 2274 0 Интернет, IT
0
Компьютер научили писать сценарии для интерактивных книг-приключений
Ученые из Технологического университета Джорджии обучили компьютер создавать сценарии для интерактивных книг-приключений путем переработки готовых историй. Описание проекта приводится на сайте университета, а краткий пересказ опубликовал портал Motherboard. Согласно их объяснению, названная в честь мифической Шахерезады программа ..
2015-09-04 1978 0 Интернет, IT
0
Apple подготовила проект учебников будущего
Корпорация Apple на сегодняшней пресс-конференции в Нью-Йорке, скорее всего, представит новый сервис, облегчающий процесс публикации и чтения электронных учебников. Цель нового проекта: увеличить объем образовательного контента на планшете iPad и сделать его доступным для всех категорий обучающихся ..
2012-01-19 1929 0 Интернет, IT
0
Chrome для Android теперь доступен в России
В мобильную версию браузера Chrome добавилась поддержка 39 языков, в том числе и русского. Об этом говорится в блоге Google. Программа, которая по-прежнему распространяется в виде бета-версии, доступна на смартфонах и планшетах под управлением операционной системы Android 4.0 (Ice Cream Sandwich). Одной из важных ..
2012-04-18 2040 0 Интернет, IT
0
ВКонтакте поддержали Википедию в акции протеста
ВКонтакте присоединились к пикету русской Википедии против глупостей и невежества под видом Закона об оздоровлении рунета. Вместо отключения, главная соцсеть страны, разместила "плашку" со ссылкой на отключённую публичную энциклопедию. Ранее днём, один из авторов раздражающего эти крупные сайты документа, ..
2012-07-10 1731 0 Интернет, IT
0
Приложение LinkedIn обвинили в сборе личных данных пользователей
Клиент социальной сети LinkedIn для iPhone и iPad собирает записи из личных календарей пользователей и отправляет их на свои сервера в незашифрованном виде, передает The Next Web. Приложение LinkedIn не просит у пользователя прямого разрешения на отсылку данных, сообщают обнаружившие угрозу исследователи ..
2012-06-7 1554 0 Интернет, IT
0
Новую ОС для "маков" назвали в честь города в Калифорнии
Apple анонсировала сегодня на проходящей в Сан-Франциско конференции WWDC новую операционную систему для компьютеров Mac. В Купертино отказались от "кошачьих" названий и вместо этого позаимствовали имя городка в Калифорнии - Мэверикс. Новая версия операционки для "маков", которая выйдет ближайшей осенью, не изменилась ..
2013-06-11 1928 0 Интернет, IT
0
Госдума одобрила создание госкорпорации «Роскосмос»
Госдума в третьем чтении единогласно одобрила закон о государственной корпорации (ГК) «Роскосмос», а также поправки в ряд документов в связи с созданием новой структуры. Об этом сообщается в пресс-релизе Федерального космического агентства, поступившем в редакцию «Ленты.ру». Законопроект прошел первое чтение 19 мая, ..
2015-07-02 4473 0 Интернет, IT
-1
Созданы шрифты, не распознаваемые компьютерами
Корейский дизайнер, ранее привлекавшийся к работе на Агентство национальной безопасности США, изобрёл целый набор шрифтов, которые не воспринимает софт, используемый для распознавания символов. В цифровом мире скрыться от посторонних глаз практически невозможно. Не спасает ни хитроумное шифрование, ни надежды ..
2013-10-4 1721 0 Интернет, IT
0
На всемирную конференцию хакеров впервые не позвали администрацию США
В США открылась всемирная конференция хакеров DefCon. Проходит она каждый год в Лас-Вегасе. В этом году число посетителей побило все рекорды — на конференцию приехали 15 тысяч хакеров. Как говорят участники форума, в этом году больше всего планируют обсуждать действия правительства ..
2013-08-4 1667 0 Интернет, IT
0