Google сформулировала пять принципов безопасности робототехники

Google сформулировала пять принципов безопасности робототехники

Компании Google и OpenAI совместно с Калифорнийским университетом в Беркли и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта. Препринт их статьи доступен на ресурсе arXiv.org.

Как пишет сотрудник Google и один из авторов публикации Крис Ола (Chris Olah) в корпоративном блоге, хотя связанные с ИИ риски привлекают большое общественное внимание, дискуссии по их поводу обычно слишком гипотетические и спекулятивные. Статья призвана конкретизировать потенциальные опасности, которые необходимо учитывать при разработках в этом направлении.

Среди проблем, которые должны учитывать разработчики систем ИИ для практического применения, авторы работы выделяют следующие:

Среди возможных путей решения исследователи называют использование симуляций в обучении, ограничение пространства деятельности роботов и человеческий надзор, однако ни один из них не представляет окончательного решения проблемы. По мнению специалистов Google, обеспечить заданную работу систем машинного обучения могут только ответственные, открытые и междисциплинарные усилия разработчиков.

Олег Лищук

N+1

Похожие новости:
Компанию Google за обман могут оштрафовать на $10 млн
FTC комиссия по торговле в США готовит иск на компанию Google за обход настроек безопасности в браузере Apple Safari, по приблизительным данным штраф в размере $10 млн. Как сообщает издательство Bloomberg, комиссия может наказать компанию Google штрафом $16 тыс. за день нарушения. На текущий момент ..
2012-05-6 1252 0 Интернет, IT
0
Поисковик Microsoft оказался в пять раз "заразнее" Google
В выдаче поисковика Bing, которым владеет Microsoft, содержится в пять раз больше ссылок на сайты с вредоносным кодом, чем в системе Google. К такому выводу по результатам 18-месячного исследования пришла немецкая компания AV-Test. Всего было изучено около 40 миллионов ссылок ..
2013-04-12 1403 0 Интернет, IT
0
Специалисты Google отыскали множество уязвимостей для Microsoft
Во вторник, 12 февраля, Microsoft выпустила крупнейшее обновление безопасности для Windows, Office, Internet Explorer, Word и других продуктов. Оказывается, в исправление уязвимостей внесли свой вклад не только специалисты крупнйшего в мире производителя ПО, но и сотрудники высмеиваемого Microsoft конкурента -  Google.  Данное ..
2013-02-15 1275 0 Интернет, IT
0
Голосовой поиск теперь прямо на главной странице Google
Кто из нас не мечтал поговорить со своим компьютером, как это делают герои научно-фантастических фильмов? Сегодня мы сделали еще один шаг на пути к тому, чтобы ваши мечты стали реальностью.В сентябре 2010 года мы запустили голосовой поиск для телефонов под управлением Android и iOS. В прошлую среду ..
2013-05-24 1088 0 Интернет, IT
0
Google защитит файлы пользователей от правительственной слежки
Google решила спрятать личные файлы пользователей от глаз американских спецслужб. Как сообщили интернет-изданию CNET два источника, близких к компании, Google начала эксперименты с шифрованием документов в "облаке" Drive. В 2012 году поисковик заявлял, что он передает файлы пользователей по защищенному ..
2013-07-18 1216 0 Интернет, IT
0
Отношения Google с разведчиками США оставили в секрете
Апелляционный суд округа Колумбия, США, поддержал решение Агентства национальной безопасности (АНБ) не публиковать документы, подтверждающие или опровергающие связи ведомства с корпорацией Google. Об этом сообщает Wired.Решение суда связано с требованием Центра защиты электронных личных данных (Electronic ..
2012-05-13 1140 0 Интернет, IT
0
Google грозит многомиллионный штраф за "взлом" Safari
Федеральная комиссия по торговле США (FTC) готовится оштрафовать Google за то, что компания в обход настроек безопасности браузера Apple Safari отслеживала перемещения пользователей без их ведома. За нарушение прав потребителей интернет-гиганту грозит штраф до нескольких десятков миллионов долларов, передает агентство ..
2012-05-6 1321 0 Интернет, IT
0
Социальная сеть Google+ стала доступна для подростков
Пользователи, которые имеют аккаунт в системе Google, могут стать участниками социальной сети этой компании. В силу вступили новые правила, согласно которым минимальный возраст, с которого можно регистрироваться в социальной сети Google теперь равен тринадцати ..
2012-04-19 1326 0 Интернет, IT
0
Google пообещал победить государственную интернет-цензуру
Председатель совета директоров Google Эрик Шмидт заявил о намерении поисковика обойти государственную интернет-цензуру с помощью специального механизма шифрования данных. Об этом сообщает The Wall Street Journal. «В ближайшие десять лет, используя специальный механизм шифрования информации, мы сможем ..
2014-01-24 1060 0 Интернет, IT
1
Google нанял команду хакеров для поиска интернет-уязвимостей
Компания Google создала новую команду из опытных специалистов в сфере информационной безопасности под названием Project Zero, задачей которой будет поиск уязвимостей в интернете. Об этом сообщается в официальном блоге Google. «Пользователи должны иметь возможность использовать интернет без боязни ..
2014-07-16 1067 0 Интернет, IT
0
Российский хакер получит 60 тысяч долларов за взлом браузера Chrome
Российский программист Сергей Глазунов, участвующий в соревновании для хакеров Pwnium, первым обнаружил критическую уязвимость в браузере Chrome. За это студент Института математики и компьютерных наук Тюменского государственного университета получит вознаграждение от Google в размере 60 тысяч долларов. Об этом сообщается ..
2012-03-11 1676 1 Интернет, IT
0
Google оценила взлом "Хрома" в миллион долларов
Корпорация Google объявила о проведении собственного соревнования для хакеров Pwnium, на котором любой желающий сможет попробовать силы в нахождении уязвимостей в браузере Chrome. Призовой фонд конкурса составит миллион долларов. Он пройдет с 7 по 9 марта в Ванкувере в рамках конференции по компьютерной ..
2012-02-29 1699 0 Интернет, IT
0
Google наняла в качестве топ-менеджера специалиста из Пентагона
Директор Управления перспективных исследовательских проектов (DARPA) Министерства обороны США Регина Дуган приняла предложение о работе от Google, сообщает Lenta.ru со ссылкой на журнал Wired. Какую должность Дуган займет в Google, не уточняется, но известно, что она войдет в состав высшего руководства компании. ..
2012-03-14 1210 0 Интернет, IT
0
Google будет платить за ошибки в Android OS
Нашли ошибку в системе Android- Скоро Google будет платить 40000 долларов, если расскажите об этом.  Google начнет платить исследователям безопасности, которые находят ошибки в его устройствах на базе Android, вознаграждение в размере до 40000 долларов. Компания также объявила ..
2015-06-17 2994 0 Интернет, IT
0
Google готова запустить сервис хранения файлов Drive
Корпорация Google близка к открытию "облачного" сервиса Drive, предназначенного для дистанционного хранения данных. Служба позволит загружать фотографии, видео, документы и другие файлы на серверы интернет-гиганта, и получать к ним доступ практически с любого устройства, имеющего выход в Сеть. По сведениям ..
2012-02-9 1636 0 Интернет, IT
0