Google сформулировала пять принципов безопасности робототехники

Google сформулировала пять принципов безопасности робототехники

Компании Google и OpenAI совместно с Калифорнийским университетом в Беркли и Стэнфордским университетом сформулировали пять практических проблем, которые необходимо учитывать разработчикам искусственного интеллекта. Препринт их статьи доступен на ресурсе arXiv.org.

Как пишет сотрудник Google и один из авторов публикации Крис Ола (Chris Olah) в корпоративном блоге, хотя связанные с ИИ риски привлекают большое общественное внимание, дискуссии по их поводу обычно слишком гипотетические и спекулятивные. Статья призвана конкретизировать потенциальные опасности, которые необходимо учитывать при разработках в этом направлении.

Среди проблем, которые должны учитывать разработчики систем ИИ для практического применения, авторы работы выделяют следующие:

Среди возможных путей решения исследователи называют использование симуляций в обучении, ограничение пространства деятельности роботов и человеческий надзор, однако ни один из них не представляет окончательного решения проблемы. По мнению специалистов Google, обеспечить заданную работу систем машинного обучения могут только ответственные, открытые и междисциплинарные усилия разработчиков.

Олег Лищук

N+1

Похожие новости:
Создатель платформы Android Энди Рубин ушел из Google
Один из создателей платформы Android Энди Рубин покидает компанию Google, чтобы создать собственный инкубатор для стартапов в сфере робототехники. Об этом сообщает издание The Wall Street Journal. Рубин участвовал в создании Android, которая в 2005 году была куплена ..
2014-11-01 1345 0 Интернет, IT
0
Компанию Google за обман могут оштрафовать на $10 млн
FTC комиссия по торговле в США готовит иск на компанию Google за обход настроек безопасности в браузере Apple Safari, по приблизительным данным штраф в размере $10 млн. Как сообщает издательство Bloomberg, комиссия может наказать компанию Google штрафом $16 тыс. за день нарушения. На текущий момент ..
2012-05-6 1377 0 Интернет, IT
0
Поисковик Microsoft оказался в пять раз "заразнее" Google
В выдаче поисковика Bing, которым владеет Microsoft, содержится в пять раз больше ссылок на сайты с вредоносным кодом, чем в системе Google. К такому выводу по результатам 18-месячного исследования пришла немецкая компания AV-Test. Всего было изучено около 40 миллионов ссылок ..
2013-04-12 1533 0 Интернет, IT
0
Международный форум по робототехнике пройдет в Сочи
Форум «Дни робототехники в г. Сочи» пройдет с 21 по 23 ноября. Об этом говорится в сообщении Министерства образования и науки Российской Федерации. Мероприятие будет включать форум инноваций, Всемирную олимпиаду по робототехнике (WRO Russia 2014), интерактивную выставку и окружной робототехнический фестиваль «Робофест-Юг». Замминистра ..
2014-11-19 1426 0 Интернет, IT
-1
Специалисты Google отыскали множество уязвимостей для Microsoft
Во вторник, 12 февраля, Microsoft выпустила крупнейшее обновление безопасности для Windows, Office, Internet Explorer, Word и других продуктов. Оказывается, в исправление уязвимостей внесли свой вклад не только специалисты крупнйшего в мире производителя ПО, но и сотрудники высмеиваемого Microsoft конкурента -  Google.  Данное ..
2013-02-15 1399 0 Интернет, IT
0
Голосовой поиск теперь прямо на главной странице Google
Кто из нас не мечтал поговорить со своим компьютером, как это делают герои научно-фантастических фильмов? Сегодня мы сделали еще один шаг на пути к тому, чтобы ваши мечты стали реальностью.В сентябре 2010 года мы запустили голосовой поиск для телефонов под управлением Android и iOS. В прошлую среду ..
2013-05-24 1199 0 Интернет, IT
0
Google защитит файлы пользователей от правительственной слежки
Google решила спрятать личные файлы пользователей от глаз американских спецслужб. Как сообщили интернет-изданию CNET два источника, близких к компании, Google начала эксперименты с шифрованием документов в "облаке" Drive. В 2012 году поисковик заявлял, что он передает файлы пользователей по защищенному ..
2013-07-18 1358 0 Интернет, IT
0
Отношения Google с разведчиками США оставили в секрете
Апелляционный суд округа Колумбия, США, поддержал решение Агентства национальной безопасности (АНБ) не публиковать документы, подтверждающие или опровергающие связи ведомства с корпорацией Google. Об этом сообщает Wired.Решение суда связано с требованием Центра защиты электронных личных данных (Electronic ..
2012-05-13 1243 0 Интернет, IT
0
Рынок персональной робототехники ждет взрывного роста
Глава Mail.ru Group и основатель Grishin Robotics Дмитрий Гришин рассказал BFM.ru о планах развития компании и о том, как будет совмещать свой проект и работу в интернет-холдинге. Дмитрий Гришин делает ставку на рынок робототехники. Фото: РИА НовостиВ середине июня ..
2012-06-25 1488 0 Интернет, IT
0
Google грозит многомиллионный штраф за "взлом" Safari
Федеральная комиссия по торговле США (FTC) готовится оштрафовать Google за то, что компания в обход настроек безопасности браузера Apple Safari отслеживала перемещения пользователей без их ведома. За нарушение прав потребителей интернет-гиганту грозит штраф до нескольких десятков миллионов долларов, передает агентство ..
2012-05-6 1455 0 Интернет, IT
0
Социальная сеть Google+ стала доступна для подростков
Пользователи, которые имеют аккаунт в системе Google, могут стать участниками социальной сети этой компании. В силу вступили новые правила, согласно которым минимальный возраст, с которого можно регистрироваться в социальной сети Google теперь равен тринадцати ..
2012-04-19 1442 0 Интернет, IT
0
Google покупает создателя крыльев-ветрогенератора
Google X — исследовательская лаборатория, принадлежащая Google, — оформляет покупку калифорнийской компании Makani Power, которая работает в области альтернативных источников энергии. Этот стартап заинтересовал поисковик ветряными турбинами, закрепленными на воздушном змее. Улететь "крылья" никуда ..
2013-05-25 1256 0 Интернет, IT
0
Google пообещал победить государственную интернет-цензуру
Председатель совета директоров Google Эрик Шмидт заявил о намерении поисковика обойти государственную интернет-цензуру с помощью специального механизма шифрования данных. Об этом сообщает The Wall Street Journal. «В ближайшие десять лет, используя специальный механизм шифрования информации, мы сможем ..
2014-01-24 1180 0 Интернет, IT
1
Google нанял команду хакеров для поиска интернет-уязвимостей
Компания Google создала новую команду из опытных специалистов в сфере информационной безопасности под названием Project Zero, задачей которой будет поиск уязвимостей в интернете. Об этом сообщается в официальном блоге Google. «Пользователи должны иметь возможность использовать интернет без боязни ..
2014-07-16 1171 0 Интернет, IT
0
Российский хакер получит 60 тысяч долларов за взлом браузера Chrome
Российский программист Сергей Глазунов, участвующий в соревновании для хакеров Pwnium, первым обнаружил критическую уязвимость в браузере Chrome. За это студент Института математики и компьютерных наук Тюменского государственного университета получит вознаграждение от Google в размере 60 тысяч долларов. Об этом сообщается ..
2012-03-11 1835 1 Интернет, IT
0