Новости робототехники

В России утвержден первый национальный стандарт интернета вещей

В России утвержден первый национальный стандарт интернета вещей Приказом Росстандарта утвержден предварительный национальный стандарт «Протокол беспроводной передачи данных на основе узкополосной модуляции радиосигнала (NbFi)», ставший первым российским документом по стандартизации в области Интернета вещей.

Путин проведет совещание по внедрению искусственного интеллекта в России

Путин проведет совещание по внедрению искусственного интеллекта в России Владимир Путин проведет совещание по внедрению искусственного интеллекта в российскую экономику. Интерес к разработке «дорожных карт» по искусственному интеллекту есть у Сбербанка и «Ростеха».

Названы профессии, которые могут исчезнуть в ближайшем будущем

Названы профессии, которые могут исчезнуть в ближайшем будущем В ближайшем будущем в России могут исчезнуть такие профессии, как водитель и продавец, что связано с общемировой тенденцией на роботизацию экономики и бизнеса. Об этом заявил глава представительства Singularity University (Университет Сингулярности) в Москве Евгений Кузнецов.

Администрация первого японского отеля с сотрудниками-роботами 'уволила' половину из них из-за профнепригодности

Администрация первого японского отеля с сотрудниками-роботами 'уволила' половину из них из-за профнепригодности В июле 2015 года в японском городе Нагасаки открылся первый в мире отель, большинство сотрудников которого составляли роботами. За четыре с лишним года работы отеля под названием Henn na ('Странный отель') их количество значительно выросло, но качество обслуживания постояльцев оставляло желать лучшего. В итоге администрация приняла решение 'уволить' половину из 243 сотрудников-роботов.

В петербургском Политехе научили искусственный интеллект выявлять рак легких за 20 секунд

В петербургском Политехе научили искусственный интеллект выявлять рак легких за 20 секунд Ученые петербургского Политеха вместе с врачами онкоцентра в Песочном разработали интеллектуальную систему диагностики опухолей в легких. Программное обеспечение, которое можно установить на любом компьютере, за 20 секунд анализирует компьютерную томографию легких пациентов и выдает заключение в виде наглядно выделенной патологии.

В Минобороны сообщили о планах включить в «Ратник-3» роботокомплексы

В Минобороны сообщили о планах включить в «Ратник-3» роботокомплексы В экипировку солдата третьего поколения «Ратник-3» интегрируют ​портативные роботизированные комплексы и беспилотники. Об этом сообщается на сайте Минобороны. Комплексы сделают из сверхлегких и прочных материалов. В министерстве добавили, что их включение в экзоскелеты повысит физические возможности военнослужащих.
Все новости

Три закона роботехники Айзека Азимова

Три закона роботехники в научной фантастике - обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942).

Законы роботехники гласят:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Трём Законам, а также возможным причинам и следствиям их нарушения, посвящён цикл рассказов Азимова о роботах. В некоторых из них, наоборот, рассматриваются непредвиденные последствия соблюдения роботами Трёх Законов (например «Зеркальное отражение»).

В одном из рассказов цикла персонаж Азимова приходит к заключению об этической основе Трёх Законов: «...если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле... попросту говоря, если Байерли исполняет все Законы роботехники, он - или робот, или очень хороший человек».

В 1986 году в романе «Роботы и Империя» (англ. Robots and Empire) Азимов предложил Нулевой Закон:

    0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.

Три закона роботехники - объединяющая тема для всей фантастики Азимова, включая не только цикл о роботах, но и некоторые другие произведения.

Применимость законов роботехники Азимова к технологиям будущего

Работы в области искусственного интеллекта рассматривают Законы роботехники как идеал будущего: нужно быть действительно гением, чтобы найти способ применить их на практике. Да и в самой области искусственного интеллекта могут потребоваться серьёзные исследования, для того чтобы роботы поняли Законы. Однако, чем более сложными становятся роботы, тем больше высказывается заинтересованности в разработке руководящих принципов и мер безопасности для них.

Современные робототехники признают, что на сегодняшний день азимовские Законы хороши для написания рассказов, но бесполезны на практике. Некоторые утверждают, что Законы вряд ли будут реализованы в роботах, потому что это не нужно военным структурам - главному источнику финансирования исследований в этой области. Специалист по научной фантастике Роберт Сойер обобщил это утверждение для всех отраслей промышленности:

Развитие ИИ - это бизнес, а бизнес, как известно, не заинтересован в развитии коренных мер безопасности - особенно философских. Вот несколько примеров: табачная индустрия, автомобильная промышленность, ядерная промышленность. Ни для одной из них изначально не было сказано, что серьёзные меры безопасности необходимы, и все они препятствовали внешне налагаемым ограничениям, и ни одна из них не приняла абсолютный эдикт против причинения вреда людям.

Стоит отметить, что эссе Сойера упускает из вида вопросы непреднамеренного нанесения вреда, как было описано, например, в «Обнажённом солнце». Однако есть и возражения против такой позиции: возможно, военные захотят использовать для роботов как можно больше мер предосторожности, и поэтому ограничения, похожие на Законы роботехники, так или иначе будут применены. Фантаст и критик Дэвид Лэнгфорд иронически заметил, что эти ограничения могут быть и такими:

  1. Робот не может причинить вреда авторизованному правительственному персоналу, но должен ограничивать слишком назойливых посетителей с особой тщательностью.
  2. Робот должен выполнять приказы авторизованного персонала, кроме приказов, противоречащих Третьему Закону.
  3. Робот должен заботиться о своей безопасности с применением противопехотного оружия, потому что робот - чертовски дорогостоящая штука.

Роджер Кларк написал две работы, посвящённых анализу осложнений при реализации Законов, если бы однажды их смогли применить в технике. Он пишет:

Азимовские Законы роботехники стали успешным литературным инструментом. Возможно по иронии, а может, это был мастерский ход, но в целом азимовские истории опровергают ту точку зрения, с которой он начал: Невозможно надёжно ограничить поведение роботов, изобретая и применяя некоторый набор правил.

С другой стороны, более поздние романы Азимова («Роботы Утренней зари», «Роботы и Империя», «Основание и Земля») показывают, что роботы наносят ещё больший долговременный вред, соблюдая Законы и отнимая таким образом у людей свободу совершать изобретательные или рискованные действия.

Фантаст Ханс Моравек - выдающаяся фигура в трансгуманистическом движении - высказал предложение, что Законы роботехники должны быть использованы в корпоративных интеллектуальных системах - корпорациях, управляемых ИИ и использующих производственную силу роботов. Такие системы, по его мнению, скоро возникнут.

В 2007 году правительство Южной Кореи начало разрабатывать «Устав этических норм для роботов». Основные положения Устава напоминают сформулированные Азимовым Законы роботехники.

Елиезер Юдковски исследует в Институте сингулярности (SIAI) в США проблемы глобального риска, которые может создать будущий сверхчеловеческий ИИ, если его не запрограммировать на дружественность к человеку. В 2004 году SIAI был открыт сайт AsimovLaws.com, созданный для обсуждения этики ИИ в контексте проблем, затронутых в фильме «Я, робот», выпущенном лишь два дня спустя. На этом сайте они хотели показать, что законы роботехники Азимова небезопасны, поскольку, например, могут побудить ИИ захватить власть на Земле, чтобы «защитить» людей от вреда.

Источник: http://ru.wikipedia.org/


Добавить комментарий