понедельник, 9 апреля 2012 г.

Есть ли будущее у законов робототехники Айзека Азимова?

Есть ли будущее у законов робототехники Айзека Азимова?6 апреля исполнилось 20 лет со дня смерти великого Айзека Азимова. Он написал более пятисот книг, но помнят его в основном благодаря историям о роботах, которые он сочинял с 19 лет. Изложенные в них идеи по сей день — отправная точка любого рассуждения о месте умных машин среди людей.

Причём сегодня это уже не теоретические разглагольствования. Роботы трудятся на складах и заводах. Южная Корея планирует сделать их тюремщиками. Автономный автомобиль корпорации Google на днях прокатил слепого человека. США, Южная Корея, Израиль и др. массово разрабатывают военные беспилотные летательные аппараты и автономных наземных роботов. Многие из них вооружены. Не за горами тот день, когда жизнь человека повиснет на кончике полупроводниковых схем и математических алгоритмов. Наконец, их обожают дети.

В 1939 году, когда Азимов занялся этой темой, роботы были довольно новой идеей, а слово для них родилось в том же 1920 году, что и писатель, — в пьесе чешского драматурга Карела Чапека. На обложках бульварного чтива, которое продавалось в семейном магазине сладостей, маленький Айзек видел немало зловещих рисунков взбесившихся машин, нападающих на своих создателей и полураздетых женщин. Впоследствии Азимов относился к роботам сочувственно. «Его необходимо спроектировать так, чтобы он соответствовал определённым стандартам безопасности, как и любая другая машина, созданная разумным технологическим обществом, — писал он в 1980 году. — Поэтому я начал писать рассказы о роботах, которые были не просто хорошими, они были хорошими, потому что не могли стать другими».

По мотивам первых рассказов Азимова его редактор Джон Кэмпбелл из Astounding Science-Fiction составил список правил, которым подчинялись роботы. Они и стали тремя законами робототехники. (1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. (2) Робот должен выполнять приказы человеческих существ за исключением тех случаев, когда эти приказы противоречат первому закону. (3) Робот должен защищать своё существование за исключением тех случаев, когда такая защита будет противоречить первому или второму закону.

Законы были ясными, прямыми и логичными, но впоследствии Азимов написал несколько рассказов, в которых показал, с какой лёгкостью они могут потерпеть неудачу. Например, робот, обладающий телепатией, лжёт, дабы не причинить боль человеку, но в конечном итоге он всё-таки разбивает сердце героини («Лжец»). В другом произведении робот, приближаясь к опасному месту, отступает, дабы защитить себя, после чего снова начинает выполнять приказы. И так до бесконечности, пока человек, не нарушает цикл, намеренно ставя себя в опасное положение и вынуждая робота спасти его («Хоровод»).

Роботы Азимова адаптивны, иногда они даже перепрограммируют себя. Один развивает эмоциональную привязанность к своему создателю. Другой находит логическое обоснование для того, чтобы напасть на людей. Робот, изолированный на космической станции, решает, что людей не существует, и создаёт собственную религию. Ещё один робот подаёт в суд, требуя, чтобы его признали человеком.

В итоге ряд энтузиастов предложил новые правила. Один заставил роботов всегда считать себя роботами. Другой предположил, что роботы должны убивать только вражеских солдат и т. д. Скорее всего, прав Майкл Анисимов из организации Singularity Institute for Artificial Intelligence (США), который утверждает, что любой набор правил всегда будет содержать конфликты и серые зоны. Кроме того, отмечает эксперт, робот может злоупотреблять законами в сложных ситуациях, особенно если он не понимает, почему был создан такой закон. А раз роботы могут себя перепрограммировать, они будут менять правила неожиданным образом, дабы приспособиться к новым обстоятельствам.

Вместо того чтобы вводить правила, г-н Анисимов предлагает создать «дружественный ИИ», который будет любить человечество.

Нынешние роботы, способные принимать самостоятельные решения, и впрямь требуют иного набора правил, подчёркивают Робин Мёрфи из Техасского университета A&M и Дэвид Вудс из Университета штата Огайо (оба — США). В 2009 году они предложили три других закона. (1) Поскольку именно люди создают роботизированные системы, система «человек — робот» должна отвечать высоким стандартам безопасности и этическим нормам. (2) Роботы должны подчиняться, но только ограниченному числу людей. (3) Роботы должны защищать себя, но только после того, как они полностью передадут контроль над выполняемой операцией (например, управление автомобилем) человеку.

Дискуссия продолжается. В 2007 году Южная Корея объявила о планах опубликовать хартию, посвящённую этике в системе отношений между человеком и роботом. Вполне вероятно, важной частью документа станут такие темы, как психологическая зависимость от роботов (подобно зависимости от видеоигр или смартфонов), секс между человеком и роботом и т. д. Аналогичные вопросы рассматривает организация European Robotics Research Network.

Эти проблемы обсуждались бы и без Айзека Азимова. Но именно его три закона и его исследование границ этих законов начали нынешнюю дискуссию.

Подготовлено по материалам Inside Science.

Оригинальная статья

Поделитесь этой новостью с Вашими друзьями!

Ранее в рубрике "Мобильные устройства":

Автомобили без водителя получают правовой статус
В американском штате Невада с 1 марта 2012 года вождение автономных автомобилей разрешено законом (такие робомобили должны лишь иметь красные номерные знаки), принятым специально для разрешения этой законодательной коллизии (многие штаты США, как известно, запрещают «езду без рук»). За Невадой могут последовать другие: законодательные собрания Калифорнии, Флориды, Гавайев и Оклахомы уже рассматрив...
  (читать дальше)

Открылась самая большая и подробная база медицинских данных
В Великобритании заработал «Биобанк» — самая обширная и подробная база, в которую входят медицинские и генетические данные, а также информация об образе жизни 500 тыс. островитян в возрасте от 40 до 69 лет. Всё это доступно специалистам, которым нужна большая выборка для поиска причин заболеваний и методов лечения. Главная цель проекта — понять, в какой степени за возникновение и развитие недуга...
  (читать дальше)

Easy SMS поможет неграмотным при СМС-общении
Нынешним летом в одной из индийских деревень фермерам будет предложено испытать в полевых условиях приложение Easy SMS, позволяющее обмениваться текстовыми сообщениями людям, не умеющим писать и читать. Easy SMS — это детище исследователя Хендрика Кнохе (Hendrik Knoche) и его подопечных из Швейцарского федерального технологического института в Лозанне. Авторы программы отмечают, что в мире насчи...
  (читать дальше)

Спрос на электронные книги продолжает расти
Ассоциация американских издателей оценила объём продаж электронных книг в Соединённых Штатах в январе 2012 года. Сообщается, что спрос на произведения в электронном виде устойчиво растёт. Так, книги в цифровом формате для взрослой аудитории принесли в январе $99,5 млн. Это на 49,4% больше по сравнению с тем же месяцем 2011-го, когда продажи в денежном выражении равнялись $66,6 млн. Спрос на эл...
  (читать дальше)

Спрос на электронные книги продолжает расти
Ассоциация американских издателей оценила объём продаж электронных книг в Соединённых Штатах в январе 2012 года. Сообщается, что спрос на произведения в электронном виде устойчиво растёт. Так, книги в цифровом формате для взрослой аудитории принесли в январе $99,5 млн. Это на 49,4% больше по сравнению с тем же месяцем 2011-го, когда продажи в денежном выражении равнялись $66,6 млн. Спрос на эл...
  (читать дальше)

Dell прекращает продажи смартфонов в США
Компания Dell решила свернуть продажи коммуникаторов на американском рынке в связи с «окончанием их жизненного цикла». Dell вышла на рынок смартфонов США в августе 2010 года с моделью Aero и гибридом «умнофона» и мини-плланшета Streak 5. Позднее появился коммуникатор Venue Pro под управлением Windows Phone 7 и «гуглофон» Venue. Сейчас эти аппараты предлагаются также в Южной Корее и Индии. В De...
  (читать дальше)

Fly Turbo: «гуглофон» с 4,3-дюймовым дисплеем
Бренд Fly представил флагманский аппарат Turbo (модель IQ285) в новой линейке коммуникаторов Wow. Смартфон выполнен в моноблочном корпусе на двухъядерном процессоре с тактовой частотой 1,5 ГГц. Ёмкостный мультитач-дисплей с диагональю 4,3 дюйма обладает разрешением 540×960 точек. Объём оперативной памяти составляет 1 Гб; вместимость интегрированного флеш-модуля — 8 Гб. Основная 5-мегапиксельна...
  (читать дальше)

Возможно, обнаружено новое состояние материи
Учёные из Калифорнийского университета в Сан-Диего (США) обнаружили образцы нового состояния материи, который они называют когерентным экситонным газом. Исследование его свойств может существенно продвинуть нас на пути к экситонной электронике. В работе, опубликованной 29 марта в журнале Nature, учёные описывают возникновение «спонтанной когерентности», «спиновых текстур» и «фазовой сингулярност...
  (читать дальше)

Google, возможно, будет продавать планшеты через собственный веб-магазин
Компания Google разрабатывает планшеты вместе с несколькими производителями, сообщает газета Wall Street Journal, ссылаясь на собственные источники. Партнёрами веб-корпорации выступают ASUS и Samsung. Гаджет, создающийся на пару с ASUS, будто бы получит 7-дюймовый сенсорный дисплей с разрешением 1280×800 точек; роль программной платформы сыграет операционная система Android 4.0 Ice Cream Sandwic...
  (читать дальше)
НАСА и ЕКА будут осваивать Марс в четыре этапа
Группа учёных из Европы, Канады и США, включая специалистов НАСА и ЕКА, выделила четыре главных требования к будущим проектам, посвящённым доставке образцов марсианского грунта на Землю. Во главу угла поставлены поиск следов прошлой или нынешней жизни. Отправка человека — на последнем месте. Хотя выполнение первоочередной задачи — всё равно что поиск иголки в стоге сена, учёные полагают, что и...
  (читать дальше)

Как природа осуществляет наноразмерный контроль за солнечной энергией
Начало природного процесса захвата солнечной энергии происходит в абсорбирующих свет протеиновых комплексах, называемых фотосинтетическими реакционными центрами (РЦ). Даже после миллиардов лет эволюции Природа и не думает отказываться от находящегося в центре РЦ абсорбирующего свет гексамерного кофактора, нужного для проведения самой первой химической реакции фотосинтеза — индуцированного светом э...
  (читать дальше)

Почему секс и красный цвет взаимосвязаны
Исследователи пришли к выводу, что красные женские гениталии не возбуждают мужчин — следовательно, для сексуальной символики красного цвета нужно искать иное, менее наглядное объяснение. Обычно поведенческие эксперименты такого рода проводят на млекопитающих. Поэтому то, что в исследовании участвовали не самцы обезьян, а обычные мужчины, добавляет результатам ещё и солидную долю пикантности. С...
  (читать дальше)

Как мысли о смерти нам жить помогают
Размышления о смерти делают нас добрее и внимательнее, а вид на кладбище способен помочь с пошатнувшимся здоровьем. Общество обычно табуирует тему смерти. Считается (и тому есть подтверждения в работах психологов), что мысли о смерти негативно влияют на психику, способствуют асоциальному и даже антисоциальному поведению, и что нормальной жизни «размышления о вечном» следует держать в узде. С пси...
  (читать дальше)

Королевство кривых лучей
Обычно свет распространяется по прямой. Конечно, при помощи сред с различными коэффициентами преломления его можно отклонить. Однако новые исследования двух независимых научных групп показывают, что и сам по себе пучок света может изгибаться до 360˚. Часто новое — это хорошо забытое, но не обязательно старое. В конце 1970-х физики Майкл Берри из Бристольского университета (Великобритания) и Нанд...
  (читать дальше)

Объявлены победители конкурса подводной фотографии
Подведены итоги ежегодного конкурса подводной фотографии, который проходит под эгидой Школы морских и атмосферных наук Университета Майами (США). До участия допускаются только любители, которые зарабатывают на фотографии не более 20% своего дохода. Второе место в категории «Макросъёмка»: «фарфоровый» краб из семейства Porcellanidae, зацепившийся за полип морское перо в национальном парк...
  (читать дальше)

Заболевания дёсен, оказывается, не имеют отношения ни к инфарктам, ни к инсультам
Вот уже два десятка лет учёные твердят о связи между заболеваниями дёсен, инфарктами и инсультами. И вдруг новый анализ данных показывает, что эти заявления ошибочны. Американская кардиологическая ассоциация опубликовала в AHA journal Circulation «научный рапорт», заключающий, что периодонтит не повышает риска возникновения сердечно-сосудистых хворей и не является их причиной. Более того, нет ни м...
  (читать дальше)

Аспирин, возможно, помогает против ожирения
Салициловая кислота, образующаяся в результате расщепления аспирина, активирует расщепление жиров в клетке. Кажется, человечество вот уже более полутораста лет живёт с лекарством от всех болезней, не догадываясь о его чудодейственном всемогуществе. Не так давно проходило сообщение о том, что аспирин можно пить для профилактики рака; полным ходом исследуется его благотворное влияние при сердечно-...
  (читать дальше)

Как звучит симметрия субатомного мира?
Хотите услышать песнь позитрона? Итальянский инженер Доменико Вичинанца, кажется, готов воплотить вашу мечту. Этот человек уже экспериментировал с вулканической активностью и даже играл древнегреческую музыку с «Оркестром забытых звуков». Теперь его влечёт субатомный мир туманных и пузырьковых камер — предшественников современных детекторов частиц. Туманную камеру изобрёл в 1895 году шотландск...
  (читать дальше)

Нам бы расписания взять и отменить
Исследователи из Технологического института Джорджии (США) обнаружили, что отмена управления наземным общественным транспортом при помощи расписания и использование децентрализованной самоуправляющейся схемы позволяет сделать движение более эффективным. В работе, опубликованной в журнале Transportation Research, описан алгоритм, позволяющий минимизировать интервалы между появлениями автобусов на о...
  (читать дальше)