Три закона робототехники и права роботов

В статье представлена критика трех законов робототехники от Айзика Азимова.

Айзик Азимов в рассказе «Хоровод», изданном в 1942 г., сформулировал следующие три закона робототехники: 1.Робот не может причинить вред человеку или своим бездействие допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому и второму законам.

При некоторых обстоятельствах законы могут вступить в противоречие, и эти разногласия со слов Айзика Азимова будут решаться следующим образом: «Когда эти законы вступают в противоречие между собой, дело решает разность позитронных потенциалов в мозгу. Что получается, если робот приближается к месту, где ему грозит опасность, и сознает это? Потенциал, который создается Третьим Законом, автоматически заставляет его вернуться. Но представь себе, что ты приказал ему приблизиться к опасному месту. В этом случае Второй Закон создает противоположный потенциал, который выше первого, и робот выполняет приказ с риском для собственного существования» . В более поздних трудах Айзик Азимов добавил еще один закон: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред».

Указанные законы не являются общепринятыми и универсальными. Более того их исполнение зависит от трактовки. Например, в разных ситуациях одно и то же явление может быть или благом, или вредом для человека. Непонятно, как робот будет определять, что является вредом или не является. Например, атеисты считают религию вредом, что противоречит мнению верующих. Будет ли робот разъяснять основы православной религии, если часть населения считает это вредом? Если же робот сочтет религию вредом, то по первому закону он просто будет обязан препятствовать распространению веры. Иначе бездействием он нанесет вред человеку.

К тому же иногда нанести вред отдельному человеку (преступнику, маньяку, террористу) даже полезно с общественной точки зрения. Убив террориста, робот может спасти десятки, а то и сотни людей. Но это не позволяет ему сделать первый закон робототехники. США активно развивают производство военных роботов. И эти машины, невзирая на первый закон робототехники, предназначены для убийства людей. В противном случае они были бы не нужны.

Второй закон вообще абсурден. Человек ведь может дать такой приказ, который не нанесет ущерб людям, но, например, приведет к уничтожению флоры и фауны. Например, в приказе «Иди и подожги лес» нет обстоятельств первого закона. Напрямую вреда человеку нанесено не будет. Поэтому, естественно, роботы будущего не должны выполнять все приказы людей. Иначе может наступить хаос, равный тому, который есть в головах отдельных больных или озабоченных людей.

Сформулированные законы робототехники от Айзика Азимова явно относятся к роботу как низшему существу, не имеющему каких-либо прав. Человеку нельзя нанести вред, робот должен исполнять все приказы человека. По существу, законы закрепляют роботов как рабов человека. Однако современные роботы, если они будут наделены искусственным интеллектом, не будут являться таковыми. Для них будут сформулированы права, максимально приближенные к человеческим.

С высокой вероятностью эволюция прав роботов повторит судьбу прав человека. Сформулированные законы робототехники Айзика Айзимова ставили роботов в полное подчинение людей. В настоящий момент этот этап еще продолжается, и у умных машин нет никаких прав, что очень сильно напоминает рабовладельческий строй, когда определенные категории граждан были собственностью других лиц. Ими свободно торговали, насильно выдавали замуж и женили, заставляли работать на износ, убивали.

Элементы рабовладельческого строя проявляют себя и сейчас. Например, в некоторых странах людей выкрадывают и заставляют или трудиться, или предоставлять сексуальные услуги. У многих гастарбайтеров забирают документы и принуждают работать практически за копейки. Труд невольника неэффективен, и постепенно под нажимом самих рабов и сочувствующих им граждан рабовладение рухнуло, предоставив дорогу феодализму. В современной России присутствует множество признаков феодализма. Элита паразитирует на нефтегазовых доходах, президент Путин окружил себя неофеодалами, которые делят страну на зоны влияния. Некоторые, например, Роттенберги наделены правом по сбору дани с граждан в виде платежей Платон за передвижение грузового транспорта по федеральным трассам.

В эпоху феодализма права человека уже обозначены. Грабить население можно, но вот обращать их в собственность и убивать уже нельзя. Поэтому после отсутствия каких-либо прав у роботов наступит эпоха, когда им будут гарантированы определенные права. Например, нельзя будет их уничтожать без разрешения определенных инстанций.

Разработка искусственного интеллекта кардинальным образом отразится на правах роботов. Умные машины, возможно, станут сознательными. Естественно, они потребуют равноправия, что может привести к конфликтам с человеческим родом.

Однако, если человек будет мудрым, то он наделит равными правами роботов без всякого давления с их стороны. В конституциях государств появится упоминание об умных машинах, которые равны по своим правам человеку. Следовательно, они смогут полноценно участвовать в общественной жизни. Например, смогут участвовать в выборах в законодательные органы страны. Возможно, некоторые из них смогут стать главами городов и регионов.

Некоторые предлагают искусственно ограничивать права киборгов и роботов: «Многие считают, что мощность и производительность компьютеров позволит создать роботов, которые со временем заявят о своих правах и захотят равноправия. Нам более убедительным представляется противоположный сценарий: с развитием сингулярности встанет вопрос о понижении прав биороботов (бывших людей) по отношению к полноценным людям. Они окажутся вытесненными за периметр принятия ключевых решений развития цивилизации, а элита будет формироваться только из нечипированных людей, так как оставаться человеком станет сложнее и дорого».

Такая позиция абсолютно абсурдна, ибо человек смог покорить свою планету благодаря интеллекту. Если появятся существа с более совершенным интеллектом, то, естественно, они постепенно возвысятся. Поэтому ограничивать таких существ в правах неразумно и невозможно.

Высокоинтеллектуальные роботы смогут заключать браки как с людьми, так с себе подобными. Есть высокая вероятность, что, получив сознание, умные машины научатся любить и переживать по этому поводу.