Опасности появления мыслящих машин
ФЕДЕРАЛЬНОЕ БЮДЖЕТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ
ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ
ТЮМЕНСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ
ИНСТИТУТ ИСТОРИИ И ПОЛИТИЧЕСКИХ НАУК
Реферат на тему:
Опасности появления мыслящих машин
Выполнила: Андриянова Д.В.,
студентка 27и121
Проверил: Дубов В.П.,
преподаватель дисциплины КСЕ
г.Тюмень, 2014
Оглавление
1.Введение.
"И восстали машины..." - такова
ключевая фраза фильма "Терминатор",
одного из самых известных
американских произведений на
тему будущего, перемещений во
времени и - искусственного интеллекта.
Восстание машин привело к
практически полному уничтожению
всей земной цивилизации, от которой
остались лишь жалкие остатки
сопротивляющихся. А привело к
этому восстанию, по мысли создателей
фильма, изобретение нового чудо- компьютера,
действующего по тем же принципам, что
и человеческий мозг. И только проникновение
с помощью машины времени в довоенное
прошлое и уничтожение разработчика этого
компьютера позволило избавить человечество
от полной гибели... Подобные сюжеты возникали
в западной литературе и особенно кинематографе
множество раз: тема восстания против
людей машин, созданных ими, является одной
из самых популярных. И всякий раз авторы
таких произведений приходили к выводу:
появление машин, умеющих думать так же,
как и люди, но свободных от страха смерти,
неспособных к наслаждениям неизбежно
приведет к их восстанию против людей,
захвату власти и истреблению рода человеческого.
Но вот - другая сторона мира, другой взгляд на эту тему. Добрый и немного занудный робот Вертер, ценой своей жизни пытающийся остановить космических пиратов. Электроник, учащийся в обычной школе и дружащий со всеми ребятами. Добродушные и иногда глуповатые роботы из мультфильмов. Умный космический корабль, способный обижаться на шутки и спасать людей. Роботы и "электронные мозги" - добрые и умелые помощники в творчестве и работе... Да, все это - герои советских фантастических произведений. Как разительно они отличаются от описанных в предыдущем абзаце! А ведь это тоже - описание "искусственного интеллекта". И здесь совершенно не видно страха за человечество, за угрозу его уничтожения. Более того - все опасения сводятся едва ли не к переживаниям за... самих роботов, за то, удастся ли им почувствовать всю глубину эмоций, счастья, печали, радости, которыми полна жизнь человека. За то, не будет ли роботу плохо среди людей...
Но отчего, откуда такая разница? Почему одно общество боится пришествия роботов, считает, что как только оно свершится, так человечеству настанет конец, а другое - наоборот, готово их принять, как в большую и дружную семью?
И наконец - главный вопрос: а чьи же ожидания оправдаются? Кем будут умные машины будущего - злобными Терминаторами или добрыми Вертерами? И как же предотвратить "восстание машин", если оно возможно?
Дело в том, что любая машина в чем-то подобна своим создателям, а каждое произведение искусства несет в себе отпечаток личности автора. А автор, в свою очередь, является частью своего общества и несет в себе его мировоззрение.
Согласно мировоззрению западного общества, мир есть "война всех против всех" - конкуренция. А человеческое общество - это собрание эгоистичных индивидуумов-атомов, отстаивающих только свои интересы, то есть живущих по принципу "человек человеку - волк". Законы правового государства и общественная мораль удерживают такое общество от самоуничтожения. Почти каждый человек, живущий в западном обществе, считает эту модель жизни нормальной и вечной. Даже в книгах и фильмах об отдаленном будущем можно увидеть все реалии общественной жизни Запада сегодняшнего дня - войны, ложь, лицемерие... И вполне естественно, что и от разумных машин западный человек ждет совершенно такого же поведения, то есть следования исключительно своим интересам, сдерживаемого правилами и законами.
Но разумные машины - это не люди. В них нет страха смерти и боли. Они сильны. Поэтому совершенно естественно ожидать от них того же, что и от любого человека, ставшего таким же. То есть стремления всех подчинять своей воле - удовлетворять инстинкт власти. То есть стремлением максимально утвердить свое "Я" во всем мире (а ведь именно то и отличает разумную машину от простой, что она является личностью).
И вполне естественно, что такие разумные машины, дорвавшись до власти, будут уничтожать людей. Вот что пишет теоретик западного общества Гоббс в своей книге "Левиафан": "Поскольку все люди боpются за власть, никто не может чувствовать себя в безопасности с уже достигнутой им властью, не занимаясь постоянно тем, чтобы контpолиpовать, силой или обманом, всех людей, каких только может, пока не убедится, что не осталось никакой дpугой силы достаточно большой, чтобы нанести ему вpед". И разве не так ли поступают сами жители западного общества по отношению к остальным? Та же Югославия многое показала. А "сгон людей в ямы, выжженные лазерным лучом" (фильм "Терминатор", описание будущего) для их медленной смерти там, - как это похоже на действия западных держав по отношению к индейцам Южной Америки, детей которых специально заражали инфекционными болезнями и отпускали домой, чтобы "очистить" от людей землю, которую кто-то в Европе "приобрел"?
В обществе, где подобные действия среди людей являются обычным явлением, и от машин можно ожидать того же. Возможные действия разумных машин в представлении человека с западным мировоззрением - это апофеоз действий его самого. Но апофеоз, ничем не сдерживаемый и не скрываемый. И, боясь искусственного интеллекта, он боится самого себя, - своих дремлющих жестоких инстинктов, которые, как он уверен, будут жить и в любой разумной машине.
Но не таков мир фантастики другой половины мира.
Принцип жизни советского общества - не война всех против всех, а совместное развитие, жизнь не в борьбе друг с другом, а в труде и творчестве. Не конкуренция, а сотрудничество. Не стремление к власти и деньгам, а желание заниматься любимым делом и улучшать жизнь свою и других. Удовольствие не в утверждении своего "Я", а в творчестве и воплощении себя в своих замыслах. И таковы же были и представления советских людей о машинах с искусственных интеллектом. Что будут они - такими же, как и они. С безудержным стремлением творить и созидать - и с недостатками вроде занудства или доверчивости... Единственно, о чем беспокоились советские люди - так это о том, чтобы будущие роботы умели не только думать, но еще и чувствовать. Чтобы Электроник не только умел привести 25 доказательств теоремы Пифагора, но и заплакать, и рассмеяться.
В то время как для западного общества принятая в нем модель человеческих взаимоотношений кажется вечной и неизменной ("люди всегда будут волками друг другу, и ничего с этим не поделаешь"), советские люди никогда не воспринимали подобную реальность как нечто навсегда данное. Каждый знал, что человек не должен быть волком другому, что нормальное существование человечества - это большая семья, в которой все друг другу доверяют и нет никакого стремления самоутвердится за счет других. Как бы говорили себе: да, я еще не совершенный, в каждом из нас полно зла, но это - ненормально, и в будущем, будем надеяться, все исправится.
Стремление к лучшей жизни не могло не накладывать отпечаток как на человеческий характер, так и на представления о будущем и о разумных машинах. И роботы в советской литературе часто представали даже как "люди будущего", свободные от эгоизма и индивидуализма, находящие радость в творчестве и помощи друг другу, - как выражение того, к чему в своей жизни стремились их создатели - авторы книг. И совершенно ясно, что в советской фантастике почти совершенно не было темы восстания машин против людей. Даже в фильме "Отроки во вселенной" захватившие власть на планете роботы стремились не уничтожить ее население, а облагодетельствовать его, - так, как они понимали это. И не было того страха перед "умными машинами", техническим прогрессом в этой области, который пронизывал всю западную литературу, все мышление западных людей.
Так каков же будет ответ на заданный в теме вопрос? Чего нам ждать от искусственного интеллекта? Разрушителей мира или друзей и помощников? И как предотвратить развитие событий по типу фильма "Терминатор"? Так ли, как там показано - напрочь уничтожив все разработки, могущие быть использованными при создании искуственного интеллекта и запретив навсегда подобные стремления (к чему сейчас и склоняется западный мир) или как-то иначе?
Ответ же прост. Смотря кем будет создан искусственный интеллект и кем будет использован. И зачем. И кто вложит в созданную им мыслящую машину свое мировоззрение и принципы жизни. И кому тем самым сотворенный разум будет подобен.
Тот, кто считает, что основа жизни - это конкуренция, что цель жизни - самоутверждение перед людьми, кто убежден, что эти его принципы жизни - вечны и обязательны для всех, вряд ли создаст Вертера или Электроника. Скорее это будет Терминатор. А тот, кто получает удовольствие не от еды, секса и удовлетворения примитивных потребностей вроде воли к власти, а от творчества, познания, созерцания мира, помощи людям, тот создаст интеллект, подобный себе - так же стремящийся к познанию и творчеству. Возможно, для помощи себе в этом трудном деле. А, возможно даже и для того, чтобы в мире просто появился еще один разум, способный наслаждаться созиданием и мудростью.
И вряд ли такой созданный разум сможет быть использован теми, кто хочет не созидать, а разрушать. Он сам - не позволит. Уж об этом его создатель позаботится.
Итак, я попытаюсь разобраться
немного в этой теме. Однако
сразу же, хочется отметить, что
тематика эта, если можно так
выразиться не совсем научная,
поэтому ссылки лишь на публицистическую
литературу, исходя из этого, насколько
правдоподобны те доводы, что
приведены здесь, я судить не
могу, а привожу только в качестве
того, как об этом пишут.
Для начала я предлагаю рассмотреть что из себя представляют роботы, и вообще мыслящие машины, как они действуют и для чего они нужны. А в следующих 2х главах рассмотрим уже оценки настоящего и будующего с позиций ученых, футурологов, а так же сделаем упор на прогнозирование будущего с точки зрения 2х писателей, фантастов и ученых – Ст.Лемма и А. Азимова.
2.Роботы и машины. Что или кто это?
Некоторые историки считают, что началом робототехники можно считать времена античной Греции. Примерно в 270 году до н. э. греческий инженер Ктесибус создавал музыкальные органы и клепсидры (водяные часы), в которых имелись движущиеся фигуры.
Другие историки полагают, что робототехника началась с появлением механических кукол. Примерно в 1770 году Пьер Жаке-Дрю – швейцарский часовой мастер и изобретатель наручных часов изготовил три замечательные куклы. Одна из созданных им кукол «умела» писать, другая – играть на органе, а третья – рисовать картины. Эти удивительные механические куклы, предназначенные для развлечения королевской семьи, проявляли свое «искусство» при помощи рычажков, шестеренок и пружин.
Позднее, в 1898 году, Никола Тесла построил дистанционно управляемую «ныряющую» лодку. Для 1898 года это было немалым достижением, и лодка демонстрировалась в Мэдисон Сквер Гарден. Тесла планировал создать лодку, способную к автономному плаванию, но за недостатком финансирования исследования пришлось прекратить.
Слово «робот» впервые появилось в 1921 году в пьесе «Р.У.Р.» (Россумские Универсальные Роботы), написанной знаменитым чешским драматургом Карелом Чапеком. Робот по-чешски означает «рабочий». В пьесе описывались механические слуги – «роботы». Когда этих роботов наделили человеческими эмоциями, они восстали против своих хозяев и уничтожили их.
Исторически можно найти немало примеров роботов – предметов неживой природы, копирующих человеческую внешность и некоторые человеческие «функции». Таких «человекоподобных» роботов принято называть андроидами.
С легкой руки Карела Чапека роботы стали главными героями многих научно-фантастических книг и фильмов. Развитие темы «роботов» привело к появлению их многочисленных разновидностей. Наряду со старомодными «железными» людьми, появились киборги – существа частично «человеческого», а частично – «машинного» происхождения, и андроиды — роботы, имеющие человеческий облик.
Многие впервые увидели «настоящего» робота на всемирной ярмарке 1939 года. Фирма Westinghouse Electric создала робота Electro – движущегося человека. У робота Electro имелись моторчики и система приводов, позволявшие ему «двигать» ногами, руками и ртом. Робот не «умел» делать никакой полезной работы – его просто демонстрировали на сцене в компании «механической» собаки.1
Что касается их современного применения, то эти области очень широки. Роботизированные машины используются и в промышленности, и во многочисленных опасных производствах, и как роботы исследователи, например луноходы и марсоходы, множество технологий используется и в медицине, а так же в военной сфере.
3.Понятие «технической сингулярности» и ее опасности.
Технологическая сингулярность в футурологии — гипотетический взрывоподобный рост скорости научно-технического прогресса, предположительно следующий из создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами либо значительного увеличения возможностей человеческого мозга за счёт биотехнологий.
По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.2
Итак, момент, когда искусственный разум превзойдет человеческий называется сингулярностью. Множество фантастических фильмов построены на подобном антиутопическом сюжете, где роботы истребляют людей, например, «Терминатор» или «Я – робот». Так ли реальна эта угроза для человека? Ученые предполагают, что сингулярности человечество добьется уже в нашем веке, поэтому давайте представим, какое может ожидать нас будущее, где во всех сферах жизни так или иначе будут принимать участие разумные роботы.
ТО что будет представлено ниже, опирается лишь на прогнозы футурологов и ученых, однако нужно помнить, что никто не может точно сказать насколько это будет соответствовать истине.
Война миров
Самый главный кошмар,
который мы можем ожидать –
война с роботами, порабощение
человечества, а то и полное
уничтожение биологической жизни
за ненадобностью. Х/ф «Терминатор»
наглядно показывает данное развитие
событий, где роботы воюют с
людьми за возможность доминирования.
А ведь уже в наше время
неустанно ведутся работы по
созданию роботизированных солдат,
мулов и дронов для эффективной борьбы
с терроризмом. А что будет, если эти роботы
вдруг передумают и атакуют своих создателей?
Смерть?
Один из плюсов сингулярности, как многие полагают, это бессмертие. То есть, вероятно, появится возможность скопировать или перенести свой разум в робота, или даже в компьютер (например, как в фильме «Матрица», где все люди на самом деле существуют в виртуальном мире). Восстановление утерянных конечностей тоже станет более реальной возможностью с появлением «умных» имплантантов, и тогда смерть уже не будет такой неизбежной участью для человека, как сейчас. Имплантанты, постепенно, будут замещать не только нездоровые или отсутствующие органы, но и вполне дееспособные. Люди будут совершенствовать себя, чтобы стать умнее или сильнее, постепенно превращаясь в киборгов.
Экология больше не проблема
Окружающая среда, скорей всего, тоже претерпит значительные изменения. Роботам не нужен чистый воздух, комфортные климатические условия, растения и животные. Им вообще ничего не нужно, кроме ресурсов для создания новых технологий и роботов ну и ремонта старых. Есть риск, что они просто уничтожат все живое и истощат все ресурсы на Земле, причем гораздо быстрее, чем сейчас делает это человек.
Зачем мы им будем нужны?
В перспективе, любого человека в любой сфере деятельности можно будет заменить роботом, тогда появляется вопрос, а что же останется человеку? Чем умнее будут становиться машины, тем большими возможностями они будут обладать, и если сейчас они лишь помогают людям в простых задачах, автоматизируя однообразную деятельность, например, по сборке чего-либо, то в будущем роботы сами смогут разрабатывать сложнейшие вещи и это вызовет огромный уровень безработицы среди населения.
Мы уже частично
находимся в сингулярности –
такую работу, как запоминание, вычисление
и навигацию за нас выполняют
компьютеры. На данный момент, машины
несут больше пользы и деградация
не заметна. Но, когда почти вся
человеческая деятельность будет
в руках искусственного интеллекта,
люди станут не нужны такой
системе. Возможно, мы утратим все
свои способности, по аналогии
с митохондриями, которые являлись
независимыми организмами, но после
поглощения бактериями когда- то
очень давно, митохондрии постепенно
передали клеткам все свои
функции, за исключением выработки
энергии.3
На данный момент проводятся различные конгрессы о теории сингулярности, на которых предполагают все более различные вариации будущего, как роботизированного, так и нет. Но об этом можно написать отдельный реферат, так как материала по этой теме много, и он не до конца соответствует заявленной. Поэтому я хотела все - таки вернуться к нашей теме, и затронуть проблему военизированных роботов. Насколько они опасны для нас?
3.1.Опасности роботов – военных.
В последнее время
в мире набирает мощь компания
против создания искусственного
интеллекта. Одна из самых известных,
это компания «Остановить роботов-убийц».
Одним их выводов этих компаний,
это то, что лет через 20 – 30 в
основном в военных конфликтах
будут брать участие роботы. Но
как считают противники создания
умных роботов, такие роботы это
просто механические убийцы, некие
«машины смерти» и будут полностью
направлены против человека. Перепрограммировать
ее будет невозможно.
Правозащитная организация Human Rights Watch при поддержке Гарвардской школы права опубликовала 50-страничный доклад об опасности использования полностью автономных (роботизированных) вооружений. Как предполагают авторы доклада, боевые роботы не смогут отличить мирных жителей от военных. В докладе, который получил название "Losing Humanity: The Case Against Killer Robots" (дословно "Теряя человечность: Доводы против роботов-убийц"), в частности отмечается, что машины лишены сострадания и не несут ответственность за причиненный ущерб. С одной стороны, как говорится в докладе, наличие боевых роботов поможет спасти жизни собственных военнослужащих. С другой стороны, использование роботов вместо людей может облегчить моральную ответственность за развязывание военных конфликтов.
По мнению главы подразделения Human Rights Watch по вопросам вооружений Стива Гуса (Steve Goose), автономным боевым аппаратам необходим постоянный контроль со стороны человека.
Подобная безэмоциональность – скорее недостаток, чем достоинство искусственного интеллекта. Например, роботы могут стать инструментом в руках у диктатора, желающего расправиться с восставшим против его тирании народом. Во-вторых, безэмоциональность и невосприимчивость роботов также могут привести к увеличению количества военных столкновений, так как роботы – это «неживая» сила и ее просто не жалко, что значительно снижает моральные ограничения в вопросе развязывания войны. А в любой войне гибель мирного населения неизбежна. То есть вероятность вооруженных столкновений, с точки зрения Human Rights Watch, возрастет.4
Впрочем, как отмечается в докладе, полностью автономные боевые машины пока еще не разработаны и тем более не приняты на вооружение. По мнению экспертов, на которых ссылаются авторы документа, такие вооружения могут появиться в ближайшие 20-30 лет. Первыми подобные технологии, как ожидается, представят США, Израиль, Южная Корея, Китай, Германия, Великобритания и Россия.
Одним из лидеров в разработке беспилотных летательных и подводных аппаратов, а также военных роботов являются США. Финансированием подобных экспериментальных разработок занимается Управление перспективных исследовательских проектов (DARPA). Закон о создании в России аналогичного органа - Фонда перспективных исследований (ФПИ) - президент Владимир Путин подписал в октябре 2012.
Одним из настораживающих
факторов, например, это создание
и использование робота- хирурга
«да Винчи». Данный робот установлен
ив лучших клиника по всему
миру. Он полностью убирает человеческий
фактор при проведении операций.
Но, как оказалось, в экстренных
случаях, то что влияние хирурга убрано
от непосредственно пациента оборачивается
смертью пациента. Робот не может быстро
менять программу или реагировать в соответствии
с обстановкой. Результат – пока отключили
робота и сумели подойти к пациенту, пациенты
умирали. К тому же робот не может учитывать
анатомические особенности и другие факторы,
ив результате, много случаев, когда такой
робот просто пробивал скальпелем почки,
желчный пузырь, кишечник насквозь. А в
одной из клиник, одной из пациенток робот
нанес сильный удар, после чего от него
там отказались. «Результаты исследований
показывают, что риски, связанные с использованием
робота, существенно занижены,» - заявил
хирург Мартин Макарий из Университета
Джонса Хопкинса. – «Быстрое внедрение
аппарата «да Винчи» было сделано без
оценки его возможностей. Нам известны
случаи катастрофических осложнений,
возникших после операций, проведенных
при помощи механических рук».5
Вполне возможно,
последующие поколения испытают
на себе действие искусственного
интеллекта.6
4.Реальные угрозы от реальных роботов уже сегодня
Сейчас, как и было указано выше наука только продолжает развиваться все быстрее и быстрее, а вместе с ней и различного рода машины и роботы. В этой главе я хотела затронуть тему угрозы уже в сегодняшнее время от неумелого использования «умных машин».
Начнем немного с истории. Была в советское время такая дисциплина в инженерных вузах — «техника безопасности и охрана труда», ТБиОТ. Министерские институты повышения квалификации уделяли важное место ТБиОТ в учебных планах переподготовки директоров и главных инженеров: увечья и гибель работников были тем, за что реально можно было пойти под суд.
Кстати, даже в девяностые годы в Союзном государстве России — Беларуси принимались очень важные для этой сферы документы. Скажем, ГОСТ 12.2.072-98 Роботы промышленные. Роботизированные технологические комплексы. Требования безопасности и методы испытаний7, разработанный Межгосударственным техническим комитетом по стандартизации МТК-75 в 1998 году. Он устанавливал «общие требования безопасности к конструкции промышленных роботов… при проектировании, изготовлении, программировании, эксплуатации, ремонте, техническом обслуживании и организации роботизированных технологических комплексов (РТК) и участков (РТУ), а также методы испытаний».
Но тяга к получению
Darwin Awards в человечестве сильна: почётное
звание первой жертвы робота заслужил 25 января 1979 американец
Роберт Уильямс с литейного завода Ford
Motor Company во Флэт-Роке (Мичиган). Его прикончила
«рука» однотонного робота.
Однако никакого «бунта машин» там не наблюдалось.
Просто полному трудового энтузиазма
инженеру показалось, что робот слишком
медленно подаёт заготовки. Он полез сделать
это вручную, проник в рабочее пространство
робота и получил по голове манипулятором.
Так что эта грустная история ничем не
отличается от тех баек, которые рассказывали
школьникам начала семидесятых мастера
учебно-курсовых комбинатов.
Примечательна история сервисного инженера Кэндзи Урады из Kawasaki Heavy Industries. Он 4 июля 1981 чинил не полностью обесточенного робота, который, придя вдруг в действие, затолкал его в шлифовальный стано. Так что тут тоже имело место грубейшее нарушение техники безопасности, от которого предостерегают требования раздела 4.2.2 отечественного ГОСТа 12.2.072-98. И 77 связанных с роботами несчастных случаев8, имевших место в Великобритании в 2005 году, были примерно такого характера.9
Так что же конкретно делается для того, чтобы защитить нас от этих механических угроз? “Не хватает искусственного интеллекта”, - говорит Blay Уитби, эксперт в университете Сассекса, Англия. Это неудивительно, учитывая, что проблеме “безопасности критически важных вычислений” едва десять лет, - говорит он. Но все меняется, и исследователи все чаще проявляют интерес в том, чтобы пытаться сделать роботов более безопасным. Один подход, который звучит достаточно просто, это попытаться запрограммировать их, чтобы избежать контакта с людьми в целом. Но это гораздо сложнее, чем кажется. Поручение роботу перемещаться по загроможденной комнате достаточно сложно, не имея учитывать то, что различные ее конечности или придатков могут случайно наткнуться на пути.
Регулирующие поведение роботов станет сложнее в будущем, поскольку они чаще будут самообучающимися механизмами, говорит Gianmarco Veruggio, робототехник в институте интеллектуальных систем автоматизации в Генуе Италия. Как следствие, их поведение станет невозможно полностью предсказать, говорит он.
Тогда возникает вопрос, непредсказуемых сбоев. Что произойдет, если мотор робота перестает работать, или он страдает от системного сбоя, как он выполняет операции на сердце или вручать вам чашечку горячего кофе? “Сто процентов безопасности невозможно через технологию”, - говорит д-р Иноуэ. Это происходит потому, что, в конечном счете, неважно, насколько чувствительным вы, Вы же не можете предвидеть непредсказуемый характер поведения человека, - говорит он. Даже если мы и претворим в жизнь законы робототехники , выдвинутые А.Азимовым.
В любом случае, - говорит д-р Иноуэ, законы действительно инкапсулировать только на уровне здравого смысла, принципов, которые уже применяются для проектирования самых современных приборов как отечественных, так и промышленных. Каждый тостер, газонокосилки и мобильный телефон, разработанный в целях минимизации риска причинения вреда, однако людям все равно удается поразить себя, потерять пальцы или выпасть из окна. По крайней мере, роботы должны отвечать строгим стандартам безопасности, которые охватывают существующие продукты.
Робот безопасность, вероятно поверхности в гражданских судах, а вопрос ответственности за качество продукции. “Когда первый робот ковер уборочная засасывает ребенка, кто будет в этом виноват?” - спрашивает Джон Hallam, профессор университета Южной Дании в Оденсе. Если робот является автономным и способен к обучению, его конструктор может нести ответственность за все его действия? Сегодня ответить на эти вопросы, как правило, “да”. Но, как роботы расти в сложности она станет гораздо менее четкой, говорит он.
“Сейчас ни одна страховая компания не готова застраховать роботов”, - говорит д-р Иноуэ. Но что-то придется менять, - говорит он. В прошлом месяце, японское Министерство торговли и промышленности объявило набор руководящих принципов безопасности для домашних и офисных роботов. Они должны иметь датчики, чтобы помочь им избежать столкновения с людьми; быть выполнены из мягких и легких материалов для минимизации вреда, если столкновение все-таки произойдет; и чрезвычайной кнопка отключения. Во многом это было связано с большой робот выставке, состоявшейся летом прошлого года, которые заставили власть понять, что есть последствия для безопасности полетов, когда тысячи людей не просто глядя на роботов, но, смешиваясь с ним, - говорит д-р Иноуэ.
Однако, мысль, что общего назначения роботов, способных к обучению, станет широко распространенным неправильным, - предполагает г-н угол. Это, скорее всего, он считает, что роботы будут относительно «тупой» машиной, предназначенные для конкретных задач. А не робот-гуманоид, " служанка", “это будет различные роботы, которые будут заботиться о доме”, - говорит он.10
Из последних сообщений
новостной ленты в мире можно
заметить и подобные заявления.
Правительство Южной Кореи взялось
за разработку достаточно необычного
законодательного акта, который
будет призван нормировать этические
и этнические взаимоотношения
между людьми и роботами.
Политики планируют разработать
"Устав этических норм для роботов"
(Robot Ethics Charter) для разработчиков и пользователей.
Нужно сказать, что положения этого документа
станут частью программного обеспечения
гуманоидов.
Как пишут журналисты, в первую очередь
это можно мотивировать тем, что в ближайшем
будущем роботы смогут заполучить очень
мощный и развитый искусственный интеллект,
который по развитию не намного будет
отставать от человеческого мозга.
Специалисты отметили, что в виду актуальных
для населения Кореи проблем с рождаемостью,
вскоре обществу придется внедрять большое
количество сервис-роботов для выполнения
различных работ. Не секрет, что для многих
людей роботы станут настоящими друзьями.
Предположительно, основными правилами
для роботов станут: запрет на причинение
человеку вреда в любых проявлениях, умышленное
бездействие, которое может причинить
вред, но беспрекословное и абсолютное
подчинение командам хозяина. В то же время
роботы будут иметь право защитить самих
себя, но не выступать за рамки предписанных
законов. 11

- Опасности при добыче алмазов
- Опасности природного характера и защита от них
- Опасности природы Агинского района
- Опасности, распространяемые тараканами
- Опасности, связанные с загрязнением грунтовых речных и морских вод
- Опасности социального происхождения
- Опасности технических систем. Идентификация вредных факторов техносферы. Квантификация негативных факторов
- Опасности и их воздействия на организм человека
- Опасности и их источники
- Опасности информационного общества
- Опасности курения
- Опасности на радиационно-опасных объектах
- Опасности обусловленные действием подземных вод
- Опасности, определение, их классификация