Три закона роботехники
metanymous в Metapractice (оригинал в ЖЖ)
He can always tell the truth, выпуск 9
| He can always tell the truth | |||||
| 8. В Юте регистрируют (КГД) намёки на когнитивные реакции | metanymous | ||||
| academ.info | |
| http://pix.academ.info/images/img/2010/09/13/17d80c80517878f5011892e63151adab.jpg | |
| compulenta.ru | |
| http://science.compulenta.ru/561686/ | |
| wikipedia.org | |
| http://ru.wikipedia.org/wiki/ | |
| He can always tell the truth | |||||
| 10. Ни мудрости, ни равновесия | metanymous | ||||
«Мы разработали алгоритмы, которые позволяют роботу вводить в заблуждение человека или машину, обладающую искусственным интеллектом, а также научили его выбирать лучшую стратегию в разных обстоятельствах», — уточняет руководитель научной группы Рональд Аркин.
http://science.compulenta.ru/561686/
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
http://ru.wikipedia.org/wiki/Три_закона_роботехники
2 комментария
сначала старые сначала новые
вот к чему моделирование-то приводит, если нет "большей рамки" - напр. соображений безопасности людей
вот к чему моделирование-то приводит, если нет "большей рамки" - напр. соображений безопасности людей
Ну да. В данном случае у нас на рассмотрении четырех явных/неявных контекста исполнения моделирования:
Контекст - "есть" = "жизнь вообще" - самые большие рамки для моделирования любых социальных явлений и таких, в частности, как "ложь", "введение в заблуждение" или "соображения безопасности людей". Данный контекст есть общий/объемлющий для (а) групповых моделистов по ссылке с их роботами, вводящими в заблуждение друг-друга, для (б) великого фантаста и для (в) "фантастической" жизни героев произведений указанного фантаста
(а) контекст групповых моделистов по ссылке с их роботами, вводящими в заблуждение друг-друга
(б) контекст, питающий фактами реальной жизни творчество великого фантаста
(в) контекст "фантастической" жизни героев произведений указанного фантаста
У меня такое впечатление, что и фантаст, пока был жив, и современные роботехники, и роботехники из будущего упомянутого фантаста - все-трое вполне реалистично представляли вслед за поэтом, что в жизни абсолютно нет:
--правды, но есть всех калибров одна только ложь
--нет стремления к установлению истины, но есть все пронизывающая концентрирующаяся атмосфера "введения в заблуждение" всех каждым и каждого всеми
--нет и никогда не было соблюдения ни в каком виде "соображений безопасности людей"
...всего выше упомянутого нет, но есть "покой и воля". Так вот, под сенью данной большой рамки и проходили три разных варианта моделирования:
--современные роботехники в силу убогости их финансирования (что заметно по виду экспериментальной обстановки и скромности их роботов) решали реалистическую частную задачу типа "с чего малого начинается введение в заблуждение". И преуспели в этом.
--фантаст, разумеется, писал вовсе не о роботах, а о людях:
...мечтал бедолага-утопист об обществе, основанном на трех правилах человеколюбия. Но, понимая весь космический масштаб своего утопизма, корреспондировал законы человеколюбия слугам человека - роботам. Типа может быть хоть так что-то путное получится.
--ну и герои фантастики, которые своим присущим им/нам поведением показали, что роботы не смогут соблюдать три закона человеколюбия. Ибо начинать надо не с роботов, а с людей.
В итоге: Современные роботехники моделирования основания/зарождение лжи. Фантаст моделировал человеколюбие. А герои фантастических произведений моделировали невозможность решения тотальной человеческой проблемы на границе взаимоотношений сообществ людей и роботов.
Ну да. В данном случае у нас на рассмотрении четырех явных/неявных контекста исполнения моделирования:
Контекст - "есть" = "жизнь вообще" - самые большие рамки для моделирования любых социальных явлений и таких, в частности, как "ложь", "введение в заблуждение" или "соображения безопасности людей". Данный контекст есть общий/объемлющий для (а) групповых моделистов по ссылке с их роботами, вводящими в заблуждение друг-друга, для (б) великого фантаста и для (в) "фантастической" жизни героев произведений указанного фантаста
(а) контекст групповых моделистов по ссылке с их роботами, вводящими в заблуждение друг-друга
(б) контекст, питающий фактами реальной жизни творчество великого фантаста
(в) контекст "фантастической" жизни героев произведений указанного фантаста
У меня такое впечатление, что и фантаст, пока был жив, и современные роботехники, и роботехники из будущего упомянутого фантаста - все-трое вполне реалистично представляли вслед за поэтом, что в жизни абсолютно нет:
--правды, но есть всех калибров одна только ложь
--нет стремления к установлению истины, но есть все пронизывающая концентрирующаяся атмосфера "введения в заблуждение" всех каждым и каждого всеми
--нет и никогда не было соблюдения ни в каком виде "соображений безопасности людей"
...всего выше упомянутого нет, но есть "покой и воля". Так вот, под сенью данной большой рамки и проходили три разных варианта моделирования:
--современные роботехники в силу убогости их финансирования (что заметно по виду экспериментальной обстановки и скромности их роботов) решали реалистическую частную задачу типа "с чего малого начинается введение в заблуждение". И преуспели в этом.
--фантаст, разумеется, писал вовсе не о роботах, а о людях:
1. Человек не может причинить вред другому человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Человек должен учитывать все пожелания, которые выражает другой человек, кроме тех случаев, когда эти пожелания противоречат Первому Закону.
3. Человек должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
...мечтал бедолага-утопист об обществе, основанном на трех правилах человеколюбия. Но, понимая весь космический масштаб своего утопизма, корреспондировал законы человеколюбия слугам человека - роботам. Типа может быть хоть так что-то путное получится.
--ну и герои фантастики, которые своим присущим им/нам поведением показали, что роботы не смогут соблюдать три закона человеколюбия. Ибо начинать надо не с роботов, а с людей.
В итоге: Современные роботехники моделирования основания/зарождение лжи. Фантаст моделировал человеколюбие. А герои фантастических произведений моделировали невозможность решения тотальной человеческой проблемы на границе взаимоотношений сообществ людей и роботов.