Три закона робототехники Айзека Азимова - это красиво, конечно. Но на мой взгляд, это фантазия, которую невозможно реализовать в полном объёме.
Как вообще можно технически прописать три закона робототехники, когда их область действия - это сложный узел философских и моральных проблем, которые не под силам порой решить и белковому существу?
Это мне напоминает тезис об уважении, который выдвигали отдельные представители советской интеллигенции. Мол, одна из базовых проблем советского строя - отсутствие уважения к личности. И стоит только это уважение реализовать, как всё наладится. Это я читал у Фазиля Искандера в повести про человека, который строил махолёт, и у Нестора Рыжего, который самолично отсидел в советских лагерях. Но проблема в том, что уважение у конкретных людей выражается по разному. Кому-то уважение - это забухать вместе, кому-то - сахарная голова в кулёчке, а кому-то с уважением ещё нужно и понимание Пастернака. И эти "выражения уважения"часто вступают в фатальное противоречие.
Хрестоматийный пример - для Мистера Твистера из стихотворения Маяковского Маршака* признаком уважения являлось отсутствие в соседних номерах "негров, малайцев и прочего сброда".
Возвращаясь к трём законам робототехники, приведу конкретный пример. Есть SMS-лохотроны. Они одним людям приносят большую пользу, а другим - маленький вред. Не сказать, что совсем маленький, но по сравнению с той пользой, которую получают другие люди, - всё таки малый.
Опять же, и даже среди людей далеко не жуликов распространено мнение, что SMS-лохотроны - они и для жертвы полезны, потому что не надо совать свой мобильник куда попало. (Привет Сешатику!)
Вот вы смеётесь, а знаете, какой вой на форумах вебмастеров поднялся, когда МТС начало хоть что-то делать для блокировки откровенных разводок. Люди стенали, что деньги теряют! А они, кстати, размещали заказы на тексты, давали работу вполне нормальным и относительно честным людям написать статьи для своих сайтов. То есть такой серьёзный вклад в экономику. Может, даже какой-то фрилансер не умер от голода в кризис по этой причине.
И вот куда, скажите, бедному SMS-роботу податься? И как прописать законы, чтобы и хитрожопым мошенникам польза, и людям не во вред?
Так что Айзек Азимов, конечно, гений, но его Три Закона - это химера, о которой лучше сразу забыть, как и вообще все отвлеченные от практики абстракции.
Забыть и просто прописывать конкретные технические допуски, решения и ограничения, руководствуясь УК и техникой безопасности.
.
.
.
*спасибо ojkaban за поправку
Так сказал Человек-Хэмингуэй