?

Log in

No account? Create an account
"Ум говяжий, 2 р 17 коп за 1 кг" - Коллектив Авторов "EugeneBo" [entries|archive|friends|userinfo]
Eugene

[ website | My Website ]
[ userinfo | livejournal userinfo ]
[ archive | journal archive ]

"Ум говяжий, 2 р 17 коп за 1 кг" [Feb. 1st, 2008|12:00 pm]
Eugene
[Tags|, ]

Многим вот нравится творчество Айзека Азимова. На фоне чудовищной серости фантастики в целом оно и вправду выигрывает. Но при этом, на мой взгляд, всё же не стоит каких-то особых восторгов.

Я не буду касаться художественной стороны. Слишком субъективно. Хотя мне есть что сказать про её убогость. Я также не буду разбирать в деталях "идеи" автора. Я коснусь лишь наиболее известного: трёх законов роботехники, "изобретения", которым почему-то безмерно восхищается какое-то прямо неприличное количество народу.

Многие вещи Азимова завязаны на ситуациях, в которых эти законы вступают друг с другом в противоречие. Но господа и дамы, это же халтура! Ибо каждый из этих "законов" некорректно сформулирован уже сам по себе; не требуется великого таланта, чтобы сделать на этом противоречие. Посмотрим хотя бы на первый, простите, "закон":

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Чтобы робот его выполнял, он должен всегда понимать, что такое "вред". Безошибочно!!! Стопроцентно! Всегда!

Вопрос: понимаем ли мы это сами? А вот хренушки! Вот Вас сейчас взять за шкирку, оттащить от ЖЖ и заставить работать, это будет вред или польза? Аборт -- вред или польза? Наркоман, умирающий без героина, ему шприц во вред или на пользу? Посмеяться над человеком -- вред? А покритиковать его? А соблазнить? Можно продолжать ad infinitum.

Человеческий мозг слаб и постоянно ошибается в таких вопросах. Если мы сделаем робота со способностями, близкими к человеческим, то он тоже будет часто ошибаться, и первый "закон" станет фикцией. Ну а если робот гораздо умнее и действительно способен просчитывать вред и пользу на годы вперёд и предсказывать наше счастье лучше нас самих... то это будет существо, неизмеримо превосходящее интеллектом всё человечество. Возможно даже, доброе, но абсолютно непонятное, непредсказуемое, чуждое. Пытаться понять, соблюдает ли оно на самом деле первый закон -- бред. И уж тем более думать, что про такое существо можно сочинять милые сердцу, такие "человеческие" рассказики...

Попса все эти истории про роботов...
linkReply

Comments:
[User Picture]From: towerless
2008-02-02 01:08 am (UTC)
Как известно, все мужики - козлы. Включая А. Азимова.
(Reply) (Thread)
[User Picture]From: marie_lumiere
2008-02-02 01:40 am (UTC)
Робот-человек всегда был предназначен для выдумок.
Человеческому мозгу понадобилось не одна сотня тысяч лет, чтобы накопить весь генетический опыт, коим он руководствуется в принятии решений сегодня.
Просто средний человек, как правило, недооценивает всю сложность человеческого мозга.
Понятно, что любая фантастика, даже очень хорошая, все равно фантастика. Не нужно её принимать столь серьезно. =)
(Reply) (Thread)
[User Picture]From: eugenebo
2008-02-02 04:18 am (UTC)
Да я и не принимаю серьёзно. Вот фанаты Азимова -- те да :)
(Reply) (Parent) (Thread)
From: ex_neo_is_fl156
2008-02-02 01:52 am (UTC)
Азимова не читал, но теперь уже и не хочется читать :)
З.Ы. Оттащить от ЖЖ и заставить работать - это жестоко :)
(Reply) (Thread)
(Deleted comment)
[User Picture]From: eugenebo
2008-02-02 04:19 am (UTC)
Если небезошибочно, то грош цена первому закону.
(Reply) (Parent) (Thread)
(Deleted comment)
[User Picture]From: eugenebo
2008-02-02 09:42 pm (UTC)
Среди людей и так полно хулиганья и типов, способных нанести человеку вред без видимого к тому основания. Увеличивать их ряды ещё и искусственно -- кому это будет надо? Не станут таких роботов покупать.
(Reply) (Parent) (Thread)
(Deleted comment)
[User Picture]From: eugenebo
2008-02-04 07:21 pm (UTC)
С первым, который нарушается.
(Reply) (Parent) (Thread)
[User Picture]From: _nightwing
2008-02-02 05:13 am (UTC)
"вред" это ведь переводчики написали, а в оригинале было:
A robot may not injure a human being or, through inaction, allow a human being to come to harm.

не абстрактное "вред", а "повреждение"
(Reply) (Thread)
[User Picture]From: eugenebo
2008-02-02 09:40 pm (UTC)
Да, в оригинале оно звучит более корректно. Но суть дела всё равно мало меняет. Ведь и "injury" определено довольно неточно, как качественно, так и по силе. Получить мячом в морду при игре в футбол -- это injury? А как насчёт inaction, когда человек напивается в зюзю и умирает от отравления алкоголем?

В контексте данного закона я не вижу принципиальной разницы между "вред" и "injury".
(Reply) (Parent) (Thread)
[User Picture]From: _nightwing
2008-02-03 11:05 am (UTC)
когда я читал Азимова в детстве, то вопринял именно как физический вред, как травму или возможность травмы.

с тем, что в "законах" не должно быть несколько трактовок, согласен. Юридически расплывчато)
(Reply) (Parent) (Thread)
[User Picture]From: npopok
2008-02-02 07:56 am (UTC)
«Умные людоподобные роботы, делающие добро» — это порождение умственного дефекта, называемое мною «техношизофрения», т. е. раздробленное, несвязное представление о технике и о технологии как общественном явлении.

Первейший робот — беспилотный самолёт-камикадзе. Фронт исследований в САУ — построить робота с пулемётом, самостоятельно уничтожающего живую силу противника. Применение исследований в лингвистической обработке и в распознавании образов — отлов и пытки неугодных (т. н. «антитерроризм»). И так во всём остальном.
(Reply) (Thread)
[User Picture]From: eugenebo
2008-02-02 09:43 pm (UTC)
Собственно, да. Пока филисофы спорят, может ли машина мыслить, военные спутники у них над головами давно уже это делают :) Только не по-человечески.
(Reply) (Parent) (Thread)
[User Picture]From: husainov
2008-02-04 08:18 am (UTC)
Даже если абстрагироваться от этих законов, то вот вопрос- почему западный фантаст создал тему роботов? Ответ мне кажется довольно прост- они всегда хотели, чтобы кто-то на них работал, а им за это ничего не было. Это и есть смысл трех законов.
(Reply) (Thread)
[User Picture]From: eugenebo
2008-02-04 07:29 pm (UTC)
Ну, тему роботов создал Карел Чапек, восточный европеец :) Впрочем, эксплуатировал её больше всех, наверное, и вправду Азимов.

Гипотеза Ваша любопытна. Надо подумать.
(Reply) (Parent) (Thread)
From: insane_reader
2014-01-24 05:25 pm (UTC)
Речь идет о физическом вреде.Эти законы -ошейник на раба, ограничение свободы воли искусственного разума,и не имеет значения обладает ли этот разум человеческими категориями добра и зла, или гораздо умнее людей.

Меня больше занимает вопрос о копировании и тиражировании человеческой личности.
Научно-технический прогресс постепенно подходит к возможности точного молекулярного сканирования человеческого тела и ,главное, его нервной системы.
Продвигаются технологии печати органов и биологических тканей. Таким образом, когда-нибудь будет можно скопировать и распечатать живое человеческое существо почти идентичное оригиналу ,либо эмулировать функции нервной системы на компьютере или кибернетическом организме (андроиде).
Подобные технологии идеальны для колонизации звезд..... Но какое влияние они могут оказать на земную цивилизацию?
И подобно как в названии темы:"Ум человеческий, 2 р 17 коп за 1 кг"


Edited at 2014-01-24 05:28 pm (UTC)
(Reply) (Thread)