Иванов-Петров Александр (ivanov_petrov) wrote,
Иванов-Петров Александр
ivanov_petrov

Чем отличается человек от облачного сервиса

http://ivanov-petrov.livejournal.com/1825223.html
Я спросил: Когда в рамках одного текста, одного романа противопоставляются технический интеллект и человек, чем следует наделить персонаж-человека, чтобы он был как человек? И заодно спросил о том, кто же в романе Лема - Непобедимый.

Вот что мне ответили.

Некоторые сказали об особенных высших проявлениях человека - причем обычно они не квалифицируют эти высшие способности, не относят к какому-то классу - так что мне, скажем, не вполне ясно, о чем речь, это считается самопонятным:
_noss
основной чертой главного героя, толкавшей его на контр-рациональные поступки, было сострадание.
regent
Я бы сказал, что героя надо наделить бессмертной душой, если бы эта субстанция не была настолько тонкой и неуловимой
vsh
Самосознание
dima_stat
человек (для человека-же) отличается от других машин предполагаемым наличием "Я", аналогичным собственному: можно "влезть в шкуру".
т.е. не "эмоции", а "чувства" скорее.
anti0h
если я сейчас правильно помню пафос романа, видовым признаком человека там служит совесть, плавно переходящая в мораль. И, соотвественно, возможность это самой совестью благополучно угрызаться. Со всей вытекающей достоевщиной.
С другой, если бы меня спросили, " чем-то еще его надо наделить"? Я бы ответил - чувством юмора.
leonid_b
Кроме эмоций, есть ещё и этика. Лем не один раз экспериментировал с идеей, что человек побеждает, когда ведёт себя этично (см., скажем, рассказы о Пилоте Пирксе). Я думаю, что в "Непобедимом" он впервые подцепил эту идею.
pyshch
Мне тоже показалось, что тот, кто этичен, тот и побеждает. Да, машина действует из неких своих критериев - например эффективность, но у человека этот выбор критериев заведомо богаче, т.к есть еще и этика. Поэтому человек более гибок - он может быть добрым, злым и при этом и там, и там эффективным. Т.е. на один и тот же параметр эффективности приходится больше вариантов решений.
idvik
Лем наделил своего героя Свободой
visokosgod
душой
photonew
Любопытство. Собственно с него и начался сюжет романа
staerum
Звездное небо уже не вызывает особых чувств, потихоньку вытравливаем и нравственный закон. Эмоции и ладно.
Вряд ли Лем ответил бы "эмоции". Сейчас вот как-то только "рацио" и "эмоции" и больше ничего вроде как и нет. Модель человека уплощилась, из него исчезла загадка. С углублением нейро-наук происходит схематизация психических процессов. Вполне естественно происходит, без надрыва и усилий. Нет уже "высокого человеческого", есть только бихевиоризм и трансцендентно-экзистенциальные "квалии". Даже уже предмета разговора нет, не о чем говорить - одни "эмоции" остались. А времени-то прошло всего ничего.
wingover
И человек и Туча - микрокосмы, со своим разумом, сознающие себя, способные по своей воле усиливать свои способности (другие варианты тоже возможны, но тривиальны и не важны для обсуждения здесь).
Но человек, в отличие от Тучи - микрокосм, способный осознавать и признавать существование других микрокосмов рядом с собой - со своим сознанием, своими интересами и т.п., парадоксально несмотря на то, что "каждый умирает в одиночку", "невозможно понять другого". Сильно перефразируя Джона Донна, Туча - остров, человек - не остров.
Туча романа - в силу ее генезиса, - возможно и неспособна на это, не знаю, можно ли сказать, что на это неспособна аналогичная Туча вообще.
Да, и "странные мистерии" романа в конце - вполне возможно, что это именно иносказание, намек на этот ответ - когда Туча попыталась воплотить в себе человека, людей - человеческое лицо, разделение на две сущности - понять, что могут чувствовать два разных человека? но ответом была только схватка и дождь из мертвых кристалликов.
lee_bey
Я бы сказал -- интуицией.
pagan_old
Я перечитал. Как я понял, если не непобедимым, то как минимум несгибаемым, человека делает вера. Решение идти искать товарищей, точнее выяснить твердо их судьбу, безусловно основанно на вере. Предприятие практически самоубийственное, но обязательное. Нечто более важное чем противопоставление - биологическая жизнь\смерть и безусловно не учитывающее дальнейшую судьбу популяции, вида. Роган хоть и является мельчайшим элементом человечества, но похоже он более сложноорганизованая сущность. Этакий феномен, где часть сложнее и больше целого.


Иные обратили внимание, что Туча "просто функционирует", тем самым отличие от человека - у нее нет разума.
pyshch
человек (в Непобедимом) способен к рефлексии, а туча (машина) получается все-таки нет. Больше того, человек не только способен осознать принципы по которым он поступает, но и поменять их - Рохан вначале по отношению к туче мало чем отличался от остальных.
Вообще чем дальше, тем больше у Лема эта грань стирается. В рассказах про Пиркса, прежде всего в Дознании, роботы тоже познавали себя, но вот изменяться сами не собирались - насколько я помню даже такой вопрос ими не ставился. Между тем этика как раз подразумевает изменение себя, причем не только поведения, но и отношения к другим.
kondybas
У роя нет целеполагания. Он не ставит себе задачу уничтожить людей. Он просто функционирует. Как бархан, засыпающий город. У него вообще отсутствует агрессия - в океан-то он не полез, хотя явных препятствий не было.
sozdam_sustain
И все-таки Непобедимый, и вообще человек превосходит тучу именно разумом. Способностью заглянуть в будущее, спрогнозировать, определить ценности и цели.
Еще интересный момент с метаном и кислородом в атмосфере... напоминает недавнюю историю с марсианским метаном :)
У тучи тактика, но не стратегия. она не мыслит абстрактно, не интересуется тем, что напрямую ее не касается. Работу человеческого мозга она детектирует, но смысл ее не понимает.
misha_makferson
А из чего собственно следует, что туча разумна? Вот возьмём наших любимых муравьёв. Их деятельность целенаправленна (она так целенаправленна, что многим человеческим обществам такая целенаправленность не снилась), они даже в каком-то смысле планируют будущее. Но разума в муравейнике ни на грош, вот как то всё это функционирует другим способом, без разума.
vlad_suh
Про ошибку и неоптимальное поведение, в котором человек оказался круче машины - это в другом романе Лема - Дознание.
А туча - она вообще безмозглая.
zveriozha
Туча не обладала AI в привычном понимании слова. Иначе она бы уничтожила экипаж Непобедимого гораздо раньше.
Это не Скайнет и не Матрица. А просто некая инстинктивно-действующая механическая фигня. Без цели, без стратегии, без направляющего центра. Можно сравнить с "распределенным" растением, которое атакует или защищается по какому-то набору алгоритмов. И не более. Или сравнить с антивирусом.

Далее - диспут про разумность тучи:
109
не совсем так. туча - это emergent AI. там же прямым текстом сказано, что чем серьёзнее проблема, тем больше мошкары подключается в сеть, тем больше вычислительных ресурсов, тем лучше получившийся AI соображает, тем лучше он справляется с проблемой. потрясающе эффективно. возможно, это и есть post-singularity.
zveriozha
Но способность предвидеть, считать стратегию у тучи отсутствовала. Грубо говоря, туча вообще не считала наперед. Не могу назвать такое поведение AI. Это инстинктивное поведение, а не разумное. Да, чем сильнее проблема, тем больше ресурсов подключается. Аналогично ведет себя организм человека в коме, например безо всякой разумности.
109
туча разобралась, как работает чужая машина - циклоп - и перепрограммировала его, за пару часов. на такое не способен не то что отдельный human intelligence, но и целая команда. не за пару часов, anyway.
supermipter
и всё-таки ваш собеседник прав.
Туча превосходным образом реагировала на угрозы и вторжения, но...превентивных ударов, требующих предвидения не наносила.



Говорят о том, что это роман о борьбе с тем, с чем не надо бороться, это природа, незачем сечь море
kondybas
У роя нет целеполагания. Он не ставит себе задачу уничтожить людей. Он просто функционирует. Как бархан, засыпающий город. У него вообще отсутствует агрессия - в океан-то он не полез, хотя явных препятствий не было.
telemont
А вот та сцена, где Роган сидит у Хорпаха и начинает понимать, перед каким выбором поставил его капитан. Здесь нет рациональности как таковой. И выбор в то же время нельзя свести к эмоциям (ну разве что чувство долга записать в эмоции, страх оказаться хуже, чем о себе думал - но это все уже явно не зверское). Собственно, с этого момента отключается тема противостояния с тучей (они с ней больше не воюют, "мушки" превратились в опасный элемент экзотического ландшафта, типа ядовитых змей в траве).
vsopvs
мне всегда казалось, что этот роман - о бессмысленной борьбе человека с тем, с чем бороться не следует. о том, что человек иногда склонен находить злой умысел там, где его нет.
это близко к проблеме океана, люди тоже были склонны наделять его злой волей, которой у него, вероятней всего, просто не могло быть.



Говорят, что отличие человека в том, что он может делать ошибки, испытывать боль и страх, в наличии эмоций
vsopvs
разница между Тучей и человеком, как и между Океаном и человеком - в том, что человек уязвим, его дух можно "задеть", того не желая. так что видимо дело именно в эмоциях, в них - источник конфликта в обоих романах.
bars_of_cage
у Хорпаха была сетчатая майка, сквозь дырочки вылезали седые волосы. Остальное как-то поблекло за годы
константин чатланский
"человек" отличается от "машинки" своим непобедимым аналоговым принципом ,который не позволяет производить точные копии чего-либо и поэтому у человека всегда есть некий зазор, лазейка, ошибка которую ии, основанный на противоположном принципе, идеально точном, грубом и примитивном, не в состоянии понять для сколько нибудь адекватного противодействия и его просто сводит с ума факт, что дважды-два всякий раз имеет имеет новое значение..
dzyabnieff
А что касается отличия... С этим непросто. Этические вопросы Лем ставил, да, но для него они никогда не были на первом месте. Так что, пожалуй, главное отличие человека (как тут уже выше сказали) - в способности от этого своего Разума отказаться. В Непобедимом, кстати, это многократно проговорено - начиная с аппаратика, который должен генерировать волны, имитирующие слабоумие.
И отказ этот, кстати, производится скорее уж не в пользу этики, а в пользу эстетики. Кульминация романа, по-моему - это момент, когда Роган в ущелье смотрит на непонятные маневры и игры тучи, и впервые замечает их странную красоту.
В общем, отличие - в способности принять свое поражение и смириться с ним.
sizif73
это - преодоление страха. Стадному существу всегда приходится выбирать между собственным выживанием и выживанием стаи. У человека добавляется понимание перспектив, которых животным на предыдущих ступенях не видно. А распределенная техника... мелкая составляющая не настолько сложна, чтобы чего-то бояться, а для сложной структуры потеря возобновляемых элементов - не трагедия.
till_j
Я сам последнее время стараюсь избегать этого слова, настолько оно девальвировано и лишено смысла для современников. Пользуюсь метафорами вроде "хрустальный извод".
Душа
sezam_lj
Человек, соединяя в себе "сконструированную" и "природную" части, в борьбе будет использовать свою сильную сторону против соответствующей слабой стороны противника. Зверей давим интеллектом, интеллекты - зверством.
meloco_go
Если читать автора буквально, то главная черта победителя -- умение в критический момент не отсвечивать. Остальное приложится.


Что эмоции не делают человека человеком, а всего лишь биологическим роботом
dima_stat
в принципе "на эмоциях" человек обычно действует согласно программам поведения, отточенным эволюцией за пол ярда лет, т.е. по факту является роботом. биологическим.
потом как правило по "приходу в себя" переживает..
diing
аппарат 'зверского начала" ("эмоций") необходимая часть ИИ высокого уровня, имеющего зачатки автономного существования. По сути это внутренняя подсистема ИИ управляющая работой интеллектуальной и исполнительной подсистем.
Зачатки 'эмоций" есть в обыкновенном компе, с которого ведется этот диалог.
"эмоция" - это и есть выражение реакции на совокупность информации внутреннего состояния и ситуации окружающего



Наконец, мне рассказали, о чем этот роман на самом деле. Я не шучу - некоторые трактовки мне просто в голову не приходили.

109
мне кажется, уж извините меня за прямоту, что вы совершенно не поняли, в чём суть романа. название корабля - непобедимый - это ирония. огромный непобедимый тяжеловооружённый космический корабль не справился с какой-то кристаллической мошкарой. речь о том, что распределённые технологии круче и эффективнее централизованных. если учесть когда это было написано, то провидческий дар потрясает.

dzyabnieff
Я вот, откровенно говоря, даже в детстве воспринимал название как авторский сарказм, на что, собственно последняя фраза романа прямо указывает: "как будто и в самом деле был непобедимым".
Вот уж чего-чего, а пафоса покорения Вселенной у Лема, по-моему, никогда не было. Все его романы, начиная с Эдема и далее по списку - как раз о том, как человек в столкновении с Чужим терпит поражение - особенно ясно это в Фиаско выражено, который в сущности есть тот же Эдем, где автору удалось высказаться до конца.
Видите ли, Лем, сколько я его вижу, никогда не давал ответов. Он задавал вопросы, в отличие от мелких фантастишек - уж у тех-то ответов на любой случай хоть лопатой разгребай.
Так что насчет того, что отличает - это был как раз один из Вопросов. Если помните, в Кибериаде Трурль сделал для изгнанного тирана целый мир в ящике. И там в конце Клапауциус ему читает гневную отповедь, спрашивая, где предел подражанию. Сначала глиняный болван, потом кукла с граммофоном, потом автомат с обратной связью - и? Подобный же вопрос был, ЕМНИП, в Сумме технологии или еще где-то.
Хотя для него вопрос, что отличает человека от искусственного ли, внеземного ли разума, не был, по-моему, существенным. Существенным для него было то, что в случае столкновения или просто встречи двух разных разумов, никакое взаимопонимание между ними невозможно - и только об этом он и писал.
Если брать конкретно тему "человек vs мыслящая машина", то по этому поводу у Лема практически ничего нет. Роботы и электронные мозги у него везде абсолютно антропоморфны - что в сказках, что в дневниках Йона Тихого. Они обладают эмоциями, смеются, плачут. Навскидку я могу припомнить только два рассказа. В одном - из Сказок Роботов - фигурирует Автоматей и его электронный друг - неуничтожимый и микроскопический, обладающий только речью и слухом. Автоматей там тоже робот, но ведет себя абсолютно как человек. Весь конфликт там заключается в том, что робот смертен, а друг - нет. Второй - Формула Лимфатера, но там искусственный разум - не просто какой-нибудь электронный мозг, а машина, обладающая абсолютным всезнанием.
То есть для Лема искусственный интеллект, созданный по образу и подобию человеческого, не представляет никакого интереса (в Докторе Диагоре он это прямо проговаривает). Человек и машина для него в этом случае тождественны, за вычетом потенциального бессмертия машины.
А вот насчет не-антропоморфного разума Лем как раз все время и писал. И тут да, не то что понимание - с его точки зрения вообще под большим вопросом наша способность распознать в этом чужом нечто разумное.

sezam_lj
у Лема в "Непобедимом", ИМХО, другое. Там люди сталкиваются не с интеллектом, а с чем-то вроде зеркала, и уродуются, как медведь об бочку с шипами. То есть у Лема главное свойство человека - найти в чем-то совершенно чуждом типично человеческие качества. Лем показывал, что человек может увидеть человека там, где его отродясь не было.

shkrobius
Возможно, ответ на то, кто - непобедимый дан в самом романе; ответ все время лежит на поверхности. Это Непобедимый: космический корабль. Он непобедим, потому что с точки зрения роя - люди лишь несущественные компоненты этой машины. Непобедимый непобедим тем, что не имеет разума вообще. Там нечего побеждать.
Там все начинается с того, что погибает другой корабль. Его находят, люди погибли; сам корабль в полной сохранности, он непобедим. Туча не распознает существ без автономной воли. Не приучена, не было необходимости. Поэтому, скажем, она никогда не атаковала "город". Для нее ситуация должна быть шизофреническая: нечто ей невидимое, что не имеет воли, насылает на нее волну за волной убийц, которых даже не интересуют ресурсы, которые она запрограммирована защищать до последнего.
wingover
Я просто напомню, что обшивка первого корабля была источена до такой степени, что он уже не мог самостоятельно взлететь
shkrobius
Ему не надо никуда лететь. Он прилетел домой.
константин чатланский
я бы за Вас проголосовал..
-------

Я получил историю о том, что человек есть Архипелаг, что Бумага побеждает Камень (распределенные технологии круче локальных), что антропоморфизация - серьезнейшее адаптивное достижение, помогающее побеждать - и множество других соображений.
Ничто так не умиляет, как рвущееся из сердца признание: "я бы за Вас проголосовал". Считаю это высшим проявлением согласия в ЖЖ. Я присоединяюсь и голосую за Винговера и Шкробиуса.
Tags: books6, ethnography2, literature3
Subscribe
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 83 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →