http://ivanov-petrov.livejournal.com/456727.html?thread=13492503#t13492503
mike67Кстати, полусерьезно: как Вы представляете сосуществование с ИИ?
То есть ситуацию, когда проблема познания снимается для человека вообще в связи с бесполезностью.
ivanov_petrov(несколько ошарашенно крутит головой) Полу-серьезно? То есть все-таки серьез... Ну, хорошо. Я полагаю, что ИИ - это то. что мы так назовем. Бессмысленно представлять какой-то естественный разум, таинственным образом смоделированный так, что он как бы искусственный и все же как бы разум. Просто будет фигня, которую будут называть ИИ. Сосуществовать? А какие проблемы? То есть, может, он нас и "погубит", но с помощью атомной бомбы это достигается проще. С бомбой сосуществуем7 Ну, вот как-то так... Спокойно и проводя день в насущных заботах.
mike67Я-то принял как аксиому, то что ИИ (если вдруг получится) это именно разум, а не то что мы назовем таковым. Более того, как раз ИИ и попытаются как бы дискредитировать, посчитать не-разумом, чтобы игнорировать возникновение более высокого интеллектуального этажа.
Я не думаю, что он сможет погубить нас целенаправленно, просто мы-то сами какое себе место отведем в мироздании? Я не возьмусь определить насколько сильно, но нашими действиями все же руководят некие человеческие программы - кто-то проблему Пуанкаре решает, кто-то пытается сделать свой бизнес более эффективным. А ИИ это все снимет.
ivanov_petrovТут две возможности ответа. Одна - оспаривание ИИ. Способов много... И я думаю, что весь разговор об этом "настоящем ИИ" - пустышка. То есть в качестве реальной проблемы этого нет, можно не думать. Другая возможность - допустить. в рамках некой фантастики. как условие: ну вот, построили. И как же мы теперь? Тут у меня вопрос. Многие религии допускают существование высших существ. давайте, раз мы в христианском ареале, вспомним анегов, архангелов... Вот высший разум - реально представленный в мировоззрении многих людей. то есть они живут, полагая, что он есть. Существа с иным разумом. нежели у человека, и высшим притом. Посмотрите, как они живут. Мне кажется, это ответ.
mike67Вера в существование архангелов и сосуществование с ними - настолько разные вещи...
Я боюсь, встреча с реальным высшим существом могла бы окончиться фатально для моей психики. Полагаю, что далеко не я один такой.
Хотя обезьяны к нам привыкли.
ivanov_petrovГхм... Что бы Вы назвали встречей?.. Впрочем, можно не отвечать. Мне кажется, если Вы подумаете и не будете придавать слову вера слишком уж субъективный оттенок _мнения_ - станет ясно. Тут уж надо выбирать. Либо Вы в своей фантастической задаче про ИИ считаете, что он примерно на нашем уровне, либо - как Вы и сказали - это будет высший разум. Тогда так. Низшие существа не обладают большими способностями к понимаю того, что встреча с высшим разумом, мягко говоря, состоялась. Представьте, что ИИ (в вашей гипотезе) прогрессирует с огромной скоростью, за годы проходит развитие тысячелетий, и лет через 100-150... исчезает. Остаются пустые железные банки, не проявляющие больше никаких особенных функций. Еще через 100 лет он станет мифом, этот ИИ.
mike67Понимаю. Я поэтому и сказал, что обезьяны к нам привыкли.
То есть мы можем оказаться в таком же положении. А если разум будет ненамного выше нашего, то это будет восприниматься гораздо хуже. Поскольку будет восприниматься.
Только чем ИИ фантастичен, не пойму. Это ведь не вечный двигатель. Никаких законов не нарушает.
ivanov_petrovЗаконов? Наверное, лучше будет сказать. что мы просто не представляем себе ни одного из законов, которые бы регулировали эту сферу. Подумайте, скажем, вот так - хрен бы с ним, что мы свой разум называем естественным, а строим какой-то искусственный. Но наш разум - индивидуален, это разум существа. Мы себе не представляем - ваще - иных вариантов. Мы из этого разума отдельного существа делаем произвольную выборку, говоря - вот это общезначимо. И пытаемся взращивать чтой-то подобное на ином субстрате. А откуда вообще берется мнение, что в этом понимании разум возможен? Если кто-то скажет, что надо ходить без ног, или падать там, где нет пространства и т.п. - это будет просто противоречие. А тут - легко, говорят... То есть нечто делается, но называть это ИИ - просто странно. В точности по логике - часто воспроизводимой на полном серьезе: а можно чувство чтоб комп чувствовал? легко, говорят - смоделируем. Ну, там будет разум такой же, как те чувства. Собственно, речь только о паутине в мозгах - почему надо делать эту работу, мысля столь грязно - я не понимаю.
mike67То есть: не познав самих себя, мы не можем знать, что надо моделировать?
ivanov_petrovНаверное... Или не называть моделированием. нормальное конструирование. Отчего нет? Делая лопату, я же не говорю, что моделирую руку.
mike67Тут дело в том, что никто и не ставит задачу копировать человеческий разум. Цель другая - создать то, что будет решать задачи, которые решаем мы. Это вполне выполнимо и, более того, методы решений получатся очень похожими на наши. Например, систему нельзя будет построить без нечеткой логики, что даст субъективность оценок.
Чтобы программа могла отбирать материал и ставить промежуточные цели - придется задать понятие добра и зла, которое она в дальнейшем будет развивать и развешивать ярлычки по всем реалиям.
То есть, даже без нашей на то воли программа сама обзаведется убеждениями, которые мы в нее не вкладывали. В условиях недостатка информации и необходимости срочно классифицировать какое-то явление обязательно начнут возникать суеверия, приметы.
Я не хочу утомлять перечислением, но нет ничего в человеческом мышлении, что не могло бы быть воспроизведено программой. Причем для этого не нужны ухищрения типа нарочитого снабжения компьютера эмоциями. К этому просто придет сама программа. Для нее задаются только стартовые параметры.
Не исключено, что программа будет решать вопросы своего развития неизвестным нам способом, но если мы задаем ей цель (решать те же задачи, что и мы), то ситуация становится эквифинальной с нашей точки зрения. То есть мы получим мозг, который умеет все то, что умеет наш. Ну больше - лучше. Только этого мы уже сможем не понять и не оценить.
ivanov_petrovМне кажется, эти суждения - результат как раз логической ошибки, там кольцо. Вы сначала определяете добро и зло как способ задать промежуточные цели. а потом говорите, что задание промцелей приведет к. Вы сначала называете "суеверия" результатом недостатка инфорпмации, а потом... И так всюду. От этого и возникает впечатление "нет ничего в человеческом мышлении, что не могло бы быть воспроизведено программой". То же с эмоциями - сначала будет мнение. что они являются тем-то (скажем, стрессовой реакцией на...), а потом - что у программы появились эмоции. Отсюда и эквифинальность - при таком способе суждения она заложена в изначальном определении базовых понятий. Я бы сказал совсем иначе - нет ничего в человеческом мышлении, что могло бы быть воспроизведено программой. Когда программа складывает 1 и 1 и получает 2 - она делает это иначе. чем при мышлении человека. Другое дело, что "Цель другая - создать то, что будет решать задачи, которые решаем мы" - тут верно. Поскольку мы делаем ее для этой цели, программа будет эквифинальна. поскольку мы решили построить стул, на нем будет можно сидеть. Ничего больше.
mike67О самом главном: Мы друг другу отвечаем, но совершенно не представляем, как собеседник приходит к этим выводам. Мы, конечно, читаем приведенные аргументы, но не видим, как они обрабатывались в голове собеседника. Мы только исходим из презумпции использования собеседником логики, не отличающейся от нашей. Чем же ИИ хуже?
Насчет кольца: такое впечатление могло сложиться из-за кривизны моего изложения. Излагать подробно я не решусь, тем более, что, похоже, Вам не очень нравится направление, которое принял разговор.
Я имел в виду, что цель (одна или несколько) задается как аксиома. Программа составляется так, чтобы быть способной различать добро и зло, то есть записывать в память под знаком плюс все, что ведет непосредственно к осуществлению цели. На первых порах за системой следят, подпитывая ее материалами для анализа и, возможно, дополнительными аксиомами (все это мы делаем, воспитывая людей). Этот этап представляет основную сложность при создании ИИ, с ней надо возиться, как с ребенком, параллельно решая проблему распознавания образов, пределов (на какой стадии упрощений и преобразований нарисованная кошка станет восприниматься как собака?).
Далее в системе возникают логические цепочки, они ветвятся, обрываются, образуются ложные связи. В какой-то момент система может описать свою картину мира. Она контактирует с другими системами, также имеющими свои цели. И так далее. Суеверия... Я имел в виду всего лишь то, что описывал Лоренц. Это очень легко алгоритмизируется. Я могу при необходимости рассмотреть это все подробнее, и суеверия и эмоции и промежуточные цели.
ivanov_petrovДа. вероятно - разное использование слов... Например, мне представляется, что добро - это не то, что записывается со знаком плюс при движении к цели. И т.п. Наверное, словесные навороты... Но я об этом и говорил. Что многие утверждения про ИИ кажутся осмысленными только по причине словесных наворотов. Зачем использовать метафоры? При чем здесь суеверия, эмоции. добро, зло, подобие разуму человека, эквифинальность? Это же пустое все. Есть решатель задач, мы его оптимизируем, он по программе распознает образы и т.п. При чем зхдесь слова про ИИ? Я, собственно, только об этом. О словах. Мы часто ими думаем, вот и получается...
mike67Да, то есть нет... Конечно, все дело в словах. Я только потому и переносил "человеческие" понятия на машину, чтобы показать, что за ними не прячется ничего мистического, не сводимого к процессу решения задач - ни у человека, ни у машины.
Это все эмоциональное отторжение. Вытаскивая человека из воды, чтобы он не утонул, мы действуем строго в рамках алгоритма IF THEN. Но ведь осознание этого это не должно нас отвращать от добрых дел?
ivanov_petrovМы вряд ли договоримся о значении слова "мистическое". У машины и человека за указанными Вами словами - эмоция. цель. суеверие и т.п. - стоит разное. Я полагаю, что это метафоры, которые восприняты буквально и приводят к неверным выводам. За словом "эмоция" у машины стоит не эмоция. У человека - именно эмоция. О мистике я здесь не говорю. Всё просто. Лопата - это лопата. Рука - это рука. Метафорически руки иногда называют граблями. Но тот, кто скажет. что грабли - то же самое, что руки, будет врать.
mike67Это, скорее, антипример. Мы же выясняем, можно ли считать идентичными вещи со схожими функциями, а лопата нарочито игнорирует все функции руки, кроме одной. Если уж сравнивать руку, то с идеальным протезом, который обучен всем тем же функциям. Именно всем. Вплоть до функции казаться окружающим нормальной рукой.
ivanov_petrovВещи - в этом дело. Искусственно созданная вещь определяется ее функцией. естественная вещь не определяется функцией. Это, конечно, очень старая философия... Но что делать, если вы сослались на этот аргумент. Но я согласен с вами в том. что спор этот бесплоден. Вы явно не случайно сказали так, как сказали - значит. это у Вас стоит крепко и зачем-то надо. Мне в таких случаях всегда интересно - а зачем Вам этот тезис? Крепость его стояния намекает: он важен. а для чего? Почему надо. чтобы лопата была рукой (а не лопата, так протез), чтобы компьютер был "настоящим" и взаправдошним интеллектом"?
mike67Я думаю, любая вещь не определяется функцией, а обладает функцией. Да, говорить, что перья появились для полета - смешно, но, кстати, говорить о том, что первый автомобиль делали для скоростной езды - тоже нелепо. А главное, что при этом всю систему прекрасно можно описать и телеологически. То есть для нашей темы это не имеет значение. Я могу согласиться, что вещь определяется функцией, но это ничего не изменит.
Для чего мне этот тезис я не знаю, просто функция познания - складывать что-то в более-менее ясные картинки. У меня сложилась такая. Но, наверное, это действительно тема для какого-нибудь другого случая, а то мы как-то уже...
faceless_ladyвстреча с реальным высшим существом могла бы окончиться фатально для моей психики.
да,да...именно по этой причине, возможность искусственного происхождения жизни или разума вызывает такую болезненную реакцию у людей нерелигиозных.
Это страшный культурный шок, с которым предстоит столкнуться человечеству.
Религия немного смягчает удар.
mike67Я совершенно серьезно. Мгновенная смена представлений о мироздании... Например, ну не знаю, человек видит говорящую собаку. Если упадет в обморок - легко отделается.
cello_Я читал, что шимпанзе (и, кажется, гориллам), которым "прививали" язык, давали сортировать фотографии различных животных. "Культурные" обезьяны всех прочих животных, а также необразованных соплеменников (в том числе и родителей), складывали в одну кучку, а людей, себя и других "говорящих" обезьян - в другую.
Хотя, наверное, владение амсленом, языком карточек и компьютерной клавиатурой ни при чём: все обезьяны в группе были в той или иной степени говорящими, а люди-экспериментаторы для обезьян обладали высоким статусом просто потому, что были хозяевами.
mike67Кошатники любят говорить, что хозяин для кошек - сверхкошка. Нет у них понятия человек. Скорее всего, эксперимент такую раскладку и подтверждает.
faceless_ladyне думаю. Обезьяны намного умнее, чем общепризнано.
Ознакомившись в своё время с соответствующей литературой, пришла к выводу, что отдельные обезьяньи индивиды, если б им пройти IQ тест, показали бы результат выше отдельных представителей homo sapiens. Не преувеличиваю. Процент такого перекрытия был бы невелик, конечно, но для отдельных особей такое наблюдалось бы. Особенно это касается бысрых умом бонобо(они, кажется, считаются миниатюрными шимпами).
Это я к тому, что нет резкой границы, и нет чёткого критерия, по которому обезьяний интеллект можно было бы безошибочно отделить от человеческого.
mike67Насчет обезьян я могу и ошибаться. Там вроде нет согласия насчет их умственных способностей. Вроде бы есть данные, что они не способны даже к логическим двухходовкам. То есть причина-следствие у них выступают как нераздельный объект. А что за литература?
faceless_ladyО! так к этому и многие люди не способны...мы, привыкшие вращаться исключительно в интеллектуальной среде, частенько забываем о том, что живём рядом с существами, способными исключительно к рефлексированию , а совсем не к логическим построениям.
Самые развитые из бонобо спрособны решать "технические" задачки-ситуации не хуже нас с Вами, и во много раз лучше , например, 5-6летних детей.
Литература разная..вот сейчас в руках довольно старая книжка : Antropology Explored (The Best of Smithsonian AnthroNotes) Это просто сборник статей.
mike67Спасибо, поищу. Ну 5-6 летние еще многими логическими способностями не обладают, но вот насчет обезьян надо посмотреть.
faceless_ladyне думаю, что всякий раз, когда мелькает ссылка не литературу, её следует искать и вникать...так у Вас жизни не хватит. Память беречь нужно.
На самом деле, неловко сказать, но мне встречались и 12-13-летние, не способные выстроить кратчайшую логическую цепочку, но при этом, прекрасно ориентировавшиеся в окружающм мире...на уровне инстинктов, что ли.. Это я о значительном проценте своих учеников (долгий опыт репетиторства)...вот разговариваешь с таким ребёнком - с виду совершенно обычный, начинаешь с ним заниматься и видишь, что способность к логическому мышлению начисто отсутствует...такое впечатление, что какого-то важного куска оперативной памяти не хватает...оно, бедное, старается уложить последовательность рассуждений в голове, а некуда! Опускаешься до того, что учишь запоминать последовательность действий, пусть даже без понимаения)...старается, пыхтит, начинает получаться...на следующий день - пусто! (а мы-то знаем, что это значит...из кратковременной памяти не переписывается в долговременную, а без этого процесс обучения невозможен!)
← Ctrl ← Alt
Ctrl → Alt →
← Ctrl ← Alt
Ctrl → Alt →