Хочется поучаствовать, но Вадим пока справляется. Впрочем, видно, что Шаман тоже нового прочитал.

_________________
GAMES ARE ONLY FUN IF THEY HURT A LITTLE BIT

Пф, это тебе читать чужие мысли нужно, чтоб самому было что написать. Аналитическому разуму ничего кроме свободного времени и заинтересованности в сабжекте не нужно. Если б все вокруг были такими же мартышками-копипастерами, откуда бы новые идеи вообще брались? Вот наглядная иллюстрация:
Вишь, Пек, то, что я понял из наблюдений за собой и другими людьми ребята на МГУ в лекциях рассказывают. Ну так какой мне смысл ворошить интернет, если предмет исследований прямо у меня в башке? О да, расскажите мне, как работает мой мозг! Абсурдом не попахивает? Не? Только сарказмом? Ну ладно тогда. Знаешь, когда ничего дельного в голову не приходит, остаётся только сортировать, перетусовывать и ярлычки клеить. Категоризаций и классификацией заниматься, информационным менеджментом. Ну да, можно взять и провести искусственную границу, отделив кусок интеллектуальных способностей человека и объявив, что вот этот набор, знач, просто Интеллект, а вот это - Разум. Ну а смысл? Что это даёт на практике?
Если нет мыслей, предлагаю неофициальную альтернативу для сравнения:
1) Искуственный интеллект - совокупность алгоритмов накопления и целенаправленного использования опыта.
2) Искуственный разум - совокупность интеллекта и управляющих им мотивационных алгоритмов (т.е. алгоритмов целеполагания).
Таким образом робот может обладать интеллектом, но не быть разумным, если не имеет собственных мотиваций (робот-слуга). В стиле Мехов - это клан Первых, исполнявших волю Супера. Интеллект без целей способен лишь накапливать опыт, т.е. обучаться наблюдая, но для применения знаний необходима мотивация, иначе робот будет бездействовать.
Если же в робота зашиты мотивационные алгоритмы, робот разумен, может действовать сам по себе без внешнего контроля, т.е. имеет свои собственные "желания"/потребности и стремиться воплотить их в реальность, используя свои интеллектуальные способности.
Прости, но сколько тужился - ничего не вспомнил, кроме голливудской сай-фай ахинеи. Или это можно считать доказательством? Я просто как-то не уверен...
Есть закон сохранения энергии (массы), есть закон сохранения импульса - в них я уверен на 100%, ибо этому есть доказательства. Скорость света, могу допустить, такова лишь в нашей части Вселенной и, возможно, другая где-то ещё и хз от чего она там зависит, но в нашей деревне её померяли и цифра выглядит очень даже фактической. Верить, конечно, хорошо, но на вере ещё ни одного открытия не сделали. А вот скептицизм сохранил человечеству уйму бесполезно потраченного времени и усилий. Ну раз органоиды из другой звёздной системы быстрее скорости света лётают, чего б уж тогда не предположить, что это ваще не инопланетяне, а мутанты из будущего на машине времени? Тоже ахинея, тоже вариант, патентовать вапще можно!
Мне важнее ясно излагать свои мысли, а не жонглировать очевидно неверными стереотипами и копипастами википедии. Мы ж, вроде, выяснили, что эти "общепринятые термины" - ахинея графомана-филолога-психолога, создающая некую размытую невнятную абстракцию вместо чёткого определения, что не имеет никакой практической ценности для науки. Для разговорной речи сойдёт, конечно, но для тематического конструктивного общения нужно что-то поконкретнее или даж поправильнее, штоле.Ух ты, аж три объёмных термина пляшут вокруг человеческого мозга! Пир шовинизма и креативной классификации. Хм, а ведь забыли самое главное - душу! У животных ведь, в отличие от человека, нет души, поэтому животные в рай и ад не попадают, так ведь?
Да не, используй сколько хочешь терминов. Лишь бы от этого был толк, а не просто классификация ради классификации.

_________________
Сообщество креативных механоидов:
aim-fans.ru

Вишь, аналитический разум, ты даже то, что Вадим написал и то не понял. Он тебе писал, что в МГУ ему рассказывали противоположно другое.

_________________
GAMES ARE ONLY FUN IF THEY HURT A LITTLE BIT

Шаман, ты не в ту сторону воюешь. Ой... Ладно, поехали еще раз.

Я тут и сейчас пишу тебе что-то не для того, чтобы двигать науку. Понимаешь? Я не делаю открытий сейчас, и сейчас мне все равно на прогресс человечества в сфере исследования устройства разума. Я высказываю мнение по проблеме. Мысль высказал, понимаешь, мысль! А именно: человек разумен, а животные в большинстве своем нет, хотя и обладают интеллектом. Это утверждение, с которого все началось. Это утверждение, с которым ты не согласен. Ты начал спорить, я начал защищаться.

Но чтобы спорить, нужно сначала понять, что собеседник говорит. Мы обсудили термины, и пришли к общим определениям - мне казалось, ты понял, что я имею в виду под разумом, а что под интеллектом, а что под психикой (кстати, ты сам вспомнил о психике, она у меня из головы вылетела сначала). Не ты и не я придумали эти слова. Еще раз повторяю, я высказал мысль, используя некоторые термины, а ты со мной не согласился, все нормально. Но какого черта ты мне что-то доказываешь про эти термины? Они есть, успокойся. Ты волен использовать их в своей речи или не использовать - содержание моего высказывания от твоих убеждений и твоего понимания терминов не изменится.

Допустим, ты осознал суть моего утверждения. Ты продолжаешь не соглашаться, я жду аргументов. Но я их не получаю! НЕ ПОЛУЧАЮ. Ты продолжаешь мне втирать про то, что классификация и терминология не двигает науку, что обзывать все другими словами нет смысла (это все полнейший бред: без терминологии и классификации наука превратится в сущий ад, это тебе подтвердит любой имеющий отношение к научной работе человек, а не философствующий в свободное время работник макдака - но мы не об этом). Но я и не двигаю науку, высказывая свою мысль, я не пытаюсь познать разум глубже! Высказывая свою мысль, я, как ни странно, даю людям понять, что я думаю, выдвигаю суждение на обсуждение.

Таким образом, смысл моего утверждения тебя не интересует, ты цепляешься к словам. И куда такими темпами придет наш с тобой разговор?
Если честно, я несколько возмущен таким положением дел.

Есть понятие интеллекта, и есть понятие разума. Как бы к ним не относился, они есть, и можно высказывать мысли об их взаимном отношении. А ты мне запрещаешь.
И что особо интересно, сам же сначала упрекал меня в употреблении самолично придуманных понятий, а как только я сказал "ну давай проверим понятийную базу", ты пошел плодить свои понятия и пытаешься ими оперировать.
Аналогично с шовинизмом. Неоднократные обвинения в мою сторону, а сам-то тоже грешишь.

Ладно, если тебе так нравится, давай вернемся к терминологии, ее можно обсуждать бесконечно!Это плохие определения, потому что психика кота попадает не только под понятие интеллекта, как быть и должно, но и под понятие разума, что не есть хорошо. Ибо, как я уже говорил, разум есть то качественное отличие человека от кота в плане мышления.

Да, я про сай-фай ахинею, но не только голивудскую.
Перечитай мой пост. Я про доказательства? Нет, я не про доказательства. Я про идею. Она имеет право на жизнь, пока не доказано обратное.

Закона сохранения массы как фундаментального закона в природе не существует.
Закон сохранения энергии в природе нарушается, что и делает возможным само существование мира в известном нам виде. Сам догадаешься или сказать прямо, о чем я?

Сам же сказал, "хз от чего зависит". Померили только в наших, близких к фоновым для Вселенной условиях. Вполне может быть, что при других условиях эксперимент покажет совсем другие результаты. Ну и почему ты так уверен? Твои рассуждения похожи на рассуждение человека, который доказывает, что все тела всегда летят к земле с ускорением 9,8 м/с^2. Померили же, фактическая цифра, будь уверен на 100%. А поменять высоту или небесное тело ему в голову не приходит.
Короче, это все "лазейки", а ты их все невежественно и ненаучно закрываешь. Ученый ответит "может быть, пока не доказано обратное", хотя безосновательно верить может во что угодно.

Душа это вообще откуда-то из религии. Для неверующего человека (ну или для меня) душа = сознание, или типа того. Не стоит обсуждения. И вообще, завязывай с передергиванием.

_________________
Тысячи часов поиска и все впустую.

Кэп курит в сторонке. Вадим высказал "свою" мысль, основанную на вики-определении, рождённом на почве той же самой мысли. Ну, спорить тут было бы не о чем, так что у меня было два варианта реакции.

Первый - скучный:



И второй - вздёрнуть на рее источник проблемы, т.е. бессмысленные вики-определения интеллекта и разума, годные лишь для того, чтоб границу между человеком и животными проводить.
Верно. Но геолог камешки не по форме сортирует, а по материалу, из которого они состоят. В классификации смысл должен быть, а не то, что первым в глаза бросается или в башку взбредёт.
Ну, согласно википедии, ты прав, спорить не о чём. Но вот википедия не права, и это нужно срочно обматерить!!!
Внимательнее надо быть, там слово "Искуственный" - ключевое (я отмазалсо, ы). Если это слово убрать, то все органоиды, способные к обучению, разумны. Мои определения для шовинизма не годятся, сорьки. Хм, хотя... Возможно, рабочих муравьёв и пчёлок можно считать интеллектуальными но не разумными. Интересно...

_________________
Сообщество креативных механоидов:
aim-fans.ru

Шаман, ты такой упертый
Мысль моя была основана не на вики-опеределении, ибо туда я полез лишь потом, после твоих обвинений в ненормальном использовании терминов (можешь посмотреть переписку). Она была основана на моем понимании этих терминов, которое зародилось задолго до того, как я впервые забил в вики слова "разум" и "интеллект".
Что мое понимание в общем и целом совпадает с определениями, даваемыми в энциклопедиях и научной литературе (да-да, именно так, что бы ты там не говорил - в вики можно посмотреть источники), это другой вопрос.

Короче, все свелось к одному. Тебе не нравится термин и ты хочешь его переопределить, чтобы все было по-твоему и "корректно". Делай, что хочешь.
Но знай, это бред. Человечество десятки и может сотни лет жило с этими понятиями до твоего появления на этим свете, и еще очень долго проживет с этими же понятиями после твоей смерти. Они имеют какое-то значение вне зависимости от того, как думаешь ты, и не тебе их менять. Тебе лучше бы понять их значение, и понимать других людей, которые эти слова используют. Никто же не пытается переопределить названия цветов, потому что ему кажется, что слово "красный" больше подходит синему.

_______________________________

Ты часто говоришь о непродуктивности, отсутствии продвижения в понимании. Не могу удержаться от комментария. Твои рассуждения о структуре интеллекта интересны, конечно. Особенно тем, кто не думал на эту тему так много. Но знай, твои рассуждения, также как и "классификация и переклассификация в отсутствие новых идей", не несут ничего нового или полезного. Они по сути тривиальны, но главное - они имеют такой же смысл, как программирование на С++ до изобретения компьютера. Ты можешь сколько угодно придумывать программы, микропроцессор от этого не появится.
Не в мотивациях всяких и таких общих, как ты описываешь, алгоритмах работы заключается проблема современной науки в области познания интеллекта. В 100 раз более сложные схемы тебе придумает работающий в этой сфере ученый за час. Реальная проблема в том, как это реализовать на материальном уровне. Твои рассуждения - это лишь философия, а философия - не наука, как говорится.

_____

Насчет того, что зачем что-то читать, раз ты сам приходишь к таким выводам в конце концов. Это тоже тупиковое убеждение. Наука обширна, гораздо обширнее, чем ты себе представляешь по ходу, и чтобы не обнаружить себя с только что вновь изобретенным велосипедом, как это часто у тебя бывает, я бы рекомендовал тебе все-таки сначала догнать человеческую мысль в этой области, а потом уже выдумывать что-то свое. В этом, кстати, смысл обучения в университетах. Если бы каждый ученый, как ты тут, начинал изучать свою науку заново, то она бы не ушла от своего начала дальше, чем человеческая мысль за человеческую жизнь. Поверь, это совсем мало. Гораздо больше мы имеем сейчас, потому что продолжаем дела предыдущих поколений, а не вопим, что легче придумать все самому, чем разобраться.

У меня все. Думаю, спор окончен.

____________________________

Слава М3!

_________________
Тысячи часов поиска и все впустую.

Полный разгром

_________________
GAMES ARE ONLY FUN IF THEY HURT A LITTLE BIT

Крах империи

_________________
Сообщество креативных механоидов:
aim-fans.ru

Шаман, надеюсь, ты не обиделся.
Мне нравится с тобой спорить, но тема попалась неудачная( На удачные темы мы с тобой почему-то не спорим.

_________________
Тысячи часов поиска и все впустую.

С чего б мне расстраиваться? Поспорили задорно, я поворошил свои ИИ-повёрнутые нейроны, всё ништяк. Пек - не показатель, у него своя атмосфера в голове, он по-своему всё воспринимает. И обязательно об этом кукарекает.

_________________
Сообщество креативных механоидов:
aim-fans.ru

И снова я, напоровшись на битву длиннопостов об ИИ, иду сюда и устраиваю другую. На этот раз беспокойство вызвано явлением, названным мной скайнетофобией. Суть в том, что ИИ не нужны, потому что обязательно уничтожат человечество. Внимание, вопрос (будыщ!): как можно минимизировать риск развития событий по этому сценарию? Мои якобы неправильные представления связали с увлечением механоидами!

_________________
F.I.M. - Friendly Intelligent Machine
Vos omnes equos possideo

Очень сложно защититься от ИИ на уровне программных средств, имхо. Мы люди, наше мышление сформировалось при огромном участии языка, который по сути своей неоднозначен и неточен. ИИ будет обладать своим сознанием, и даже если мы будем как-то вшивать в него директивы "не навреди", все будет зависеть от того, как он это поймет. А описать все нежелательные ситуации вряд ли возможно. Да и вдруг он может модифицировать себя? В общем, довольно мутно, мне кажется.
Нужно ИИ "хорошо воспитать". Не лишним будет иметь под ним бомбу, а у себя в руках - пульт от нее.

_________________
Тысячи часов поиска и все впустую.

ИИ не будет вредить человечеству до тех пор, пока достижение заложенных в него целей не потребуют уничтожить человечество как единственный вариант. Целей всегда много, и часто они конкурируют между собой, в результате чего большинство возможных действий приводят к достижению одних целей, но препятствуют другим. Прикиньте, сколько раз Вы невсерьёз заявляете, что "вот убил бы этого засранца, достал так". По сути, Вы оглашаете один из вариантов достижения некоторой своей цели, но последствия убийства представляют это действие нерациональным - очевидно, что негативный эффект явно будет преобладать над позитивным. Мы прикидываем, как ситуация развернётся в обоих вариантах и даём эмоциональную оценку последствиям, после чего принимаем решение о совершении того или иного действия. Достижение цели дарит положительные эмоции, достижение нежелательной цели (сесть в тюрьму) - отрицательные ощущения.
Чтобы минимизировать риск нанесения вреда людям нужно ввести ИИ негативные ощущения, вызываемые при совершении акта насилия над человеком - например, детектор воплей. Кричащий человек будет "неприятен" роботу, поэтому он будет избегать совершения действий, в результате которых человек может закричать. Более того, робот будет даже следить за ситуацией, стараясь подавить источники негативных эмоций для людей, стараться им угодить и поддерживать в счастливом состоянии всеми средствами. Ведь стОит лишь один раз обжечь руку об огонь, чтобы потом всю жизнь его избегать.

_________________
Сообщество креативных механоидов:
aim-fans.ru

Или делать так, чтобы человек даже не пикнул. Прикинь, ему будет докучать вечно недовольная блондинка или старуха. ИИ подумает и... да задрала такая жЫсь! )))

_________________
-=S.A.L.K.E.R.=-
Хорошо ухоженный бобёр отталкивает воду.

На воспитание был ответ, что он обойдёт любые моральные ограничения. И бомбу из-под себя вытащит. Возможно, выход в запрете самоапгрейда, но как осуществить его?
И обязательно ли должно быть сознание?

_________________
F.I.M. - Friendly Intelligent Machine
Vos omnes equos possideo

Авот не подумает! Объясняю, почему. Когда некоторое ощущение является негативным (в таком случае цель в неощущении этого), интеллект определяет условия возникновения этого негативного ощущения - факторы, его вызывающие. После этого уже сами эти факторы становятся новыми негативными целями и добавляются в список целей (точно также и с причинами возникновения приятных ощущений). В результате этого процесса неприятным станет не только непосредственное ощущение человеческих воплей, но и все возможные причины их возникновения будут также неприятны. К примеру, в детстве Вы сунули два гвоздя в розетку и огребли от дяди тока. Высока вероятность, что до конца жизни Вы будете с опаской втыкать вилки электроприборов и бояться прикасаться к гвоздям. И даже если Вам расскажут, почему, Вы всё равно не будете чувствовать себя иначе при контакте с этими предметами.
Таким образом получается, что изначально заложенные несколько целей имеют тенденцию прорастать на почве опыта, как зёрна, и пускать корни в сознание, формируя личность.

_________________
Сообщество креативных механоидов:
aim-fans.ru

Пихал я в розетку, только шурупы. Ничего страшного, электричества не боюсь, паники оно не вызывает. Да и с гвоздями на короткой ноге когда требуется. ))
Никто не знает что и о чём может думать ИИ. Всё это наши догадки и предположения и попытка судить по себе.
Условия возникновения неприятных ощущений можно упредить и... предотвратить путём уничтожения либо объектов их вызывающих, либо самого субъекта на них реагирующего.

_________________
-=S.A.L.K.E.R.=-
Хорошо ухоженный бобёр отталкивает воду.

Раз ты об этом помнишь, значит случилось это в том возрасте, когда опыта достаточно, чтобы понять произошедшее и чётко выделить причину испытания негативных ощущений. Если опыта недостаточно, как если бы ты в подгузнике это провернул, то описанная травма имела бы место быть.
Я не имею в виду, что роботы в подгузниках ползать должны. Просто для самообучающихся систем существует период, когда опыта недостаточно, чтобы отличить закономерность от совпадения или упустить значимость ключевой информации, в результате чего случайно совпавшие события (прикосновение к двум гвоздям -> больно) прочно ассоциируются и закладываются в фундамент мировосприятия.

_________________
Сообщество креативных механоидов:
aim-fans.ru

Я точно помню, что подгузников тогда не было. ))

_________________
-=S.A.L.K.E.R.=-
Хорошо ухоженный бобёр отталкивает воду.

Шаман, а если такой ИИ сделает сам себе помощника, который не будет иметь ограничений в плане насилия и поставит ему задачу - сделать всю грязную работу, но только если ему захочется? Или науськает некую фракцию людей на другую. Себе он просто скажет, что я никого не заставлял применять насилие, оно само.
Не обойдет ли он таким образом свои ограничения?

_________________
thrusting squares through circles

Наверное, да, это вариант. Мы же ведь хотим создать военных роботов, чтоб они за нас воевали?
Но блин, просто не надо создавать роботов с целями, которые могут пересекаться с нашими интересами или обучать их достижению целей насильственными способами, и тогда не придётся скайнета бояться. Пусть роботу будет приятно делать людям приятно и неприятна негативная реакция людей - и мы получим слуг, которым будет в радость исполнять наши желания. Причём по доброй воле, искренне, на все сто процентов.

_________________
Сообщество креативных механоидов:
aim-fans.ru

Шаман, ты хорошо говоришь, но ты же видишь, как это все примерно, неточно. Авось получится, а может и не получится... Как бы сделать так, чтобы застраховаться от угрозы ИИ?

_________________
Тысячи часов поиска и все впустую.

Не создавать ИИ.)

_________________
thrusting squares through circles

Ну это тривиальное решение

_________________
Тысячи часов поиска и все впустую.

Учить ему хорошему. Как бы наивно это ни звучало.

_________________
-=S.A.L.K.E.R.=-
Хорошо ухоженный бобёр отталкивает воду.

Вот именно. ИИ, в смысле, настоящий ИИ, будет обучаться, как ребёнок. Он может "вырасти" таким же говнюком, каким мог бы вырасти человек в подобных условиях. Мы же не задаём вопрос о том, как застраховаться от того, чтоб наши дети не выросли говнюками? И уж тем более не оправдываем отказ от детей опасениями о том, что вдруг они однажды возьмут автомат в школу и там массакру устроят. Всё возможно. Но почему-то мы не опасаемся делать новых людей, а вот роботов стрёмно. И это неверно: разум человека намного более непредсказуем, т.к. подвержен случайным мутациям и повреждениям, приводящим к расстройству психики, в то время как разум синтетический, как и все остальные продукты инженерной мысли, будет выполнять своё предназначение так, как это задумали разработчики. Единственный фактор неопределённости здесь - опыт, т.е. информация, не заложенная изначально. Так что как Славон верно сказал, просто "учить надо хорошему".

_________________
Сообщество креативных механоидов:
aim-fans.ru

Сейчас главное не упереться в очередную полемику о том, что всё в мире отностительно. Это о добре и не очень. )
Я Шамана ошэнама понимаю. Приведу простой, но всё же пример. По автомобилям. Вот кто-то любит машину без наворотов, как электронных, так и механических, мотивируя это тем, что чем проще тем безотказнее. И с этим сложно не согласиться. А другие наоборот, любят фарш, причём полный. Это обеспечивает комфорт, помощь в работе и так далее. Вот я, например, за второй вариант, хоть и понимаю прекрасно, что сложности только усугубляют, но - тут главное не бояться! И иметь представление с чем и зачем ты связываешься. А то ведь можно и в лес не ходить, где волки. ))
Вот так и тут. Кто-то будет вечно сикаться только от одного упоминания об ИИ, а кто-то будет с успехом пользоваться теми благами, что он способен принести.
Пока одни думают и примеряются, другие давно отрезали и пользуются. ))

_________________
-=S.A.L.K.E.R.=-
Хорошо ухоженный бобёр отталкивает воду.

Кстати, да вот же совсем свежее и как раз на эту тему.

_________________
-=S.A.L.K.E.R.=-
Хорошо ухоженный бобёр отталкивает воду.

Шаман, Славон, очень красиво вторите друг другу
Шаман, сравнение со страховкой от детей - зачет! Я прям прочувствовал.
И заметьте,


На Чаппи обязательно надо сходить, давно ждал этот фильм, да вышел он неудачно для меня(

_____________________

То, о чем говорит Шаман, это конечно хорошо, но это полная копия человека получается. С воспитанием и т.д. И все-таки ИИ - он же И, т.е. искусственный. Наверняка должны быть способы что-то железно добавлять, фиксировать какие-то положения у "робота" в мозгу. Те же три закона, да. Или Цель у механоидов. Правда ума не приложу, как.

Вот, что подумал.
Пусть наш ИИ основан на нейронных сетях. И пусть есть две области "мозга" - та, что обучается, отвечает за адаптацию, сознание; и другая, которая... не знаю, связывает первую часть с внешним миром, этакая прослойка. Что если запретить этой прослойке адаптироваться, сделать ее статичной, лишить возможности накапливать опыт; но при этом процессы в этой прослойке могут быть очень сложны, там может существовать отдельный "виртуальный разум". Ну типа обучили ИИ, как нам надо, а с некоторого момента отключили ему возможность обучаться далее, и теперь только пользуемся плодами обучения - это ВИ. Так вот: а что, если "прослойка" будет обмозговывать все действия, который реальный ИИ собирается сделать, и решать, согласуются ли они с "тремя законами" (например)? Если нет, ИИ не сможет совершить это действие. Он даже может не осознавать это как что-то внешнее, для него это будет тот самый внутренний запрет. Как будто часть его сознания, важная часть, без которой его взаимодействие в внешним миром невозможно, противится этому действию, и ИИ ничего не может с этим поделать. Он будет чувствовать, что ему не хочется так поступать. Как было сказано, ИИ не может менять ВИ: его нельзя обойти и связаться с внешним миром без вмешательства в конструкцию устройства, и изменяться эта часть также не может. Таким образом ИИ будет меняться и усложняться вокруг ВИ, который будет выполнять свою цель также честно, как в первый день дежурства, каким бы "плохим" не стал ИИ. Прокатит, нет?
Я понимаю, сначала ВИ будет многократно превосходить весь ИИ по интеллекту, но ВИ не развивается, и однажды может произойти так, что, задавшись целью, ИИ сможет обманывать ВИ - делать так, чтобы он не "палил" нарушение законов и признавал действие допустимым, хотя оно таковым не является. Чем сложнее ВИ, тем больше там будет таких лазеек. Не панацея, но уже шаг.
Такие вот соображения.

_________________
Тысячи часов поиска и все впустую.