... ↑
gineer в посте Openmeta (оригинал в ЖЖ)
Это определение, про "поиск компактных описаний", оно конечно красивое, и четкое,
но есть в нем один изьян -- в нем довольно таки ильно игнорируются особенности подобной человеческой деятельности...
и самое главное, игнорируется вопрос "а отку да же берется новое?".
Я знаю, у вас тут привычный ответ -- это эмерджентность.
Но разве вы не видите, что это просто постулирование,
как идея о том что мыши самозарождаются из прелой соломы,
которое не дает никакой возможности для дальнейшего анализа...
24 комментария
сначала старые сначала новые
Новое рождается эволюцией. Теория эволюции довольно быстро разрабатывается последние несколько лет -- в том числе эволюционное направление в машинном обучении даёт в части теории сегодня едва ли не больше, чем многочисленные наблюдения за биологической эволюцией.
Возьмите хотя бы книжку http://bookzz.org/book/2556650/4f33f2 или раздел про эволюцию в книжке http://www.amazon.com/dp/0465065708/
Возьмите хотя бы книжку http://bookzz.org/book/2556650/4f33f2 или раздел про эволюцию в книжке http://www.amazon.com/dp/0465065708/
\\Возьмите хотя бы книжку http://bookzz.org/book/2556650/4f33f2
Kenneth O. Stanley · Joel Lehman
Why Greatness
Cannot Be Planned
The Myth of the Objective
Спасибо за ссылку. Хочется надеятся что с вашей стороны это попытка коммуникации (я лично, обычно так ссылки использую), а не просто "дай ему двадцать шекелей, пусть отвьяжется" (С) ;)
А так... могу сказать что то что там написано практически совпадает с моим умонастроением -- "Objectives are well and good when they are sufficiently modest, but things get a lot more complicated when they’re more ambitious. In fact, objectives actually become obstacles towards more exciting achievements, like those involving discovery, creativity, invention, or innovation—or even achieving true happiness. In other words (and here is the paradox), the greatest achievements become less likely when they are made objectives."
Хотя... наверняка вы выделяете там какие-то другие пласты смысла. :(
Кстати. Вот нам техническое противоречие. Вполне в духе ТРИЗ. ;)
Мы не можем ничего планировать, если хотим добится каких-то амбициозных целей...
но тем не менее мы необходимо должны планировать, потому что иначе мы ничего не сможем сделать -- как разрешить этот парадокс? ;)
(особенно это касается проектов, настолько больших, что уже невозможно полагатся на воображение, гат филинг отдельного человека)
Kenneth O. Stanley · Joel Lehman
Why Greatness
Cannot Be Planned
The Myth of the Objective
Спасибо за ссылку. Хочется надеятся что с вашей стороны это попытка коммуникации (я лично, обычно так ссылки использую), а не просто "дай ему двадцать шекелей, пусть отвьяжется" (С) ;)
А так... могу сказать что то что там написано практически совпадает с моим умонастроением -- "Objectives are well and good when they are sufficiently modest, but things get a lot more complicated when they’re more ambitious. In fact, objectives actually become obstacles towards more exciting achievements, like those involving discovery, creativity, invention, or innovation—or even achieving true happiness. In other words (and here is the paradox), the greatest achievements become less likely when they are made objectives."
Хотя... наверняка вы выделяете там какие-то другие пласты смысла. :(
Кстати. Вот нам техническое противоречие. Вполне в духе ТРИЗ. ;)
Мы не можем ничего планировать, если хотим добится каких-то амбициозных целей...
но тем не менее мы необходимо должны планировать, потому что иначе мы ничего не сможем сделать -- как разрешить этот парадокс? ;)
(особенно это касается проектов, настолько больших, что уже невозможно полагатся на воображение, гат филинг отдельного человека)
Забавная ссылка со смыслом.
http://kvisaz.livejournal.com/821914.html
http://kvisaz.livejournal.com/821914.html
Вот есть пара такиз "парадоксов" на тему информации.
Когда математики берут и прямо в лоб пробуют считать количество перестановок, для того чтобы посчитать вероятность "самозарождения" молекулы ДНК,
и у них получаются какие-то совсем несусветные цифры.
А все потому, что они исходят из интуиции непрерывности и равноценности элементов.
Хотя на самом деле -- уже отдельные атомы весьма отличаются по свойствам, а молекулы еще более специфичны...
и потому вопрос -- каким образом эти молекулы объединяются в более сложные структуры, является более вопрсом локальных условий, а не глобального перебора.
Думаю вы это понимаете/знаете по примерам из инженерии -- в ней очень редко что-то определяется исходя из общих принципов, с верху до низу.
Наоборот, собирается из множества слоев.
ИМХО, это все из-за идеалистической т.з. на информацию... что она вроде бы декларируется материальной (по крайней мере материальный носители)... но в большинстве случаев трактуется идеалистически (платонизм, эмерджентность).
Еще один такой "парадокс" -- с передачей информации.
Представлением что должен существовать "передатчик", и соответствующий ему "приемник"... при этом и первый, и второй, должен быть разумным, или иметь разумного создателя... опять же, потому что информация рассматривается идеалистически и континуально -- кажется что очень сложно так случилось, чтобы неразумный приемник поймал соответствующую информацию...
но откуда тогда взялась первичная РНК?
Но если представить, скажем... информацию как игровые кубики, ну или игральные кости... с т.з. математики -- это просто объекты кубической формы, одинаковые и взаимозаменимые,
а если обращать внимание не на форму, а на те значки что на них есть... и представить что эти значки определяют правила по которым они между собой взаимодействуют... ситуация уже не будет выглядеть так по-математически.
А это уже и будет модель "материальной информации"...
Исходя из этой модели например... то что написано в этих книжках что вы дали ссылки, становится более прозрачно.
То что "амбициозные проекты невозможно планировать" -- да потому ведь, что они состоят из большого количества подобных нестандартных кубиков, которые не только могут по-отдельности иметь еще неизвестные свойства, но и их количество гораздо больше, чем мы привыкли иметь дело.
Или то что задачи оптимизации, поиска экстремума -- имеют сложную проблему "локальных минимумов" из которых не получается вылезти математическими средствами -- оно и понятно, если мы апроксимируем дискретное вообще-то пространство выбора непрерывной матмоделью, то ясно что у нас где-то образуются "горы и впадины".
Сюда же... (не удержусь %) ) вековечный вопрос о "смысле жизни" -- потому на него и нет ответа, потому что это всегда вопрос "как сложатся кубики" и нет никакого гарантированного градиента подсказывающего направление к цели... потому что территория вот такая, с локальными минимумами.
ЗЫ Вот так, сформулировал. Но ведь это ведь "глупая философия", не так ли? :(
Когда математики берут и прямо в лоб пробуют считать количество перестановок, для того чтобы посчитать вероятность "самозарождения" молекулы ДНК,
и у них получаются какие-то совсем несусветные цифры.
А все потому, что они исходят из интуиции непрерывности и равноценности элементов.
Хотя на самом деле -- уже отдельные атомы весьма отличаются по свойствам, а молекулы еще более специфичны...
и потому вопрос -- каким образом эти молекулы объединяются в более сложные структуры, является более вопрсом локальных условий, а не глобального перебора.
Думаю вы это понимаете/знаете по примерам из инженерии -- в ней очень редко что-то определяется исходя из общих принципов, с верху до низу.
Наоборот, собирается из множества слоев.
ИМХО, это все из-за идеалистической т.з. на информацию... что она вроде бы декларируется материальной (по крайней мере материальный носители)... но в большинстве случаев трактуется идеалистически (платонизм, эмерджентность).
Еще один такой "парадокс" -- с передачей информации.
Представлением что должен существовать "передатчик", и соответствующий ему "приемник"... при этом и первый, и второй, должен быть разумным, или иметь разумного создателя... опять же, потому что информация рассматривается идеалистически и континуально -- кажется что очень сложно так случилось, чтобы неразумный приемник поймал соответствующую информацию...
но откуда тогда взялась первичная РНК?
Но если представить, скажем... информацию как игровые кубики, ну или игральные кости... с т.з. математики -- это просто объекты кубической формы, одинаковые и взаимозаменимые,
а если обращать внимание не на форму, а на те значки что на них есть... и представить что эти значки определяют правила по которым они между собой взаимодействуют... ситуация уже не будет выглядеть так по-математически.
А это уже и будет модель "материальной информации"...
Исходя из этой модели например... то что написано в этих книжках что вы дали ссылки, становится более прозрачно.
То что "амбициозные проекты невозможно планировать" -- да потому ведь, что они состоят из большого количества подобных нестандартных кубиков, которые не только могут по-отдельности иметь еще неизвестные свойства, но и их количество гораздо больше, чем мы привыкли иметь дело.
Или то что задачи оптимизации, поиска экстремума -- имеют сложную проблему "локальных минимумов" из которых не получается вылезти математическими средствами -- оно и понятно, если мы апроксимируем дискретное вообще-то пространство выбора непрерывной матмоделью, то ясно что у нас где-то образуются "горы и впадины".
Сюда же... (не удержусь %) ) вековечный вопрос о "смысле жизни" -- потому на него и нет ответа, потому что это всегда вопрос "как сложатся кубики" и нет никакого гарантированного градиента подсказывающего направление к цели... потому что территория вот такая, с локальными минимумами.
ЗЫ Вот так, сформулировал. Но ведь это ведь "глупая философия", не так ли? :(
Это, у вас наверное есть какие-то мысли на тему экзокортекса...
Мотороллер не мой %)) а Хайдеггера ;)
""Наше научное бытие приобретает свою простоту и заостренность благодаря тому, что подчеркнутым образом вступает в отношение к самому по себе сущему и только к нему. Ничто науке хотелось бы с жестом превосходства отбросить. Теперь, однако, в вопросе о Ничто обнаруживается, что это наше научное бытие возможно только в том случае, если оно заранее уже выдвинуто в Ничто. Оно понимает себя таким, какое оно есть, только тогда, когда не уклоняется от Ничто. Пресловутые трезвость и всесилие науки обращаются в насмешку, если она не принимает Ничто всерьез. Только благодаря открытости Ничто наука способна сделать сущее как таковое предметом исследования. Только когда наука экзистирует, отталкиваясь от метафизики, она способна снова и снова отстаивать свою сущностную задачу, которая не в собирании и упорядочении знаний, а в размыкании, каждый раз заново достигаемом, всего пространства истины природы и истории.""
http://al391.livejournal.com/13154754.html
""Наше научное бытие приобретает свою простоту и заостренность благодаря тому, что подчеркнутым образом вступает в отношение к самому по себе сущему и только к нему. Ничто науке хотелось бы с жестом превосходства отбросить. Теперь, однако, в вопросе о Ничто обнаруживается, что это наше научное бытие возможно только в том случае, если оно заранее уже выдвинуто в Ничто. Оно понимает себя таким, какое оно есть, только тогда, когда не уклоняется от Ничто. Пресловутые трезвость и всесилие науки обращаются в насмешку, если она не принимает Ничто всерьез. Только благодаря открытости Ничто наука способна сделать сущее как таковое предметом исследования. Только когда наука экзистирует, отталкиваясь от метафизики, она способна снова и снова отстаивать свою сущностную задачу, которая не в собирании и упорядочении знаний, а в размыкании, каждый раз заново достигаемом, всего пространства истины природы и истории.""
http://al391.livejournal.com/13154754.html
\\Все эти CYC и прочие онтологические проекты компьютерных онтологов -- это онтоанализ прежде всего. Я понял, почему там стало так дохло. Там нет выхода на онтосинтез. Это означает, что тамошний "искусственный интеллект" -- фикция. Интеллект деятелен, интеллект должен не только майнить и анализировать, он должен ещё и проектировать и синтезировать.
Просто интересно... как давно вы это поняли? ;)
Просто интересно... как давно вы это поняли? ;)
Когда подробно познакомился с деятельностью тусовки ONTOLOG FORUM -- и ознакомился с их взглядами на "что такое компьютерная онтология". По ним -- это что-то намайненное из текстов или речи. В крайнем случае, это восстановленное пропущенное в иерархии понятие.
Но альтернатива -- это сочетание идей deep learning и эволюции. Про deep learning понял где-то в 2012, и на эту тему несколько постов тогда даже сделал. А вот с эволюцией плотно разбираться начал только в этом году. При этом я даже не имею ввиду нейоэволюцию, речь идёт о самом способе эволюционного и экологического мышления.
Но альтернатива -- это сочетание идей deep learning и эволюции. Про deep learning понял где-то в 2012, и на эту тему несколько постов тогда даже сделал. А вот с эволюцией плотно разбираться начал только в этом году. При этом я даже не имею ввиду нейоэволюцию, речь идёт о самом способе эволюционного и экологического мышления.
\\Про deep learning понял где-то в 2012
Дип лернинг не очень интересен.
Просто из принципа подобия (с биологическими нейросетями) понятно на что он способен, а на что нет.
Он отвечает на вопрос "что?", какой субстрат необходим для запуска на нем мыслительных процессов,
но ничего не говорит на вопрос "как?", запустить процесс обучения,
и самое главное сделать это более эффективно чем у биологических аналогов.
\\А вот с эволюцией плотно разбираться начал только в этом году. При этом я даже не имею ввиду нейоэволюцию, речь идёт о самом способе эволюционного и экологического мышления.
Тогда, возможно вы уже готовы рассматривать мышление...
как эволюционный процесс,
или еще нет?
Дип лернинг не очень интересен.
Просто из принципа подобия (с биологическими нейросетями) понятно на что он способен, а на что нет.
Он отвечает на вопрос "что?", какой субстрат необходим для запуска на нем мыслительных процессов,
но ничего не говорит на вопрос "как?", запустить процесс обучения,
и самое главное сделать это более эффективно чем у биологических аналогов.
\\А вот с эволюцией плотно разбираться начал только в этом году. При этом я даже не имею ввиду нейоэволюцию, речь идёт о самом способе эволюционного и экологического мышления.
Тогда, возможно вы уже готовы рассматривать мышление...
как эволюционный процесс,
или еще нет?
Ответ на этот вопрос даёт no free lunch theorem: универсального алгоритма поиска нет, где-то будет быстрей и точней эволюция, где-то чистая логика, а где-то крутить тензоры нужно. Хотя поиски универсального алгоритма есть, типичная попытка -- http://www.amazon.com/dp/0465065708/
Весь вопрос в том... готовы ли вы принимать законы эволюции.
Вот например, взять вашу присказку про "скрипка Энгельбарта"...
в сравнении с "плебейской" обычной клавиатурой.
Но если посмотреть на клавиатуру через призму того опыта, того что уже мы имеем про эволюцию сегодня:
например эта отдельная специализированная часть -- цифровая клавиатура,
с одной стороны специализированная и заточеная под удобство калькулятора,
а с другой... дублирующая рядом же находящиеся клавиши перемещения,
вообще, дублирование -- это как мы теперь знаем, это основной способ расширения функциональности в геноме -- сначала происходит дупликация гена, а потом каждая версия начинает затачиватся на что-то свое,
на клавиатуре этого полно -- см. дублированные модифицырующие клавиши, или ряд функциональных.
Да это избыточность... но избыточность -- это так же одно из свойств эволюции,
и не просто так, избыточность -- означает приспособляемость.
Посмотрите например на то как видоизменяется клавиатура под разные условия, там укороченные варианты или ноутбучные -- это же точно то, что случается в живой природе -- отбрасывание части функционала, ради лучшего соответствия занимаемой нише, например как у паразитов,
или добавление функционала за счет модификации, добавление дополнительных объязанностей уже существующему органу/гену.
Вот, если так посмотреть, то видно что даже не являясь биологическим объектом, компьютерная клавиатура подчиняется ровно тем же эволюционным законам -- о изменчивости, приспособляемости и ответах на вызовы.
А что может предложить ваша "скрипка Энгельбарта" на необходимость расширения?
Добавить еще одну клавишу-модификатор под не существующий шестой палец? ;)
Носить везде с собой медную табличку со всеми комбинациями нажатий?
Держать в памяти соответствия между аккордами и всякими хитрыми Контр-Альт-Дилитами?
Так что, то что вы говорите про "скрипка Энгельбарта" -- это по сути правильно, это один из столбовых направлений улучшения/решения любой инженерной задачи -- специализация.
И это... мощное направление.
Но... это не единственное направление... и не самое мощное, противоположное ему -- стандартизация и массовость -- еще круче.
Как не крути, а миллион человек с мобилками -- это сильнее чем тысяча супер-специалистов, способных на коленке спаять радиостанцию.
И в этом заключается неприятная правда эволюционного мышления -- не смотря на всю безмозглую тупость Эволюции... она все же умнее наших абстрактных мудрствований.
Готовы ли вы принять это?
Вот например, взять вашу присказку про "скрипка Энгельбарта"...
в сравнении с "плебейской" обычной клавиатурой.
Но если посмотреть на клавиатуру через призму того опыта, того что уже мы имеем про эволюцию сегодня:
например эта отдельная специализированная часть -- цифровая клавиатура,
с одной стороны специализированная и заточеная под удобство калькулятора,
а с другой... дублирующая рядом же находящиеся клавиши перемещения,
вообще, дублирование -- это как мы теперь знаем, это основной способ расширения функциональности в геноме -- сначала происходит дупликация гена, а потом каждая версия начинает затачиватся на что-то свое,
на клавиатуре этого полно -- см. дублированные модифицырующие клавиши, или ряд функциональных.
Да это избыточность... но избыточность -- это так же одно из свойств эволюции,
и не просто так, избыточность -- означает приспособляемость.
Посмотрите например на то как видоизменяется клавиатура под разные условия, там укороченные варианты или ноутбучные -- это же точно то, что случается в живой природе -- отбрасывание части функционала, ради лучшего соответствия занимаемой нише, например как у паразитов,
или добавление функционала за счет модификации, добавление дополнительных объязанностей уже существующему органу/гену.
Вот, если так посмотреть, то видно что даже не являясь биологическим объектом, компьютерная клавиатура подчиняется ровно тем же эволюционным законам -- о изменчивости, приспособляемости и ответах на вызовы.
А что может предложить ваша "скрипка Энгельбарта" на необходимость расширения?
Добавить еще одну клавишу-модификатор под не существующий шестой палец? ;)
Носить везде с собой медную табличку со всеми комбинациями нажатий?
Держать в памяти соответствия между аккордами и всякими хитрыми Контр-Альт-Дилитами?
Так что, то что вы говорите про "скрипка Энгельбарта" -- это по сути правильно, это один из столбовых направлений улучшения/решения любой инженерной задачи -- специализация.
И это... мощное направление.
Но... это не единственное направление... и не самое мощное, противоположное ему -- стандартизация и массовость -- еще круче.
Как не крути, а миллион человек с мобилками -- это сильнее чем тысяча супер-специалистов, способных на коленке спаять радиостанцию.
И в этом заключается неприятная правда эволюционного мышления -- не смотря на всю безмозглую тупость Эволюции... она все же умнее наших абстрактных мудрствований.
Готовы ли вы принять это?
На самом деле... то что я вам пишу, это не сколько для того чтобы вас в переубедить (это и так случится само собой, если что), а найти ошибку в собственных словах.
Потому что, мне самому очень не нравится идея про "мышление как эволюционный процесс", потому что она означает что нашы возможности окончательно, неисправимо ограничены. :( (невозможно дудуматься до того, до чего физически не способен додуматся твой ГМ)
Потому что, мне самому очень не нравится идея про "мышление как эволюционный процесс", потому что она означает что нашы возможности окончательно, неисправимо ограничены. :( (невозможно дудуматься до того, до чего физически не способен додуматся твой ГМ)
Вы таки не учитываете no free lunch theorem. Lerners бывают не только эволюционные, при этом затратность эволюционных лернеров убивает -- это обычно last resort.
\\Вы таки не учитываете no free lunch theorem.
Почему не учитываю?
Просто в рамках подхода это просто одно из следствий -- что наш мир не подчиняется какой-то единственной точной и окончательной формальной системе.
Чтобы проилюстрировать (но не объяснить) как это может быть, можно сослатся на Вольфрама с его "нового вида наукой".
\\Lerners бывают не только эволюционные, при этом затратность эволюционных лернеров убивает -- это обычно last resort.
Это зависит от того какое определение эволюционности используется.
У вас, в этом предложении оно звучит как аналог тупого брутфорса перебора вариантов.
На самом же деле, Эволюция ведет себя таки несколько сложнее.
Почему не учитываю?
Просто в рамках подхода это просто одно из следствий -- что наш мир не подчиняется какой-то единственной точной и окончательной формальной системе.
Чтобы проилюстрировать (но не объяснить) как это может быть, можно сослатся на Вольфрама с его "нового вида наукой".
\\Lerners бывают не только эволюционные, при этом затратность эволюционных лернеров убивает -- это обычно last resort.
Это зависит от того какое определение эволюционности используется.
У вас, в этом предложении оно звучит как аналог тупого брутфорса перебора вариантов.
На самом же деле, Эволюция ведет себя таки несколько сложнее.
В общем, тут два вариант:
или я просто глупый залетный аноним со своими среднепотолочными гипотезами,
или же, вы и сами, со временем разберетесь с эволюцией и в особенности с современными последними по ней данными (я лично рекомендую новости с elementy.ru), и начнете приходить к тем же выводам что и я, как случилось вот с СУСом...
ну или, случится еще что-то третье, какой-то прорыв, который сметет эти все любые рассуждения
и заменит их на что-то еще. %)
Или возможно вас раздражает сама моя манера "вещает тут какой-то хрен с горы".
Тогда, возможно стоит начать с начала, с описания моего бэкграунда и мотивации.
А началось оно со знакомства с идеями Эрика Дрекслера, практически еще будучи школьником.
И у него все довольно ясно и последовательно указано,
что для того чтобы освоить нано-технологии -- нужно сначала научится настоящему ИИ,
как минимум потому что скорость принятия решения о техпроцессах на наноуровне настолько высока, что никакой человек, пусть даже усиленный компьютерами не справится.
Да и вопросы проектирования и моделирования на нано-уровне, тоже требуют такого объема внимания, что никаких мозгов не хватит.
Потому, к вопросу создания ИИ я изначально отношусь не так как вы,
не "можно ли сделать ИИ, нельзя ли... науке это не известно, и не интересно",
а скорее в стиле Кристобаля Хунты "мы сами знаем что задача не имеет решения... но мы хотим её решить".
В конце концов, ведь никаких практических причин отказываться-то и нет,
есть и прекрасно действует и естественный ИИ (наш мозг), и естественные нанотехнологии...
Так что следующим этапом стало попытка изучения -- а чего же удалось достичь в сфере ИИ,
которой уже занимались столько десятилетий.
И там, сразу всплыли как примеры "необъяснимого успеха", так и явных провалов:
один из лучших успехов какраз пример Лената с Эвриско,
и его же провал с СУСом.
И причина провала, довольно очевидна -- как вы и сами сформулировали -- эта система изначально не предусматривает самообучения.
Но почему же?
Ведь можно сказать фирменной фишкой успеха Эвриско было именно самообучение.
Так почему Ленат оказался "слепым" и не попробовал работать именно в этом направлении.
Тут по ходу какая-то тайна, какой-то парадокс.
И чтобы как-то обойти этот момент, я пришел к рабочей гипотезе -- что наша существующая научно-позитивистская парадигма содержит в себе что-то, что сбивает мушку,
и не дает нам корректно думать о нашем собственном разуме.
И чтобы обойти этот момент мой интерес естевено обратился к эволюции, генетике, микробиологии.
Нужно сказать что тут прямым вдохновителем послужил Станислав Лем,
с его рассуждениями... да, философского плана, о технологиях.
И главное, уж у него-то совершенно нет никакого сомнения,
ни в том что человечество способно освоить нано-уровень материи,
ни в том что оно способно создать разум.
Но при этом, однозначно указывающий -- что в ходе этого человечество должно очень существенно, докоринно, поменять свои представления о себе.
ЗЫ Так что... я конечно по всем и любым статьям конечно же дилетант.
Но дилетант наработавший в размышлениях по теме наверное уже больше чем пресловуты 10 000 часов.
С другой строны -- а какие еще есть способы исследования и преследования еще никому не ведомых задач? если не путем активного дилетанства.
или я просто глупый залетный аноним со своими среднепотолочными гипотезами,
или же, вы и сами, со временем разберетесь с эволюцией и в особенности с современными последними по ней данными (я лично рекомендую новости с elementy.ru), и начнете приходить к тем же выводам что и я, как случилось вот с СУСом...
ну или, случится еще что-то третье, какой-то прорыв, который сметет эти все любые рассуждения
и заменит их на что-то еще. %)
Или возможно вас раздражает сама моя манера "вещает тут какой-то хрен с горы".
Тогда, возможно стоит начать с начала, с описания моего бэкграунда и мотивации.
А началось оно со знакомства с идеями Эрика Дрекслера, практически еще будучи школьником.
И у него все довольно ясно и последовательно указано,
что для того чтобы освоить нано-технологии -- нужно сначала научится настоящему ИИ,
как минимум потому что скорость принятия решения о техпроцессах на наноуровне настолько высока, что никакой человек, пусть даже усиленный компьютерами не справится.
Да и вопросы проектирования и моделирования на нано-уровне, тоже требуют такого объема внимания, что никаких мозгов не хватит.
Потому, к вопросу создания ИИ я изначально отношусь не так как вы,
не "можно ли сделать ИИ, нельзя ли... науке это не известно, и не интересно",
а скорее в стиле Кристобаля Хунты "мы сами знаем что задача не имеет решения... но мы хотим её решить".
В конце концов, ведь никаких практических причин отказываться-то и нет,
есть и прекрасно действует и естественный ИИ (наш мозг), и естественные нанотехнологии...
Так что следующим этапом стало попытка изучения -- а чего же удалось достичь в сфере ИИ,
которой уже занимались столько десятилетий.
И там, сразу всплыли как примеры "необъяснимого успеха", так и явных провалов:
один из лучших успехов какраз пример Лената с Эвриско,
и его же провал с СУСом.
И причина провала, довольно очевидна -- как вы и сами сформулировали -- эта система изначально не предусматривает самообучения.
Но почему же?
Ведь можно сказать фирменной фишкой успеха Эвриско было именно самообучение.
Так почему Ленат оказался "слепым" и не попробовал работать именно в этом направлении.
Тут по ходу какая-то тайна, какой-то парадокс.
И чтобы как-то обойти этот момент, я пришел к рабочей гипотезе -- что наша существующая научно-позитивистская парадигма содержит в себе что-то, что сбивает мушку,
и не дает нам корректно думать о нашем собственном разуме.
И чтобы обойти этот момент мой интерес естевено обратился к эволюции, генетике, микробиологии.
Нужно сказать что тут прямым вдохновителем послужил Станислав Лем,
с его рассуждениями... да, философского плана, о технологиях.
И главное, уж у него-то совершенно нет никакого сомнения,
ни в том что человечество способно освоить нано-уровень материи,
ни в том что оно способно создать разум.
Но при этом, однозначно указывающий -- что в ходе этого человечество должно очень существенно, докоринно, поменять свои представления о себе.
ЗЫ Так что... я конечно по всем и любым статьям конечно же дилетант.
Но дилетант наработавший в размышлениях по теме наверное уже больше чем пресловуты 10 000 часов.
С другой строны -- а какие еще есть способы исследования и преследования еще никому не ведомых задач? если не путем активного дилетанства.
Вы таки прочтите книжку http://www.amazon.com/dp/0465065708/ -- там эволюционный подход к обучению даётся в ряду других подходов. И приводятся его недостатки по сравнению с другими подходами, и это для меня важно. Например, эволюция требует некоторого времени для того, чтобы понять fit для всех потомков: эти потомки должны пожить некоторое время, встретиться со всеми условиями, для которых они должны показать выживаемость. Опять же, при эволюции быстро накапливается мусор в генах. В других подходах этих недостатков нет: и если зрение берётся какой-то стандартной свёрточной сетью, то именно ей и нужно работать, а не приплетать эволюцию.
Ну, или вы словом "эволюция" называете что-то другое, какие-нибудь варианты метода Монте-Карло: случайность и изменения там есть, эволюции нет.
Ну, или вы словом "эволюция" называете что-то другое, какие-нибудь варианты метода Монте-Карло: случайность и изменения там есть, эволюции нет.
Теперь понятно о чем вы.
Да, мы на разных уровнях:
вы говорит о различных алгоритмах обучения, выделяя эволюционный как один из
я же, на уровне вопроса "а каким же образом Эволюция пришла к идее обучения"
получается противопоставление какраз как у Станислава Лема,
у него там тоже вполне позитивистски (я бы сказал теперь ретро-позитивистски) получается что вот де над созданием естественного ИИ работала тупая и безалаберная Эволюция, и поэтому оставила в человеке кучу ошибочных, атавистических алогичностей...
но человек это переборет... и в себе, и в том Разуме который создаст вместо себя...
Да, мы на разных уровнях:
вы говорит о различных алгоритмах обучения, выделяя эволюционный как один из
я же, на уровне вопроса "а каким же образом Эволюция пришла к идее обучения"
получается противопоставление какраз как у Станислава Лема,
у него там тоже вполне позитивистски (я бы сказал теперь ретро-позитивистски) получается что вот де над созданием естественного ИИ работала тупая и безалаберная Эволюция, и поэтому оставила в человеке кучу ошибочных, атавистических алогичностей...
но человек это переборет... и в себе, и в том Разуме который создаст вместо себя...
Кстати. Тут в предисловии этой книги есть цитата,
которая прямо противоречит вашему последнему посту про скрипки и человеческую лень. ;)
Civilization advances by extending the number of important
operations we can perform without thinking about them.
—Alfred North Whitehead
которая прямо противоречит вашему последнему посту про скрипки и человеческую лень. ;)
Civilization advances by extending the number of important
operations we can perform without thinking about them.
—Alfred North Whitehead
\\В других подходах этих недостатков нет: и если зрение берётся какой-то стандартной свёрточной сетью, то именно ей и нужно работать, а не приплетать эволюцию.
Это без сомнения прагматичный подход,
но в ходе которого происходит выбрасывание младенца,
потому что зрение -- это та область где миллонами лет происходило тестирование и отбрасывание различных алгоритмов, и именно эволюционным методом.
И то что сейчас оно выглядит такой приглаженой, не требующей прибегать к грязным эволюционным методам -- это какраз из-за того что этап актуального обучения запрятан от наших глаз.
Это без сомнения прагматичный подход,
но в ходе которого происходит выбрасывание младенца,
потому что зрение -- это та область где миллонами лет происходило тестирование и отбрасывание различных алгоритмов, и именно эволюционным методом.
И то что сейчас оно выглядит такой приглаженой, не требующей прибегать к грязным эволюционным методам -- это какраз из-за того что этап актуального обучения запрятан от наших глаз.
\\Для этого нужна грубая вычислительная сила. Она уже чудовищна (GTX 1080 -- это 8.873TFLOPS!)
Это 1000 * 1000 и по тысяче всего операций
Причем, если докинем тут реалистичных коейициентов (1000 * 1000 это примерная прикидка разрешения монитора, для ХД соответственно получается 2, а УХД вообще...),
да учтем что нам же еще и ФПСы нужны...
то получается совсем не так уж и жырно.
Где-то по 100 всего операций на каждый пиксел. ;)
И это притом, что архитектура у ГПУ совсем не такая уж и простая,
и заюзать эти флопы по максимуму, совсем не так уж и просто. ;)
Так что... ничего чудовищного.
Надо бы чтобы на такое были способны рядовые терагерцовые/оптические ядра, в 2016ом-то году. ;)
Это 1000 * 1000 и по тысяче всего операций
Причем, если докинем тут реалистичных коейициентов (1000 * 1000 это примерная прикидка разрешения монитора, для ХД соответственно получается 2, а УХД вообще...),
да учтем что нам же еще и ФПСы нужны...
то получается совсем не так уж и жырно.
Где-то по 100 всего операций на каждый пиксел. ;)
И это притом, что архитектура у ГПУ совсем не такая уж и простая,
и заюзать эти флопы по максимуму, совсем не так уж и просто. ;)
Так что... ничего чудовищного.
Надо бы чтобы на такое были способны рядовые терагерцовые/оптические ядра, в 2016ом-то году. ;)
\\Дальше нюансы, нюансы, нюансы: что один "понимает", другой обзывает "непониманием". Например, "вычисляем" можно трактовать как "запускаем эволюцию, и ждём результата". Для кого-то это вполне себе "вычисляем", а для кого-то -- замаскированный метод "проб и ошибок", не "вычисление", а "подбор" (хоть и хитрым алгоритмом).
И правда... чем настройка параметров нейросетки отличается от того что делал тот же Ленат с Эвриско.
Разница разве что с типами данных. И наверное не
Но суть одна -- и постановка задачи, и оценка качества её решения -- лежит на человеке.
Видите в чем тут проблема? Нет?
Если в технологической цепочке, где-то в важном месте, находится человек,
то эта цепочка становится автоматически не ускоряемой -- человек становится незаменимым бутылочным горлышком.
Так что, все эти ускорения не особо помогут... разве что на будущее задел.
Да и сами задачи с которыми идут к нейросетям -- совсем не те что могут дать действительный прорыв.
Что нам действительно необходимо (для резкого рывка технологического прогресса... помните я говорил, что у меня изначально другая постановка вопроса/задач) -- это научится что-то делать с прорвой символической информации, всем тем что мы успели накопить в виде текста.
Навести там какую-то семантику.
А что такое семантика? У вас явно есть какой-то ответ.
Только... нам нужен немного другой ответ, такой, чтобы мы умели встраивать восприятие этой самой семантики в те разумные системы что хотим разрабатывать (мы ведь хотим, правда?).
А значит нам не достаточно ответа -- определения, такого, который поймет человек,
а требуется такое определение, технологичное, чтобы давало нам понимание как строить, из чего должны состоять разумные системы, и каким образом они должны сами "понимать".
Желательно так, чтобы это понимание еще и совпадало с человеческим,
чтобы была возможность обмена пониманием между ними.
А это... очень хитрая штука.
Что очевидно да хоть и по нашему вот общению.
Вроде об одном говорим (не так как вон с Ганди, когда оно про логику и функциональщину... вроде, и просто не воспринимает другую информацию, друг направление мышления),
а нормального взаимопонятного контакта как не было, так и нет. :(
Согласитесь... это очень неприятный звоночек.
И вот подобные проблемы с обменом пониманиями, и заставляют меня очень скептически относится к вопросам прогресса знания...
и считать, что это проявление того, что мышление -- является продолжением все того же процесса эволюции.
Потому что... да прямая же аналогия же -- эволюция на нашем верхнем, животном уровне именно так и происходит -- эволюционные фразы заключенные в ДНК наших тел, ну совершенно недоступны для обмена информацией, обставленны всякими ритуальными (инстинктивными и др.) барьерами против подобного обмена.
Пусть даже от этого бы и зависела жизнь и процветание.
Какой-то минимальный способ прогресса/обмена возможен только между близкими схожими... наборами информации, которые идут из единого источника.
Собственно, это уже давно замечено, например в научной среде -- что новые теории, парадигмы,
отвоевывают себе место под солнцем не за счет того, что логически убеждают,
а за счет естественного ухода со сцены носителей устаревающих знаний,
а молодежь уже учится новому...
И правда... чем настройка параметров нейросетки отличается от того что делал тот же Ленат с Эвриско.
Разница разве что с типами данных. И наверное не
Но суть одна -- и постановка задачи, и оценка качества её решения -- лежит на человеке.
Видите в чем тут проблема? Нет?
Если в технологической цепочке, где-то в важном месте, находится человек,
то эта цепочка становится автоматически не ускоряемой -- человек становится незаменимым бутылочным горлышком.
Так что, все эти ускорения не особо помогут... разве что на будущее задел.
Да и сами задачи с которыми идут к нейросетям -- совсем не те что могут дать действительный прорыв.
Что нам действительно необходимо (для резкого рывка технологического прогресса... помните я говорил, что у меня изначально другая постановка вопроса/задач) -- это научится что-то делать с прорвой символической информации, всем тем что мы успели накопить в виде текста.
Навести там какую-то семантику.
А что такое семантика? У вас явно есть какой-то ответ.
Только... нам нужен немного другой ответ, такой, чтобы мы умели встраивать восприятие этой самой семантики в те разумные системы что хотим разрабатывать (мы ведь хотим, правда?).
А значит нам не достаточно ответа -- определения, такого, который поймет человек,
а требуется такое определение, технологичное, чтобы давало нам понимание как строить, из чего должны состоять разумные системы, и каким образом они должны сами "понимать".
Желательно так, чтобы это понимание еще и совпадало с человеческим,
чтобы была возможность обмена пониманием между ними.
А это... очень хитрая штука.
Что очевидно да хоть и по нашему вот общению.
Вроде об одном говорим (не так как вон с Ганди, когда оно про логику и функциональщину... вроде, и просто не воспринимает другую информацию, друг направление мышления),
а нормального взаимопонятного контакта как не было, так и нет. :(
Согласитесь... это очень неприятный звоночек.
И вот подобные проблемы с обменом пониманиями, и заставляют меня очень скептически относится к вопросам прогресса знания...
и считать, что это проявление того, что мышление -- является продолжением все того же процесса эволюции.
Потому что... да прямая же аналогия же -- эволюция на нашем верхнем, животном уровне именно так и происходит -- эволюционные фразы заключенные в ДНК наших тел, ну совершенно недоступны для обмена информацией, обставленны всякими ритуальными (инстинктивными и др.) барьерами против подобного обмена.
Пусть даже от этого бы и зависела жизнь и процветание.
Какой-то минимальный способ прогресса/обмена возможен только между близкими схожими... наборами информации, которые идут из единого источника.
Собственно, это уже давно замечено, например в научной среде -- что новые теории, парадигмы,
отвоевывают себе место под солнцем не за счет того, что логически убеждают,
а за счет естественного ухода со сцены носителей устаревающих знаний,
а молодежь уже учится новому...
Видите здесь эволюцию? Я вижу.
""klikunov_nd
Савл, стань Павлом! Или к вопросу об организационном дизайне науки
Кто такой ученый?
Ответы на этот вопрос носят парадоксальный или шуточный характер. Шварц в своих сказках определить ученого как человека, который всегда учится. Это не совсем правильно, так как ученый это уже человек наученный.
По сети ходит следующее шутливое определение: "Ученый - это человек, которого люди, которых он считает ученым, считают, что он ученый". В этой шутке есть изначальный глубокий смысл. Собрались монахи в одном месте, скажем в Оксфорде, стали читать книги и спорить. Тот, кто дело говорил и дело делал, стал пользоваться авторитетом среди других. У него появлялись ученики, главной заслугой которых было а) то, что они не врали (а как перед Богом врать? Он же видит...) б) то, что их признал учитель и признают другие монахи. Были и конфликты, так в результате ссоры часть монахов уходит из Оксфорда и основывает Кембридж. Всё остальное - следствия. Когда наука выходит за рамки единственности пространства и времени, то возникает дизайн общения ученых между собой. Тогда ученые договариваются встречаться в таком-то месте и в такое-то время. Так возникает понятие конференции (от confer - совещаться), симпозиума (совместное потребление спиртных напитков) и другие формы. Зачем нужны конференции? Чтобы другие ученые послушали Вас и признали/не признали в качестве коллеги. А Вы, в свою очередь, их.
Ученый - это человек, который за свою жизнь сказал что-то умное и при этом небанальное. Или написал. Научный журнал - это тоже форма организационного дизайна науки. Такая, если хотите, постоянно действующая конференция. Причем важно не сколько статей Вы написали, а что Вы написали. Чего умного и небанального Вы высказали. Если ничего, то коллеги Вас не будут цитировать, не будут ссылаться на Вас, а это означает научное забвение, в конечном счете.""
""klikunov_nd
Савл, стань Павлом! Или к вопросу об организационном дизайне науки
Кто такой ученый?
Ответы на этот вопрос носят парадоксальный или шуточный характер. Шварц в своих сказках определить ученого как человека, который всегда учится. Это не совсем правильно, так как ученый это уже человек наученный.
По сети ходит следующее шутливое определение: "Ученый - это человек, которого люди, которых он считает ученым, считают, что он ученый". В этой шутке есть изначальный глубокий смысл. Собрались монахи в одном месте, скажем в Оксфорде, стали читать книги и спорить. Тот, кто дело говорил и дело делал, стал пользоваться авторитетом среди других. У него появлялись ученики, главной заслугой которых было а) то, что они не врали (а как перед Богом врать? Он же видит...) б) то, что их признал учитель и признают другие монахи. Были и конфликты, так в результате ссоры часть монахов уходит из Оксфорда и основывает Кембридж. Всё остальное - следствия. Когда наука выходит за рамки единственности пространства и времени, то возникает дизайн общения ученых между собой. Тогда ученые договариваются встречаться в таком-то месте и в такое-то время. Так возникает понятие конференции (от confer - совещаться), симпозиума (совместное потребление спиртных напитков) и другие формы. Зачем нужны конференции? Чтобы другие ученые послушали Вас и признали/не признали в качестве коллеги. А Вы, в свою очередь, их.
Ученый - это человек, который за свою жизнь сказал что-то умное и при этом небанальное. Или написал. Научный журнал - это тоже форма организационного дизайна науки. Такая, если хотите, постоянно действующая конференция. Причем важно не сколько статей Вы написали, а что Вы написали. Чего умного и небанального Вы высказали. Если ничего, то коллеги Вас не будут цитировать, не будут ссылаться на Вас, а это означает научное забвение, в конечном счете.""
Интересный вопрос.
Из своего опыта или читали, исследования про то,
как в между людьми происходит самоорганизация?
В рамках "начальник-подчиненый" оно вроде понятно,
а вот как между малознакомыми и ничем не связаными людьми,
проскакивает искра... из которой потому организуется фирма,
или просто какое-то действие.
Из своего опыта или читали, исследования про то,
как в между людьми происходит самоорганизация?
В рамках "начальник-подчиненый" оно вроде понятно,
а вот как между малознакомыми и ничем не связаными людьми,
проскакивает искра... из которой потому организуется фирма,
или просто какое-то действие.
""Нейронные сети глубокие потому, что мир лучше постигается на многих уровнях абстрактности. Но там не только уровни абстрактности играют значение, но и разные абстрактности -- я бы назвал их клочками абстрактности (можно думать об "онтиках", онтологических клочках, моделирующих какой-то кусочек мира ad hoc, но не подвязанных в какую-то более общую модель мира, upper ontology. В онтологическом мире это ещё называют "микротеории", вслед за CYC).""
Вот. %)
Еще один майлстоун на пути понимания что для меня уже пройден.
Только у меня оно изложено более общо.
Что это вся доступная нам (о том какая она недоступна, например та что до БВ, там хз... хотя) в ощущениях реальность,
это реализация принцыпа "сохранение энергии == сохранение информации",
причем энергия у нас представлена в форме некоего комбинаторного множества элементов (комбинаторного -- потому что может свободно комбинироватся друг с другом... например так как описано у Вольфрама... генерируя сложные структуры из казалось бы однородной среды, в которой случаются спонтанные нарушения равновесия),
что и приводит от самого нуля, до самых высоких уровней сложностей и (само)организации... к единообразному принципу появлению нового -- комбинаторному.
И никакой "эмерджентности".
Вот. %)
Еще один майлстоун на пути понимания что для меня уже пройден.
Только у меня оно изложено более общо.
Что это вся доступная нам (о том какая она недоступна, например та что до БВ, там хз... хотя) в ощущениях реальность,
это реализация принцыпа "сохранение энергии == сохранение информации",
причем энергия у нас представлена в форме некоего комбинаторного множества элементов (комбинаторного -- потому что может свободно комбинироватся друг с другом... например так как описано у Вольфрама... генерируя сложные структуры из казалось бы однородной среды, в которой случаются спонтанные нарушения равновесия),
что и приводит от самого нуля, до самых высоких уровней сложностей и (само)организации... к единообразному принципу появлению нового -- комбинаторному.
И никакой "эмерджентности".