Когда подробно познакомился с деятельностью тусовки ONTOLOG FORUM -- и ознакомился с их взглядами на "что такое компьютерная онтология". По ним -- это что-то намайненное из текстов или речи. В крайнем случае, это восстановленное пропущенное в иерархии понятие.Но альтернатива -- это сочетание идей deep learning и эволюции. Про deep learning понял где-то в 2012, и на эту тему несколько постов тогда даже сделал. А вот с эволюцией плотно разбираться начал только в этом году. При этом я даже не имею ввиду нейоэволюцию, речь идёт о самом способе эволюционного и экологического мышления.
\\Про deep learning понял где-то в 2012Дип лернинг не очень интересен.Просто из принципа подобия (с биологическими нейросетями) понятно на что он способен, а на что нет.Он отвечает на вопрос "что?", какой субстрат необходим для запуска на нем мыслительных процессов,но ничего не говорит на вопрос "как?", запустить процесс обучения,и самое главное сделать это более эффективно чем у биологических аналогов.\\А вот с эволюцией плотно разбираться начал только в этом году. При этом я даже не имею ввиду нейоэволюцию, речь идёт о самом способе эволюционного и экологического мышления.Тогда, возможно вы уже готовы рассматривать мышление...как эволюционный процесс,или еще нет?
Ответ на этот вопрос даёт no free lunch theorem: универсального алгоритма поиска нет, где-то будет быстрей и точней эволюция, где-то чистая логика, а где-то крутить тензоры нужно. Хотя поиски универсального алгоритма есть, типичная попытка -- http://www.amazon.com/dp/0465065708/
Весь вопрос в том... готовы ли вы принимать законы эволюции.Вот например, взять вашу присказку про "скрипка Энгельбарта"...в сравнении с "плебейской" обычной клавиатурой.Но если посмотреть на клавиатуру через призму того опыта, того что уже мы имеем про эволюцию сегодня:например эта отдельная специализированная часть -- цифровая клавиатура,с одной стороны специализированная и заточеная под удобство калькулятора,а с другой... дублирующая рядом же находящиеся клавиши перемещения,вообще, дублирование -- это как мы теперь знаем, это основной способ расширения функциональности в геноме -- сначала происходит дупликация гена, а потом каждая версия начинает затачиватся на что-то свое,на клавиатуре этого полно -- см. дублированные модифицырующие клавиши, или ряд функциональных.Да это избыточность... но избыточность -- это так же одно из свойств эволюции,и не просто так, избыточность -- означает приспособляемость.Посмотрите например на то как видоизменяется клавиатура под разные условия, там укороченные варианты или ноутбучные -- это же точно то, что случается в живой природе -- отбрасывание части функционала, ради лучшего соответствия занимаемой нише, например как у паразитов,или добавление функционала за счет модификации, добавление дополнительных объязанностей уже существующему органу/гену.Вот, если так посмотреть, то видно что даже не являясь биологическим объектом, компьютерная клавиатура подчиняется ровно тем же эволюционным законам -- о изменчивости, приспособляемости и ответах на вызовы.А что может предложить ваша "скрипка Энгельбарта" на необходимость расширения?Добавить еще одну клавишу-модификатор под не существующий шестой палец? ;)Носить везде с собой медную табличку со всеми комбинациями нажатий?Держать в памяти соответствия между аккордами и всякими хитрыми Контр-Альт-Дилитами?Так что, то что вы говорите про "скрипка Энгельбарта" -- это по сути правильно, это один из столбовых направлений улучшения/решения любой инженерной задачи -- специализация.И это... мощное направление.Но... это не единственное направление... и не самое мощное, противоположное ему -- стандартизация и массовость -- еще круче.Как не крути, а миллион человек с мобилками -- это сильнее чем тысяча супер-специалистов, способных на коленке спаять радиостанцию.И в этом заключается неприятная правда эволюционного мышления -- не смотря на всю безмозглую тупость Эволюции... она все же умнее наших абстрактных мудрствований.Готовы ли вы принять это?
На самом деле... то что я вам пишу, это не сколько для того чтобы вас в переубедить (это и так случится само собой, если что), а найти ошибку в собственных словах.Потому что, мне самому очень не нравится идея про "мышление как эволюционный процесс", потому что она означает что нашы возможности окончательно, неисправимо ограничены. :( (невозможно дудуматься до того, до чего физически не способен додуматся твой ГМ)
Вы таки не учитываете no free lunch theorem. Lerners бывают не только эволюционные, при этом затратность эволюционных лернеров убивает -- это обычно last resort.
\\Вы таки не учитываете no free lunch theorem.Почему не учитываю?Просто в рамках подхода это просто одно из следствий -- что наш мир не подчиняется какой-то единственной точной и окончательной формальной системе.Чтобы проилюстрировать (но не объяснить) как это может быть, можно сослатся на Вольфрама с его "нового вида наукой".\\Lerners бывают не только эволюционные, при этом затратность эволюционных лернеров убивает -- это обычно last resort.Это зависит от того какое определение эволюционности используется.У вас, в этом предложении оно звучит как аналог тупого брутфорса перебора вариантов.На самом же деле, Эволюция ведет себя таки несколько сложнее.
В общем, тут два вариант:или я просто глупый залетный аноним со своими среднепотолочными гипотезами,или же, вы и сами, со временем разберетесь с эволюцией и в особенности с современными последними по ней данными (я лично рекомендую новости с elementy.ru), и начнете приходить к тем же выводам что и я, как случилось вот с СУСом...ну или, случится еще что-то третье, какой-то прорыв, который сметет эти все любые рассужденияи заменит их на что-то еще. %)Или возможно вас раздражает сама моя манера "вещает тут какой-то хрен с горы".Тогда, возможно стоит начать с начала, с описания моего бэкграунда и мотивации.А началось оно со знакомства с идеями Эрика Дрекслера, практически еще будучи школьником.И у него все довольно ясно и последовательно указано,что для того чтобы освоить нано-технологии -- нужно сначала научится настоящему ИИ,как минимум потому что скорость принятия решения о техпроцессах на наноуровне настолько высока, что никакой человек, пусть даже усиленный компьютерами не справится.Да и вопросы проектирования и моделирования на нано-уровне, тоже требуют такого объема внимания, что никаких мозгов не хватит.Потому, к вопросу создания ИИ я изначально отношусь не так как вы,не "можно ли сделать ИИ, нельзя ли... науке это не известно, и не интересно",а скорее в стиле Кристобаля Хунты "мы сами знаем что задача не имеет решения... но мы хотим её решить".В конце концов, ведь никаких практических причин отказываться-то и нет,есть и прекрасно действует и естественный ИИ (наш мозг), и естественные нанотехнологии...Так что следующим этапом стало попытка изучения -- а чего же удалось достичь в сфере ИИ,которой уже занимались столько десятилетий.И там, сразу всплыли как примеры "необъяснимого успеха", так и явных провалов:один из лучших успехов какраз пример Лената с Эвриско,и его же провал с СУСом.И причина провала, довольно очевидна -- как вы и сами сформулировали -- эта система изначально не предусматривает самообучения.Но почему же?Ведь можно сказать фирменной фишкой успеха Эвриско было именно самообучение.Так почему Ленат оказался "слепым" и не попробовал работать именно в этом направлении.Тут по ходу какая-то тайна, какой-то парадокс.И чтобы как-то обойти этот момент, я пришел к рабочей гипотезе -- что наша существующая научно-позитивистская парадигма содержит в себе что-то, что сбивает мушку,и не дает нам корректно думать о нашем собственном разуме.И чтобы обойти этот момент мой интерес естевено обратился к эволюции, генетике, микробиологии.Нужно сказать что тут прямым вдохновителем послужил Станислав Лем,с его рассуждениями... да, философского плана, о технологиях.И главное, уж у него-то совершенно нет никакого сомнения,ни в том что человечество способно освоить нано-уровень материи,ни в том что оно способно создать разум.Но при этом, однозначно указывающий -- что в ходе этого человечество должно очень существенно, докоринно, поменять свои представления о себе.ЗЫ Так что... я конечно по всем и любым статьям конечно же дилетант.Но дилетант наработавший в размышлениях по теме наверное уже больше чем пресловуты 10 000 часов.С другой строны -- а какие еще есть способы исследования и преследования еще никому не ведомых задач? если не путем активного дилетанства.
Вы таки прочтите книжку http://www.amazon.com/dp/0465065708/ -- там эволюционный подход к обучению даётся в ряду других подходов. И приводятся его недостатки по сравнению с другими подходами, и это для меня важно. Например, эволюция требует некоторого времени для того, чтобы понять fit для всех потомков: эти потомки должны пожить некоторое время, встретиться со всеми условиями, для которых они должны показать выживаемость. Опять же, при эволюции быстро накапливается мусор в генах. В других подходах этих недостатков нет: и если зрение берётся какой-то стандартной свёрточной сетью, то именно ей и нужно работать, а не приплетать эволюцию.Ну, или вы словом "эволюция" называете что-то другое, какие-нибудь варианты метода Монте-Карло: случайность и изменения там есть, эволюции нет.
Теперь понятно о чем вы.Да, мы на разных уровнях:вы говорит о различных алгоритмах обучения, выделяя эволюционный как один изя же, на уровне вопроса "а каким же образом Эволюция пришла к идее обучения"получается противопоставление какраз как у Станислава Лема,у него там тоже вполне позитивистски (я бы сказал теперь ретро-позитивистски) получается что вот де над созданием естественного ИИ работала тупая и безалаберная Эволюция, и поэтому оставила в человеке кучу ошибочных, атавистических алогичностей...но человек это переборет... и в себе, и в том Разуме который создаст вместо себя...
Кстати. Тут в предисловии этой книги есть цитата,которая прямо противоречит вашему последнему посту про скрипки и человеческую лень. ;)Civilization advances by extending the number of importantoperations we can perform without thinking about them.—Alfred North Whitehead
\\В других подходах этих недостатков нет: и если зрение берётся какой-то стандартной свёрточной сетью, то именно ей и нужно работать, а не приплетать эволюцию.Это без сомнения прагматичный подход,но в ходе которого происходит выбрасывание младенца,потому что зрение -- это та область где миллонами лет происходило тестирование и отбрасывание различных алгоритмов, и именно эволюционным методом.И то что сейчас оно выглядит такой приглаженой, не требующей прибегать к грязным эволюционным методам -- это какраз из-за того что этап актуального обучения запрятан от наших глаз.
\\Для этого нужна грубая вычислительная сила. Она уже чудовищна (GTX 1080 -- это 8.873TFLOPS!)Это 1000 * 1000 и по тысяче всего операцийПричем, если докинем тут реалистичных коейициентов (1000 * 1000 это примерная прикидка разрешения монитора, для ХД соответственно получается 2, а УХД вообще...),да учтем что нам же еще и ФПСы нужны...то получается совсем не так уж и жырно.Где-то по 100 всего операций на каждый пиксел. ;)И это притом, что архитектура у ГПУ совсем не такая уж и простая,и заюзать эти флопы по максимуму, совсем не так уж и просто. ;)Так что... ничего чудовищного.Надо бы чтобы на такое были способны рядовые терагерцовые/оптические ядра, в 2016ом-то году. ;)
\\Дальше нюансы, нюансы, нюансы: что один "понимает", другой обзывает "непониманием". Например, "вычисляем" можно трактовать как "запускаем эволюцию, и ждём результата". Для кого-то это вполне себе "вычисляем", а для кого-то -- замаскированный метод "проб и ошибок", не "вычисление", а "подбор" (хоть и хитрым алгоритмом).И правда... чем настройка параметров нейросетки отличается от того что делал тот же Ленат с Эвриско.Разница разве что с типами данных. И наверное неНо суть одна -- и постановка задачи, и оценка качества её решения -- лежит на человеке.Видите в чем тут проблема? Нет?Если в технологической цепочке, где-то в важном месте, находится человек,то эта цепочка становится автоматически не ускоряемой -- человек становится незаменимым бутылочным горлышком.Так что, все эти ускорения не особо помогут... разве что на будущее задел.Да и сами задачи с которыми идут к нейросетям -- совсем не те что могут дать действительный прорыв.Что нам действительно необходимо (для резкого рывка технологического прогресса... помните я говорил, что у меня изначально другая постановка вопроса/задач) -- это научится что-то делать с прорвой символической информации, всем тем что мы успели накопить в виде текста.Навести там какую-то семантику.А что такое семантика? У вас явно есть какой-то ответ.Только... нам нужен немного другой ответ, такой, чтобы мы умели встраивать восприятие этой самой семантики в те разумные системы что хотим разрабатывать (мы ведь хотим, правда?).А значит нам не достаточно ответа -- определения, такого, который поймет человек,а требуется такое определение, технологичное, чтобы давало нам понимание как строить, из чего должны состоять разумные системы, и каким образом они должны сами "понимать".Желательно так, чтобы это понимание еще и совпадало с человеческим,чтобы была возможность обмена пониманием между ними.А это... очень хитрая штука.Что очевидно да хоть и по нашему вот общению.Вроде об одном говорим (не так как вон с Ганди, когда оно про логику и функциональщину... вроде, и просто не воспринимает другую информацию, друг направление мышления),а нормального взаимопонятного контакта как не было, так и нет. :(Согласитесь... это очень неприятный звоночек.И вот подобные проблемы с обменом пониманиями, и заставляют меня очень скептически относится к вопросам прогресса знания...и считать, что это проявление того, что мышление -- является продолжением все того же процесса эволюции.Потому что... да прямая же аналогия же -- эволюция на нашем верхнем, животном уровне именно так и происходит -- эволюционные фразы заключенные в ДНК наших тел, ну совершенно недоступны для обмена информацией, обставленны всякими ритуальными (инстинктивными и др.) барьерами против подобного обмена.Пусть даже от этого бы и зависела жизнь и процветание.Какой-то минимальный способ прогресса/обмена возможен только между близкими схожими... наборами информации, которые идут из единого источника.Собственно, это уже давно замечено, например в научной среде -- что новые теории, парадигмы,отвоевывают себе место под солнцем не за счет того, что логически убеждают,а за счет естественного ухода со сцены носителей устаревающих знаний,а молодежь уже учится новому...
Видите здесь эволюцию? Я вижу.""klikunov_ndСавл, стань Павлом! Или к вопросу об организационном дизайне наукиКто такой ученый?Ответы на этот вопрос носят парадоксальный или шуточный характер. Шварц в своих сказках определить ученого как человека, который всегда учится. Это не совсем правильно, так как ученый это уже человек наученный.По сети ходит следующее шутливое определение: "Ученый - это человек, которого люди, которых он считает ученым, считают, что он ученый". В этой шутке есть изначальный глубокий смысл. Собрались монахи в одном месте, скажем в Оксфорде, стали читать книги и спорить. Тот, кто дело говорил и дело делал, стал пользоваться авторитетом среди других. У него появлялись ученики, главной заслугой которых было а) то, что они не врали (а как перед Богом врать? Он же видит...) б) то, что их признал учитель и признают другие монахи. Были и конфликты, так в результате ссоры часть монахов уходит из Оксфорда и основывает Кембридж. Всё остальное - следствия. Когда наука выходит за рамки единственности пространства и времени, то возникает дизайн общения ученых между собой. Тогда ученые договариваются встречаться в таком-то месте и в такое-то время. Так возникает понятие конференции (от confer - совещаться), симпозиума (совместное потребление спиртных напитков) и другие формы. Зачем нужны конференции? Чтобы другие ученые послушали Вас и признали/не признали в качестве коллеги. А Вы, в свою очередь, их.Ученый - это человек, который за свою жизнь сказал что-то умное и при этом небанальное. Или написал. Научный журнал - это тоже форма организационного дизайна науки. Такая, если хотите, постоянно действующая конференция. Причем важно не сколько статей Вы написали, а что Вы написали. Чего умного и небанального Вы высказали. Если ничего, то коллеги Вас не будут цитировать, не будут ссылаться на Вас, а это означает научное забвение, в конечном счете.""
Интересный вопрос.Из своего опыта или читали, исследования про то,как в между людьми происходит самоорганизация?В рамках "начальник-подчиненый" оно вроде понятно,а вот как между малознакомыми и ничем не связаными людьми,проскакивает искра... из которой потому организуется фирма,или просто какое-то действие.
""Нейронные сети глубокие потому, что мир лучше постигается на многих уровнях абстрактности. Но там не только уровни абстрактности играют значение, но и разные абстрактности -- я бы назвал их клочками абстрактности (можно думать об "онтиках", онтологических клочках, моделирующих какой-то кусочек мира ad hoc, но не подвязанных в какую-то более общую модель мира, upper ontology. В онтологическом мире это ещё называют "микротеории", вслед за CYC).""Вот. %)Еще один майлстоун на пути понимания что для меня уже пройден.Только у меня оно изложено более общо.Что это вся доступная нам (о том какая она недоступна, например та что до БВ, там хз... хотя) в ощущениях реальность,это реализация принцыпа "сохранение энергии == сохранение информации",причем энергия у нас представлена в форме некоего комбинаторного множества элементов (комбинаторного -- потому что может свободно комбинироватся друг с другом... например так как описано у Вольфрама... генерируя сложные структуры из казалось бы однородной среды, в которой случаются спонтанные нарушения равновесия),что и приводит от самого нуля, до самых высоких уровней сложностей и (само)организации... к единообразному принципу появлению нового -- комбинаторному.И никакой "эмерджентности".