Большинство этих вопросов обсуждаются в сообществе машинного обучения (хотя и в совсем других формулировках).И всё верно, работа только-только началась -- массовые (тысячи исследователей) эксперименты по сути идут только всего год. До этого работало совсем немножко людей, никаких денег и интереса в этой сфере машинного обучения с использованием глубоких архитектур (то есть иерархии абстракций, иерархии представлений) не было.