...  ↑

Ну, например, по сравнению с проблемой "Может ли искусственное устройство иметь сознание?" Да, даже по сравнению с проблемой "Есть ли жизнь на Марсе?" Или по сравнению с проблемой "Если всё роботизировать, что чем людей занять?"

А где здесь новые навыки? Я вижу только новые слова про давно известные и оценённые (положительно) навыки. Думаю, да, новые навыки должны иметь отношение к новым проблемам, а точнее - к их решениям. Теоретически.

Предки были разные. Среди них были и мудрецы, и глупцы.

У мудрецов не было используемой нами формализации описаний.

Но мы пришли к выводу, что эти навыки не новые, и задались вопросом, как возникают новые, и как их целенаправленно создавать. Так зачем кругами ходить?

Принципиальный момент. Новое - это то, чего пока нет, хотя оно возможно. Поэтому новое всегда проблема: неизвестно возможно оно или нет, пока оно не создано. Формализации фиксируют старое знание, знание же - по крайней мере, в научной парадигме, а другой я не владею - состоит из фундаментальных запретов, это знание о том, что не существует, хотя может быть, названо, описано языком. Таким образом, создание нового в рамках имеющейся формализации невозможно, в лучшем случае будет получен новый запрет - если формализованная система запретов неполна. Если же для создания нового запрет должен быть нарушен, то надо ломать формализацию.