Эх, дорогой мой друг по жж! А что же такое есть "информация"? Потому, как только ты опишешь что такое "информация" - мы тут же решим кучу кучу интересных проблем!
ну как многообразие состояний в частности определяется понятие информации. в опредениях шенона информация уменьшает общую неопределённость и информационную энтропию. а какие недостатки у такого понятия информации для нас?