Shannon entrópiát valaki el tudná magyarázni?

Igen, van köze a statisztikus fizikában használt entrópiához. Én információs entrópiaként tanultam az egyetemen, rákeresve a Shannon entrópiára, az első találat alatt kis betűvel az információs entrópia szerepelt, úgyhogy gondolom a kettő ugyanaz.

Szóval én értem az információs entrópiát, gondolom te is olvastál már utána, mert valahogyan ráakadtál. És mivel így van, valamennyit biztosan meg is értettél belőle, szóval mondd el mi az amit nem értesz és akkor válaszolok.