Orice informație poate fi redusă la o succesiune de întrebări simple da/nu, numite biți.
Shannon a arătat că poți măsura informația exact ca pe o greutate, în unități numite biți. Un bit e cât o singură întrebare cu răspuns da sau nu. Cu suficienți biți puși cap la cap, poți descrie o fotografie, o melodie sau o carte întreagă, indiferent ce limbaj a fost folosit inițial.
De ce contează Fiecare fișier trimis pe internet azi e, la bază, doar un șir lung de biți.