Si alguna vez ha escuchado música digital, especialmente cualquier tipo de formato de audio con pérdidas, entonces ha estado expuesto a la cuantización matemática. Este procesamiento de señales digitales entre bastidores es bastante común y suele ser una función integral del software o hardware de audio moderno (por ejemplo, convertidores de señal digital a analógica). Pero la cuantización no se limita al audio. El término y sus usos también se aplican a otros campos, como la física o la imagen digital.
En un estudio de grabación, los micrófonos captan ondas sonoras de música analógica, que luego se procesan en un formato digital. La señal se puede muestrear a 44.100 Hz y cuantificar con una profundidad de 8, 16 o 24 bits (y así sucesivamente). Las mayores profundidades de bits proporcionan más datos, lo que permite una conversión y reproducción más precisa de la forma de onda original.
Fundamentalmente, la cuantificación es un proceso complejo de redondeo que implica cierto nivel de imprecisión. Los ordenadores funcionan con unos y ceros, por lo que la conversión de analógico a digital se considera una aproximación cercana y no una copia exacta. Cuando se trata de música, la señal cuantizada no sólo debe mantener una sucesión y amplitud de valores correctas, sino que la sincronización también debe ser precisa. El proceso tiene que asegurar que se mantenga el ritmo musical, con notas distribuidas uniformemente y fijadas en los mismos ritmos (o fracciones de los mismos). De lo contrario, el audio puede terminar sonando o siendo extraño para los oídos que lo escuchan.
Este concepto de cuantización se puede observar visualmente con un programa de edición de imágenes, como Photoshop. Cuando se reduce el tamaño de una imagen grande, hay una pérdida de información de píxeles debido al proceso matemático que maneja la tarea. El software realiza los cálculos y redondeo para descartar los píxeles no deseados, a la vez que preserva la integridad general, la proporción y el contexto de la imagen: las proporciones restringidas son tan importantes para las fotos como el ritmo para la música. Al acercar y comparar la versión de tamaño de la foto con el original, los bordes y los objetos tienden a parecer algo toscos o irregulares. Este aspecto visual de la compresión con pérdida también se relaciona con los tipos de archivos de audio digital. Más datos y/o menos compresión dan como resultado una mayor calidad general.