Při jakémkoli měření, zaokrouhlování výsledků výpočtů, provádění poměrně složitých výpočtů nevyhnutelně vzniká ta či ona odchylka. K posouzení takovéto nepřesnosti je zvykem používat dva ukazatele - jedná se o absolutní a relativní chyby.
Pokud výsledek odečteme od přesné hodnoty čísla, dostaneme absolutní odchylku (navíc při počítání se menší číslo odečítá od většího). Pokud například zaokrouhlíte 1370 na 1400, absolutní chyba bude 1400-1382=18. Pokud zaokrouhlíte na 1380, absolutní odchylka bude 1382-1380=2. Vzorec pro absolutní chybu je:
Δx=|x – x|, zde
x – skutečná hodnota, x je přibližné číslo.
Tento indikátor však sám o sobě zjevně nestačí k charakterizaci přesnosti. Posuďte sami, pokud je chyba hmotnosti 0,2 gramu, tak při vážení chemikálií na mikrosyntézu to bude hodně, při navážení 200 gramů uzeniny je to zcela normální a při měření hmotnosti železničního vagónu to nemusí být postřehnuto vůbec. Takčasto je spolu s absolutní chybou indikována nebo vypočtena i relativní chyba. Vzorec pro tento indikátor vypadá takto:
δx=Δx/|x|.
Uvažujme příklad. Nechť je celkový počet studentů ve škole 196. Zaokrouhlete toto číslo na 200.
Absolutní odchylka bude 200 – 196=4. Relativní chyba bude 4/196 nebo zaokrouhlená, 4/196=2 %.
Pokud je tedy známa skutečná hodnota určité veličiny, pak je relativní chyba přijaté přibližné hodnoty poměrem absolutní odchylky přibližné hodnoty k přesné hodnotě. Ve většině případů je však odhalení skutečné přesné hodnoty velmi problematické a někdy dokonce nemožné. A proto je nemožné vypočítat přesnou hodnotu chyby. Vždy je však možné definovat nějaké číslo, které bude vždy o něco větší než maximální absolutní nebo relativní chyba.
Například prodavač váží meloun na váze. V tomto případě je nejmenší hmotnost 50 gramů. Váhy ukazovaly 2000 gramů. Toto je přibližná hodnota. Přesná hmotnost melounu není známa. Víme však, že absolutní chyba nemůže být větší než 50 gramů. Potom relativní chyba měření hmotnosti nepřesáhne 50/2000=2,5 %.
Hodnota, která je zpočátku větší než absolutní chyba nebo v nejhorším případě se jí rovná, se obvykle nazývá mezní absolutní chyba nebo mez absolutní chybychyby. V předchozím příkladu je toto číslo 50 gramů. Mezní relativní chyba se určuje podobným způsobem, který ve výše uvedeném příkladu činil 2,5 %.
Hodnota mezní chyby není přesně specifikována. Takže místo 50 gramů bychom klidně mohli vzít jakékoli číslo větší, než je hmotnost nejmenšího závaží, řekněme 100 g nebo 150 g. V praxi se však volí minimální hodnota. A pokud to bude možné přesně určit, bude to zároveň sloužit jako mezní chyba.
Stává se, že absolutní mezní chyba není specifikována. Pak je třeba vzít v úvahu, že se rovná polovině jednotky poslední určené číslice (pokud se jedná o číslo) nebo minimální jednotce dělení (pokud se jedná o nástroj). Například pro milimetrové pravítko je tento parametr 0,5 mm a pro přibližné číslo 3,65 je absolutní limitní odchylka 0,005.