Точность (информатика)

Материал из Википедии — свободной энциклопедии

Точность (англ. Precision) в информатике — мера детализации, обычно измеряется в битах, но иногда в десятичных цифрах. Это связано со значимыми цифрами[англ.] в математике, что являет собой количество цифр, которые используются для значения числового выражения.

Некоторые из стандартных форматов точности:

Из них формат с восьмеричной точностью пока используется редко. Форматы одинарной и двойной точности наиболее широко используются и поддерживаются практически на всех платформах. Использование формата половинной точности расширяется, особенно в области машинного обучения, поскольку многие алгоритмы машинного обучения устойчивы к ошибкам.[1]

См. также

Примечания

Ссылки