9 kontakty: Błąd przybliżenia, IEEE 754, Liczba zmiennoprzecinkowa, Nadmiar, NaN, Przekroczenie zakresu liczb całkowitych, Rejestr procesora, Wartość bezwzględna, 0.
Błąd przybliżenia
Błąd przybliżenia – różnica pomiędzy dokładnąwartościąoraz liczbąużytąw obliczeniach numerycznych.
Nowy!!: Niedomiar zmiennoprzecinkowy i Błąd przybliżenia · Zobacz więcej »
IEEE 754
IEEE 754 – standard reprezentacji binarnej i operacji na liczbach zmiennoprzecinkowych (IEEE floating-point standard), implementowany powszechnie w procesorach i oprogramowaniu obliczeniowym.
Nowy!!: Niedomiar zmiennoprzecinkowy i IEEE 754 · Zobacz więcej »
Liczba zmiennoprzecinkowa
Liczba zmiennoprzecinkowa – reprezentacja liczby rzeczywistej zapisanej za pomocąnotacji naukowej.
Nowy!!: Niedomiar zmiennoprzecinkowy i Liczba zmiennoprzecinkowa · Zobacz więcej »
Nadmiar
Nadmiar, nadmiar arytmetyczny – sytuacja, w której wartość wyniku operacji arytmetycznej przekracza wielkość rejestru lub pamięci.
Nowy!!: Niedomiar zmiennoprzecinkowy i Nadmiar · Zobacz więcej »
NaN
NaN albo nie-liczba – wartość numerycznego typu danych oznaczająca niezdefiniowanąlub niereprezentowalnąwielkość, zwłaszcza w obliczeniach wykorzystujących liczby zmiennoprzecinkowe.
Nowy!!: Niedomiar zmiennoprzecinkowy i NaN · Zobacz więcej »
Przekroczenie zakresu liczb całkowitych
Przekroczenie zakresu liczb całkowitych (ang. integer overflow) – błąd programistyczny spowodowany nieprawidłowym oszacowaniem zakresu wartości, które może przyjąć zmienna w trakcie pracy programu.
Nowy!!: Niedomiar zmiennoprzecinkowy i Przekroczenie zakresu liczb całkowitych · Zobacz więcej »
Rejestr procesora
Rejestry procesora (ang. processor registers) – komórki pamięci o niewielkich rozmiarach (najczęściej 4/8/16/32/64/128/256 bitów) umieszczone wewnątrz procesora i służące do przechowywania tymczasowych wyników obliczeń, adresów lokacji w pamięci operacyjnej itd.
Nowy!!: Niedomiar zmiennoprzecinkowy i Rejestr procesora · Zobacz więcej »
Wartość bezwzględna
Wartość bezwzględna, moduł – dla danej liczby rzeczywistej wartość liczbowa nieuwzględniająca znaku liczby.
Nowy!!: Niedomiar zmiennoprzecinkowy i Wartość bezwzględna · Zobacz więcej »
0
Zero (zapisywane jako 0) – element neutralny dodawania; najmniejsza nieujemna liczba.