B4X FEED Round2 with high precision parameters

اطلاعات موضوع

درباره موضوع در تاریخ, در دسته b4xfeed ایجاد شده و آغاز کننده آن PracticalSoftمی باشد و موضوع آن: Round2 with high precision parameters است. این موضوع تا کنون 9 بازدید کننده و, 0 پاسخ داشته و 0 بار پسندیده شده...
نام دسته b4xfeed
نام موضوع Round2 with high precision parameters
آغاز کننده موضوع PracticalSoft
تاریخ شروع
پاسخ‌ها
بازدیدها
پسندها
آخرین ارسال توسط PracticalSoft
وضعیت
موضوع بسته شده است و نمی‌توان پاسخ جدیدی فرستاد.

PracticalSoft

پرسنل مدیریت
مدیر کل انجمن
تاریخ ثبت‌نام
2020-06-06
ارسالی‌ها
2,954
راه‌حل‌ها
1
پسندها
157
امتیازها
63
مدال‌ها
7
  • نویسنده موضوع
  • مدیرکل
  • #1
round2.jpg


This is not really a significant difficulty and I am adding this note here as a point of awareness because I have seen quite a few comments about rounding numbers in these forums.

Using Round2() with a high precision as the second parameter fails as shown here. The maximum precision of a (B4X/Java) Double is just under 16 digits. That precision can rise if the majority of the digits are in the mantissa (as in the given example).

It would be better if the parser reduced the precision requested to a maximum of 17.

Failing that, be aware that you may get (seriously) erroneous answers if you use high precisions with Round2().

لطفا گزینه ورود یا ثبت‌نام را انتخاب کنید تا پیوندها برای شما قابل نمایش شوند
 
نام موضوع : Round2 with high precision parameters | دسته : b4xfeed
وضعیت
موضوع بسته شده است و نمی‌توان پاسخ جدیدی فرستاد.
بالا