B4X FEED Round2 with high precision parameters

اطلاعات موضوع

درباره موضوع در تاریخ, در دسته b4xfeed ایجاد شده و آغاز کننده آن practicalsoftمی باشد و موضوع آن: Round2 with high precision parameters است. این موضوع تا کنون 81 بازدید کننده و, 0 پاسخ داشته و 0 بار پسندیده شده...
نام دسته b4xfeed
نام موضوع Round2 with high precision parameters
آغاز کننده موضوع practicalsoft
تاریخ شروع
پاسخ‌ها
0
بازدیدها
81
پسندها
0
آخرین ارسال توسط PracticalSoft
وضعیت
موضوع بسته شده است و نمی‌توان پاسخ جدیدی فرستاد.
Jun 6, 2020
11,517
4,383
برای دیدن تصاویر باید ثبت نام کنید


This is not really a significant difficulty and I am adding this note here as a point of awareness because I have seen quite a few comments about rounding numbers in these forums.

Using Round2() with a high precision as the second parameter fails as shown here. The maximum precision of a (B4X/Java) Double is just under 16 digits. That precision can rise if the majority of the digits are in the mantissa (as in the given example).

It would be better if the parser reduced the precision requested to a maximum of 17.

Failing that, be aware that you may get (seriously) erroneous answers if you use high precisions with Round2().

 

وضعیت
موضوع بسته شده است و نمی‌توان پاسخ جدیدی فرستاد.
عقب
بالا