Tags:
Forums: 

irb(main):001:0> 1.005 - 1.000 => 0.00499999999999989

มันเรียกว่าเป็น bug หรือเปล่า จำได้ว่าเป็นมานานแล้ว เวลาลบพวกจุดทศนิยมมันผิด เคยเจอกันมั่งไหมครับ

Get latest news from Blognone
By: tontpong
Contributor
on 25 October 2010 - 14:50 #224536

จุดทศนิยม ใช้ได้ 2 type คือ decimal กะ fp

ถ้าต้องการผลเป้ะๆ อย่างเช่นเรื่องเงินๆ ทองๆ ควรใช้ decimal .. ไม่ควรใช้ floating point

By: lew
FounderJusci's WriterMEconomicsAndroid
on 25 October 2010 - 15:07 #224542
lew's picture

ปรกติครับ เป็นข้อจำกัดของระบบคอมพิวเตอร์แบบฐานสอง (คอมพิวเตอร์แทบทั้งโลกเป็นระบบฐานสอง)

ถ้าไม่เข้าใจเรืองนี้ แนะนำให้อ่านเพิ่มเติม มาตรฐาน IEEE 754-2008 ครับ แต่โดยสรุปแล้ว เวลาที่เราประกาศตัวเลขทศนิยมในภาษาใดๆ ตัวเลขนั้นมักถูกเก็บเป็น Single Precision หรือ Double Precision เพื่อความเร็ว และการประหยัดหน่วยความจำ

ในยุคหลังๆ แทบทุกภาษาจะแก้ปัญหานี้ไปแล้วด้วยการใช้โมดูล หรือตัวแปรชนิด Decimal (เลขฐานสิบ) ก็ต้องตามหากันเองว่าใช้ภาษาไหนอยู่และจะแก้อย่างไรครับ แต่การใช้เลขฐานสิบก็มักจะช้าและกินหน่วยความจำเยอะไปเป็นเงาตามตัว


lewcpe.com, @wasonliw

By: tekkasit
ContributorAndroidWindowsIn Love
on 25 October 2010 - 16:08 #224572
tekkasit's picture

กรณีเป็นเป็นปัญหาการปัดเศษครับ (Rounding)
คอมพิวเตอร์ปกติแทน (represent) จำนวนจริงด้วยค่าในคอมพิวเตอร์ แต่ด้วยข้อจำกัด ทำให้สามารถเก็บจำนวนหลักได้จำกัด เมื่อคำนวณโดยเฉพาะคูณหรือหาร ก็เห็นมีปัญหาเรื่องการปัดเศษได้อย่างชัดเจน ซึ่งหลายกรณีทำให้ขัดกับสามัญสำนึกทั่วไป

ถ้านึกไม่ออก ลองสมมตว่าคำนวณเลขแบบ 1/7 * 7 ในเลขฐานสิบนี่แหล่ะ ไม่ต้องฐานสอง
แต่ระบบเราจำกัด เป็นระบบ 5 digit เก็บเลขทศนิยมได้ 5 ตำแหน่ง

1/7 ในระบบเราจะเก็บ 0.14286 (ปัดจาก 0.14285 7 142857 142857 142857 142857 ... )
พอเอาเลขข้างบน 0.14286 เอามาคูณ 7 ก็จะได้ 1.00002

เห็นม๊ะ ผิดแล้ว

ส่วนแล้ว 0.005 นี่มันอย่างไร ในคอมพิวเตอร์ 0.005 น่าจะไม่สามารถ represent ได้ตรงเป๊ะด้วย floating point นะสิครับ คล้ายๆกับที่เราไม่สามารถแสดงค่า 1/7 ในระบบฐานสิบได้อย่างแม่นยำ

เสริมว่าที่เจอ จะมีปัญหาปัดเศษทิ้งมากกว่า เพราะดันเอา floating point มาใช้ในการคำนวณ เช่น ระบบที่ว่า สมมติลูกค้ามีเงินฝาก 999.49 บาท พอฝากเงินอีก 99,000 บาท ระบบก็จะเจ๊ง (overflow) ไม่งั้นก็แสดงว่าคุณมีเงิน 99,999 แต่ปัดเศษ 49 สตางค์ทิ้งเฉยๆ ซึ่งเป็นเรื่องการเงินแล้ว ยอมรับกรณีแรกไม่ได้ (ระบบเจ๊ง) และกรณีที่สองไม่ได้ (ข้อมูลผิด)

ส่วนใหญ่ระบบปัจจุบันก็จะมีชนิดข้อมูลที่ซับซ้อนขึ้น เรียกว่า decimal เพื่อรองรับกรณีข้างบน แต่กรณี

By: meawwat
ContributoriPhoneAndroidSymbian
on 25 October 2010 - 16:33 #224586
meawwat's picture

ถ้าใช้ตัวแปรพวก Currency แทนจะมีอีกเคสที่เกี่ยวกับการปัดเศษทศนิยมครับ เรื่อง Banker Rounding ตอนที่เจอครั้งแรกนี่เล่นเอาผมงงไปเป็นวันเลยทีเดียว

By: saknarak
Android
on 26 October 2010 - 01:36 #224787
saknarak's picture

0.5 ฐาน 10 เท่ากับ 0.1 ฐาน 2 ( 1 * 10^-1) แป๊ะ ๆ

แต่ 0.05 ฐาน 10 เท่ากับ

0.50 + 0.250 + 0.1250 + 0.06250 + 0.031251 + 0.0156251 + ...
= 0.000011... ไม่เป๊ะ