floating point 이론 질문 드려요

Question

floating point 연산의 정밀도 문제에 대한 논의는 책 한권을 꽉 채울 정도라고 합니다예를 들어서 pi &#61; 3.1415.... 같은 수의 경우, 특정 정밀도를 지정하고, 그 정밀도 하에서 가장 근접한 두 양의 정수를 찾아서그 양의 정수의 비율로 pi를 나타내고 이 두 정수를 가지고 연산의 정밀도를 보장하는 방법은 연구 되고 있나요?즉 어차피 컴퓨터에서 무리수는 없으므로 모든 수를 (특정 정밀도가 지정된 조건 하에) 근접한 두 정수의 비율로 정의하고 두 두 정수 쌍들간의 상호 연산을 통하여, 기존의 오차를 원천적으로 제거하는 테크닉이 연구 되는지 소개 부탁 드려요요즘 CUDA 연산 같은 건 그냥 32비트 float로 고속 병렬 연산하는 추세라서 이런 취지하고는 전혀 안 맞아서 궁금해서 질문 드려요~

qawbecrdtey · Answer

애초에 실수가 자연수보다 많기 때문에 컴퓨터가 모든 실수를 처리할 수 없는 것은 맞지만, 그렇다고 무리수를 처리할 수 없는 것은 아닙니다. 약간의 (굉장히 큰) 제약을 걸면 우리가 생각할 수 있는 각종 실수를 임의의 양수인 오차 내로 표현할 수 있습니다.

비정규분포 · Answer

https://en.wikipedia.org/wiki/Integer_programminghttps://en.wikipedia.org/wiki/Fixed-point_arithmetichttps://www.jpl.nasa.gov/edu/news/2016/3/16/how-many-decimals-of-pi-do-we-really-need/?utm_source=inshorts&utm_medium=referral&utm_campaign=fullarticle문제는 수 자체의 precision 보다는 연산 시 나타나는 subnormal이나 epsilon 등을 어떻게 처리하는지에 초점이 맞춰져 있어요. IEEE754는 주로 물리 연산 하려고 만들어졌는데, single/double precision 만으로 문제가 되는 분야가 별로 없어서...떠오르는 예로 미디어 컨테이너 포맷(mkv, mp4 등)의 주기를 표현인데, 소수점보다 정수 두개를 표현하고, 구현체쪽에서 플레이백할 때 두 수를 사용해서 인터벌을 맞춥니다. 부동소수점으로 정확한 프레임레이트를 표현할 수 없기 때문에 https://en.wikipedia.org/wiki/24p금융권 같은대서 쓰라고 이런것도 있습니다.https://en.wikipedia.org/wiki/Decimal_floating_point아는대로 적어봤어요

floating point 이론 질문 드려요

2개의 답변

기술 목록