float, double 소수점 3자리 이하 제거 하는 방법 알려 주세요

Question

안녕하십니까?C&#43;&#43; 수치 연산에서센서 값이 가만히 있어도 0이 날라오지 않고0.00010000064이런 식으로 날라옵니다그래서 예를 들어서 소수점 3자리 이하는 무조건 0으로 변경시키는(즉 소수점 3째 자리 이하를 날려 버리는)가장 효율적이고 속도에서 유리한 방법을 알려 주시면 감사 드리겠습니다센서값이 1초에 100번, 수십번 날라오기 때문에 round 연산 이런건 안될거 같습니다회원님들 조언을 부탁 드립니다감사합니다

mirheeoj · Answer

상황을 좀 더 알아야 될 것 같습니다. 센서가 직접 float나 double 데이터를 던져주나요? 그런 일이 잘 없어서.. 보통은 센서는 간단하게 hex값으로 데이터를 발생시키고 (예를 들어 16비트면 0-65535사이) 이걸 센서를 최측단(임베디드 장비, IoT장비 등)에서 컨트롤하는 뭔가가 쓰기 편한 값으로 바꿔주든지 하거든요. 이런 결과로 decimal 값을 받아오시는 구조라면, 바로 그 최측단에서 value &=0xFFF0; 하는 식으로 hex값을 필터링해주든지, 최소한 hex값을 현재 작업하시는 프로그램이 직접 넘겨받도록 처리하는 게 맞는 방법이라 봅니다.만약 정말로 float나 double값을 센서가 발생시키는 상황이라면, 환경설정 등을 통해 hex로 변경할 수 있는지 확인해보세요. 그런 것도 정말 불가능하고 float/double가지고만 작업해야 된다면, 보통 이쪽은 부호-지수-소숫값 이런식으로 내부 데이터가 구성되어 있으니 이걸 만져서 필터링을 해야 하는데, 이걸 직접 하는거나 그냥 round를 호출하는 거나 효율면에서 거의 차이가 없을 걸로 봅니다.아니면 그냥 주는 데이터대로 그대로 다 쌓고, 최종적으로 저 값을 갖다 쓰는 쪽에서 후처리하게 만들어도 됩니다. 뜬구름잡는 얘기처럼 들릴 수도 있지만 자세한 상황을 전 알 수가 없으니..아무튼 정보를 좀 더 알려 주세요.

ansdbduf · Answer

휴대폰의 6DoF도 가만히 두어도 계속 변화죠.각속도, 회전속도가 0이면 물리엔진에 값을 전달 안해도 되는데 센스들은 보통 그렇지 않고 0에 가까운 수를주니.. 각속도,회전속도 vector3의 크기가 임계값이하이냐로... round는 그렇게 비싼 연산이 아닙니다. 그래픽스에서 보통1frame은 1/60초. 그 안에서 무수한 연산들이 펼쳐집니다.

float, double 소수점 3자리 이하 제거 하는 방법 알려 주세요

2개의 답변

기술 목록