Калькуляторы проверенные есть на сайте гармин и у авиаторов, я давал ссылки.
http://williams.best.vwh.net/gccalc.htm
http://www.garmin.com.ua/tools/calc.php
В принципе формулы одинаковые, надо следить чтобы не левый был алгоритм. Хотя бы чтоб WGS-84 звучал, а то норовят на сфере рассчитать (ошибка в пару км).