Using atmospheric weather models to improve radar measured altitude

Abstract

This report discusses how the atmosphere affects radar and barometric measurement of altitudes of airborne vessels. One may transform each kind of measurement to a corrected dataset in units of meters using atmospheric predictions. Calibration of barometers are relative to mean sea level and ‘standard atmosphere’. By employment of a weather-modelled relationship between latitude, longitude, barometric calibrated pressure and geometric height in units of meters, barometer pressure converts to correct reading in meters. Radar beams bend through the atmosphere due to a vertical refractive index gradient. If weather predictions are unavailable, the standard so-called ‘effective earth radius’ compensation is usually employed, which corresponds to a ‘standard’ constant refractive index gradient. We compare usage of this constant to employing an averaged weather predicted refractive index gradient between radar and target. We also make calculations for illustration of the effect of relative positioning of radar and air vessels at different altitudes and distances. At long distances between radar and observed air vessel we find that use of atmospheric prediction data correction often means the order of 1000 meters less subtraction of altitude than by using ‘standard’ refractive index gradient correction, i.e. the altitude of the air vessel is in reality up to 1000 meters higher. In general, a large error and difference between barometric and radar based measurement is present if actual atmospheric conditions are not accounted for.

Denne rapporten diskuterer hvordan atmosfæren påvirker radarmålinger og barometriske målinger av luftfartøys høyde. For å kunne sammenligne radar- og barometermålinger regnes de begge om til geometrisk høyde i meter ved å ta hensyn til atmosfærens tilstand. Barometer er alltid kalibrert i forhold til middels havnivå og «standard» atmosfære. Et væravhengig modellert forhold mellom breddegrad, lengdegrad, barometrisk trykk og geometrisk høyde i meter benyttes til å finne mellomliggende verdier og gjøre direkte oppslag fra trykk til riktig antall meter over havnivå. Radarstråler avbøyes gjennom atmosfæren på grunn av en vertikal gradient i brytningsindeks. Hvis værdata ikke er tilgjengelig, er det vanlig å bruke en «effektiv jordradius» i radardekningsberegninger som er lik 4/3 multiplisert med egentlig jordradius. Dette tilsvarer en «standard» konstant brytningsindeksgradient. Vi sammenligner effekten av å bruke denne konstante gradienten i forhold til effekten av å beregne den aktuelle gjennomsnittlige værpredikterte brytningsindeksgradienten. Vi utfører så beregninger for tenkte relative plasseringer av radar og luftfartøy. Ved lang avstand mellom radar og observert luftfartøy ser vi at bruk av atmosfæredata kan gi opptil 1000 meter mindre fratrekk i høyde, som betyr at luftfartøyet at luftfartøyet er 1000 meter høyere oppe enn det som beregnes ved bruk av «standard» brytningsindeks. Bruk av «standard» brytningsindeks vil derfor i mange tilfeller gi en stor feil og forskjell mellom barometerbasert og radarbasert høydemåling.