Указом Президиума Верховного Совета СССР от 11 февраля 1966 года было внесено изменение в описание медали, а Указами Президиума Верховного Совета СССР от 18 марта 1977 года и от 18 июля 1980 года — в Положение о ней.
Медалью награждались военнослужащие пограничных войск, а также другие военнослужащие и иные граждане за боевые подвиги и особые заслуги, проявленные в охране государственной границы СССР.
Медаль первое время изготовлялась из серебра (до 1966 года), позднее из нейзильбера, посеребренная и, наконец, из медно-никелевого сплава. Медаль имеет форму правильного круга диаметром 32 мм.
Интересно отметить, что 11 февраля 1966 года аверс и реверс медали поменялись местами.
На лицевой стороне медали изображена фигура вооруженного автоматом ППШ солдата, стоящего на страже у пограничного столба, на заднем плане — горы.
На оборотной стороне медали надпись рельефными буквами «За отличие в охране государственной границы СССР». В нижней части оборотной стороны медали по окружности расположены дубовые ветви, перевитые ленточкой. В верхней части оборотной стороны медали изображена выпуклая пятиконечная звездочка, а в нижней — серп и молот.
Медаль при помощи ушка и кольца соединяется с пятиугольной колодочкой.
Автор рисунка медали — художник Веременко П.М.
Первое награждение медалью «За отличие в охране государственной границы СССР» было произведено 22 августа 1950 года. Первыми награжденными медалью стали старший лейтенант Игнатьев Д.В., старшина Гордеев Г.А., колхозник Агейченко В.И. и другие.
Медалью могли награждать повторно, за новые подвиги и отличия. Первым пограничником, трижды отмеченным медалью «За отличие в охране государственной границы СССР» стал офицер 2-го отделения штаба Хичаурского погранотряда КГБ Грузинского пограничного округа полковник Коровко П.С. (1952, 1952, 1955). Также трех медалей удостоен начальник войск Западного пограничного округа генерал-лейтенант Лавриненко Н.В. (1956, 1961, 1980).
По состоянию на 1 января 1995 года медалью «За отличие в охране государственной границы СССР» совершено приблизительно 67.520 награждений.