Андрей Геннадьевич Карлов родился в 1954 году.
В 1976 году он окончил факультет международных экономических отношений МГИМО, а в 1992 — Дипломатическую академию МИД.
На дипломатической службе он находился с 1976 года.
Почти 30 лет с небольшими перерывами проработал на различных должностях в Северной Корее.
В 2001 году Карлова назначили чрезвычайным и полномочным послом России в КНДР — помимо английского он владел корейским языком. Он занимал этот пост до декабря 2006 года.
С 2007 года работал заместителем директора Консульского департамента МИД, а в январе 2009-го его назначили директором департамента.
12 июля 2013 года Андрей Карлов был назначен на пост чрезвычайного и полномочного посла Российской Федерации в Турецкой Республике.