De naam verraadt het al, de zwarte wegmier is zwartbruin tot bruin van kleur met fijne haartjes op het lijf. Vrouwtjes worden 3 tot 5 mm groot. De mannetjes zijn wat kleiner. De koningin is het grootst, zij kan wel een centimeter groot worden. Alleen de vruchtbare vrouwtjes en mannetjes hebben vleugels. Kleine onvruchtbare vrouwelijke mieren worden werksters genoemd.
De zwarte wegmier heeft twee belangrijke zintuigen, de voelsprieten. Ze kunnen hiermee proeven, horen, ruiken en voelen. De ogen zitten op de zijkant van de kop en bestaan uit vele deeloogjes. De zwarte wegmier heeft sterke kaken, waarmee ze onder andere voedsel verzamelen en larven verplaatsen. Het lijf bestaat uit een borststuk en een achterlijf. De pootjes zitten vast aan het borststuk. Elk pootje bestaat uit 9 segmenten en de uiteinden zijn voorzien van kleine klauwtjes met twee weerhaken voor houvast. Hierdoor kunnen ze op de kop lopen. De pootjes zijn ook erg geschikt om tunnels en gangen mee te graven. In het achterlijf zitten de spijsverteringsorganen.
