Учился в Университете им. Гете во Франкфурте, там же закончил аспирантуру и получил докторскую степень в 1978 г. В том же году принял предложение IBM о работе в Исследовательском центре компании в Цюрихе. Там Бинниг встретил Рорера, пробудившего в молодом ученом «несколько потерянный интерес к физике». Работая совместно, ученые внесли ключевые усовершенствования в конструкцию СТМ, в том числе создали зонд с единственным атомом на острие. С помощью созданного в 1981 г. инструмента Бинниг и Рорер продемонстрировали структуру поверхности кристаллов, цепей ДНК и впервые наблюдали картину отделения вируса от клетки-хозяина.

Находясь в творческом отпуске в Стэнфорде (США) совместно с коллегой по Исследовательскому центру IBM в Цюрихе Кристоформ Гербером (Christoph Gerber) и профессором Стэнфордского университета Келвином Квейтом (Calvin Quate) создали атомно-силовой микроскоп, открывший новые перспективы в микроскопии. В отличие от СТМ, позволяющего исследовать только поверхность металлов и полупроводников, АСМ позволяет исследовать диэлектрические материалы.

В 1994 г. Бинниг основал компанию Delphi Creative Technologies GmbH, специализирующуюся на анализе изображений различного масштаба — от микрофотографий до спутниковых карт. В настоящее время возглавляет исследовательскую деятельность в компании.