Gleiters Forschungsschwerpunkt sind nanokristalline Materialien, ein Gebiet, das er selbst mit begründet hat. In nanokristallinen Materialien ist die Dichte der Grenzflächen so groß, dass die Materialien zu gleichen Teilen aus Grenzflächen und Kristallen bestehen. Sie sind durch neuartige Eigenschaften auf Grund ihrer neuartigen Atomanordnung und/oder chemischen Zusammensetzung für viele technische Anwendungen interessant.
Herbert Gleiter studierte Maschinenbau und Physik in Stuttgart, wo er auch promoviert wurde. Nach Gastaufenthalten in den USA und der Habilitation in Bochum war er zunächst Professor für Werkstoffwissenschaft an der Universität des Saarlandes in Saarbrücken, ab 1994 dann Vorstand des Forschungszentrums Karlsruhe und bis 2004 Geschäftsführender Direktor des dortigen Instituts für Nanotechnologie. Seit 2012 ist Gleiter Zijin Chair Professor am Herbert Gleiter Institute of Nanoscience and Nanotechnology an der Nanjing University of Science and Technology in China. Gleiter wurde 1998 Mitglied der Leopoldina in der Sektion Physik. 2015 verlieh die Leopoldina ihm für die Initiierung des Forschungsgebiets der nanokristallinen Materialien die Cothenius-Medaille.
Unter den Senior Fellows des Institute for Advanced Study der City University Hong Kong sind mit den Nobelpreisträgern Klaus von Klitzing und Jean-Marie Lehn sowie den Materialwissenschaftlern Ke Lu und Tobin J. Marks vier weitere Leopoldina-Mitglieder.