Научные интересы Кастлера относятся к оптике, атомной спектроскопии, квантовой электронике. Он исследовал возбуждённые оптические состояния атомов методом оптического резонанса, который лёг в основу разработки системы оптической накачки, открытой им в 1952 году.
Что такое оптическая накачка? Электроны в атомах могут находиться только в определённых энергетических состояниях — орбитах. При поглощении пришедшего извне светового кванта они переходят на более высокую орбиту. При испускании — спускаются назад. Но можно загнать электрон ещё выше. Тогда при испускании светового кванта он может спуститься не на низшую, а на ближайшую орбиту и остаться там. Возникнет избыточная заселённость второй орбиты. Это и есть накачка. Эту энергию можно использовать, спровоцировав переход электрона на нижний уровень. Так работает лазер.
На самом деле всё гораздо сложнее. Атомов много и они взаимодействуют между собой.
Это приводит к небольшим сдвигам энергетических уровней у отдельных атомов. А в сумме каждый уровень представляет собой множество подуровней. Это называется тонкой структурой спектра. Тонкая структура наиболее интересна исследователям, так как зависит от свойств молекул газа или кристалла. Для того чтобы увидеть близко расположенные линии, атомы, кроме света, облучают другим электромагнитным излучением, например радиоволнами. Этот дополнительный метод называется резонансом Герца в честь Генриха Герца, который открыл радиоволны.
Но и здесь существуют трудности. Атомов, возбуждённых радиоволнами мало, и их линии в спектре очень слабы. Кастлер вместе со своим студентом Жаном Бросселем разработал методы, в которых дополнительный поляризованный луч света усиливает магнитный резонанс. Метод Кастлера получил название метода двойного резонанса. Он позволяет точно фиксировать положения подуровней возбужденных атомных состояний.
Пользуясь открытием Кастлера, физики смогли глубже изучить процессы, происходящие при взаимодействии излучения и вещества, что привело к созданию многих приборов квантовой оптики.
Кастлер был удостоен Нобелевской премии по физике 1966 года «за открытие и разработку оптических методов исследования резонансов Герца в атомах». При вручении премии один из членов Шведской королевской академии наук сказал: «Большое число ядерных моментов было определено с высокой точностью. Идеи Кастлера относительно оптической „накачки“ сыграли важную роль в создании лазера. Оптическая „накачка“ позволила сконструировать удобные в обращении и очень чувствительные магнитометры и атомные часы».
Скончался Альфред Кастлер 7 января 1984 года.
С детства