Le Centre Martin Luther King a été créé en 1968. L'idée de lui donner le nom du pasteur noir a germé au cours d'une marche silencieuse commémorant sa mort.

Peu de temps auparavant plusieurs personnes s'étaient réunies en vue de créer un centre pour promouvoir la non-violence (notamment Luc Francey, Daniel Schori, Marc Guignard, Daniel Pache, Georges Kobi et André Jufer).

Le CMLK aurait aussi pu prendre le nom de Centre gandhien ou Centre pour la non-violence. L'impulsion a émané du Mouvement International de la Réconciliation (MIR) et plus spécifiquement de Michel Grenier, qui aura été le premier secrétaire du CMLK. Outre le MIR, ont participé à la création du CMLK, les Amis de l'Arche de Lanza del Vasto, les Quakers, et l'Internationale des Résistants à la Guerre (IRG).
 

Le CMLK est en premier lieu de mouvance gandhienne dans le sens où l'action non-violente est centrale, que la fin se trouve dans les moyens, que la dimension politique est prise en compte et finalement de par l'influence de Gandhi en Occident. Martin Luther King, de son côté, pour défendre les droits civiques des Noirs aux Etats-Unis, s'est largement inspiré des apports de Gandhi.

A ses débuts, l'objection est le centre d'intérêt du CMLK: campagne de refus des impôts militaires, animation de groupes d'objecteurs, Initiative contre les exportations d'armes. C'est à la fin des année septante que l'antimilitarisme a peu à peu été abandonné, au profit d'une non-violence «multidirectionnelle»: le Centre de documentation prend véritablement forme et la formation à la non-violence devient centrale.