Motivée et soutenue par l'Association des femmes universitaires de Québec, l'Association voit le jour le 27 mai 1949 sous le nom de Société des femmes universitaires de Montréal (SFUM). Dès lors, l'Association est affiliée à la Fédération canadienne des femmes diplômées des universités (FCFDU) qui est elle-même affiliée à la Fédération internationale des femmes diplômées des universités (FIFDU). Un comité provisoire est mis en place. Celui-ci choisit le futur conseil d'administration qui a pour présidente Mme Florence Martel. Aussitôt d'autres comités sont constitués pour répondre aux besoins de fonctionnement de l'Association et de ses activités. L'AFDU s'emploie alors à recruter de nouveaux membres et à se faire connaître auprès des femmes, des associations et des organismes. Rapidement, un programme d'activités voit le jour et des conférences commencent à être données. C'est le 6 décembre 1961 que la Société des femmes universitaires de Montréal change de nom pour devenir l'Association des femmes diplômées des universités (Montréal) (AFDU).

Les buts premiers de l'Association sont de servir la cause de l'éducation auprès de femmes tout en contribuant au progrès de l'enseignement, encourager les études avancées et la recherche. Elle souhaite aussi stimuler chez les femmes universitaires l'intérêt pour les affaires publiques, politiques, sociales et culturelles. L'Association a aussi pour objectifs de maintenir le statut économique, juridique et professionnel chez les femmes du Québec. L'AFDU tente de favoriser l'entraide et la collaboration entre femmes diplômées tant au niveau provincial, national qu'international, et d'orienter les jeunes diplômées vers les études supérieures. C'est dans ce sens que l'AFDU accorde des bourses d'études à de jeunes femmes. Depuis 1979, l'AFDU est jumelée au groupe de Paris de l'Association française des femmes diplômées des universités.

Pour mener à bien ses intentions, l'AFDU organise ses actions en trois volets. Tout d'abord par de nombreuses associations et collaborations avec des organismes tels que la Fédération des femmes du Québec (FFQ), la Commission des études catholiques de Montréal (CECM), l'Association des éducateurs du Québec (AEQ) pour ne nommer qu'eux. Puis par la mise en place d'activités éducatives qui sont organisées par différents comités de l'Association comme le comité d'éducation, le comité des arts ou encore le comité de rencontre. Les activités prennent la forme de colloque, de conférence, de rencontre-orientation, ou d'exposition. Le dernier volet est axé sur des études et des recherches que l'AFDU effectue pour soutenir des causes qu'elle souhaite défendre ou pour dénoncer des situations compromettantes pour les femmes ou la famille. L'Association rédige alors des rapports, des mémoires qui affirment ses positions entre autres sur la place des femmes dans les corporations professionnelles, sur un projet de loi relatif à la famille, ou sur le retour aux études de la femme mariée, l'avortement ou la lutte contre la pornographie.

L'AFDU est composée de membres actifs, de membres associés et de membres étudiants qui doivent tous avoir acquitté une cotisation fixée par le comité d'administration et avoir obtenu soit un baccalauréat, une licence, une maîtrise, un doctorat ou des diplômes reconnus équivalents. Elle compte aussi des membres d'honneur qui se sont illustrées dans des actions particulières relatives aux droits de femmes.

En 2003, l'AFDU ne compte plus assez de membres au conseil d'administration pour assurer le bon fonctionnement de l'Association, de ce fait l'AFDU est dans la nécessité de cesser ses activités. C'est le 18 septembre 2003 que la dissolution de l'Association des femmes diplômées des universités (Montréal) est officiellement prononcée.