Le CIHEAM est composé de plusieurs organes : un Conseil d'Administration, quatre Instituts Agronomiques Méditerranéens, un Secrétariat Général et un Comité scientifique consultatif.
Actuellement, Abdelaziz Mougou est Président du Conseil d'Administration et Bertrand Hervieu est Secrétaire général du CIHEAM. Ce sont environ 150 agents permanents qui travaillent aujourd'hui pour le CIHEAM.
Le Conseil d'Administration
Organe de direction et de décision du Centre, le Conseil d'administration est composé d'un représentant de chacun des treize pays membres. Des représentants de l'OCDE et du Conseil de l'Europe sont membres de droit, avec voix consultative. Des représentants de la FAO, de l'OADA, et du PAM/Plan Bleu sont invités en qualité d'observateurs aux réunions du Conseil d'administration.
Le Président du Conseil est élu parmi les membres, à la majorité des deux tiers, pour quatre ans. Le Président est assisté de Vice-présidents élus pour la même période et selon la même règle de vote.
Les Instituts Agronomiques Méditerranéens (IAM)
Les quatre IAM de Bari, Chania, Montpellier et Zaragoza sont les lieux principaux où se réalisent les missions de formation, de recherche et de coopération du CIHEAM. En 2007-2008, on dénombrait 459 étudiants inscrits en formation diplômante (dont 293 sont boursiers) et un flux moyen d'un millier de stagiaires qui suivent des cours spécialisés de courte durée.
Quatre grands thèmes mobilisent les IAM: la production alimentaire et la gestion de la qualité, l'économie, la gestion et les politiques de développement, l'environnement et la gestion des ressources naturelles, la pêche et l'aquaculture.
Avec ses quatre IAM et son réseau d'institutions partenaires, le CIHEAM s'inscrit pleinement dans la diversité méditerranéenne. En matière de formation et de recherche, le Centre est partenaire des principales institutions nationales des pays méditerranéens. Le CIHEAM coopère aussi avec de nombreux instituts et universités, parmi les plus réputés à travers le monde.
Le CIHEAM a été pionnier dans l'émergence de réseaux de recherche méditerranéens impliquant des équipes internationales. Ces réseaux thématiques rassemblent des décideurs des secteurs public et privé, des agents du développement et des enseignants-chercheurs, oeuvrant ainsi à la construction d'un espace euro-méditerranéen de la recherche et de la formation agronomiques.
Le Secrétariat Général
C'est l'élément charnière du CIHEAM. Il joue un rôle d'animation, de coordination, et d'exécution auprès des différents organes du Centre. Le Secrétaire général est nommé par le Conseil d'administration pour un mandat de quatre ans, éventuellement prorogé à six ans. Le Secrétariat du Centre est « composé du Secrétaire général, des Directeurs des IAM et du personnel nécessaire » (article 7.1 de l'accord de 1962).
Le Comité scientifique consultatif
Le comité est composé d'un nombre de personnalités désignées pour une période de quatre ans par le Conseil d'administration, « choisies notamment parmi les membres des établissements d'enseignement supérieur agricole et des instituts de recherche agronomique » (article 5.1 de l'accord de 1962). Il donne son avis sur des questions soumises par le Conseil d'administration.