Cette approche contractuelle s'inscrit dans le cadre de la nouvelle microéconomie et plus précisément dans le cadre de l'économie de l'information. Elle se distingue de la théorie des coûts de transaction dans la mesure où elle préserve l'hypothèse néoclassique de rationalité parfaite des agents. Elle place la détention de l'information et son partage entre contractants au coeur de son analyse de la firme. A l'origine de cette approche, on trouve l'analyse de Berle et Means, présentée en introduction, et celle de Michael Jensen et William Meckling (1976).
La théorie des incitations repose sur la notion de relation d'agence. Une relation d'agence a deux caractéristiques principales : c'est une relation de délégation et elle suppose une asymétrie d'information. Une relation d'agence nait dès lors qu'une personne en engage une autre pour remplir une mission qui nécessite une délégation de pouvoir. Celui qui délègue est appelé Principal, celui à qui est confié la mission est appelé Agent. La relation entre un actionnaire et un manager est une relation d'agence. L'actionnaire (le Principal) délègue la prise de décision au manager (l'Agent).
La délégation est associée à une imperfection de l'information qui peut être de deux ordres : le Principal n'a qu'une information limitée sur les caractéristiques de l'Agent (situation dite de sélection contraire) et il observe imparfaitement son comportement (situation dite de risque moral). L'asymétrie d'information caractérise donc toute relation entre le Principal et l'Agent.
Une relation d'agence génère trois types de coûts, appelés coûts d'agence :
(1) les dépenses de surveillance et d'incitation (par exemple les systèmes d'intéressement) engagées par le Principal pour orienter le comportement de l'Agent.
(2) les coûts d'«obligation», supportés par l'Agent, c'est-à-dire les dépenses qu'il peut être amené à engager pour pouvoir garantir qu'il ne mettra pas en oeuvre certaines actions qui puissent léser le Principal, ou pour pouvoir le dédommager le cas échéant.
(3) la «perte résiduelle», qui correspond à l'écart, inévitable, entre le résultat de l'action de l'Agent pour le Principal et ce qu'aurait donné un comportement de maximisation effective du bien-être du Principal.
Au regard des hypothèses présentées, la théorie des incitations présente les organisations comme des «noeuds de contrats», écrits et non écrits, entre des détenteurs de facteurs de production et des clients (exemple la relation entre un employé et son employeur). Chaque relation contractuelle est une relation d'agence dont il faut trouver la configuration optimale, c'est-à-dire les règles contractuelles qui minimisent les coûts d'agence. Cette vision proposée par la théorie de l'agence est très générale et a plusieurs implications importantes en ce qui concerne la représentation de la firme.
(1) La firme n'a pas d'existence véritable (c'est une «fiction légale»). Elle n'est pas assimilée à un individu, comme dans l'approche néoclassique. Ce qui est importe pour comprendre la firme, ce sont les caractéristiques des différentes relations contractuelles liant les individus.
(2) La question de la propriété de la firme est sans objet. Chaque facteur dans une firme est la propriété d'un individu. La firme est un ensemble de contrats portant sur la manière dont les inputs sont associés pour créer les produits, et sur la manière dont les recettes sont partagées entre propriétaires de ces inputs.
(3) Il n'y a pas de différence fondamentale entre firme et marché, en particulier les relations contractuelles au sein de la firme ne supposent aucune relation d'autorité. En ce sens, la relation d'emploi n'est en rien spécifique, le contrat de travail est comparable au contrat commercial. Le contrat de travail met en relation le propriétaire d'un input (l'employé) et un demandeur de ce travail (l'employeur).
La théorie de l'agence est particulièrement adaptée à l'analyse d'une forme particulière d'entreprise : la société par action. Celle-ci se caractérise par une relation d'agence entre actionnaires et dirigeants (caractérisée effectivement par une délégation de décision et une asymétrie d'information au bénéfice du dirigeant), susceptible de générer des conflits d'intérêt. Ce conflit naît du fait que les actionnaires cherchent la maximisation des dividendes et le manager la maximisation de son salaire, ces deux objectifs étant irréconciliables. Mais ces divergences d'intérêt peuvent s'estomper si l'entreprise met en place un système de rémunération des managers adapté, par un système de stock-option. Dans ce cas, les intérêts des actionnaires et des dirigeants convergent davantage dans la mesure où ces derniers détiennent dorénavant des actions de leur entreprise.
De même les outils d'analyse proposés par la théorie de l'agence sont particulièrement adaptés à l'analyse de la relation entre employeur et salariés au sein des entreprises capitalistes. Cette relation est une relation d'agence, et certaines procédures peuvent limiter les problèmes de contrôle du comportement des salariés. Par exemple, l'employeur peut inciter les employés à fournir un effort plus important en liant leur rémunération à leur performance. L'initiative peut aussi venir de l'employé qui peut donner des informations en vue de faire connaître la réalité de ses compétences et de son engagement. Par exemple, l'employé a obtenu un diplôme qui n'est pas directement en lien avec son emploi, mais il montre ainsi sa capacité à fournir un effort. Naturellement, toutes ces procédures ont un coût que seul pourra supporter une personne récompensée par l'attribution d'une partie des bénéfices de l'entreprise.
A travers la relation employeur-employé, la firme se présente comme un «système incitatif». Parmi les défenseurs de cette thèse, on trouve notamment Holmström et Milgrom (1994). Selon eux, la firme peut utiliser divers instruments pour s'assurer de l'effort maximal de ses salariés en combinant autorité, propriété (le salarié peut être propriétaire des outils de production) et rémunérations.