Dans ce paragraphe, on s'intéresse à la minimisation de la
fonctionnelle non quadratique 
(et non 
), lorsque
l'opérateur d'observation et le modèle ne sont plus forcément linéaires. Du
même coup, la hessienne n'est plus constante. De plus, la dimension
du vecteur de contrôle est désormais égale à 
, soit la
dimension de l'espace du modèle. La qualité de l'approximation de
la hessienne est toujours vérifiée à l'aide de la méthode de
l'adjoint au second ordre. Seuls les nombres maximaux d'itérations
et simulations ont été changés, et valent désormais 
et
respectivement. Les résultats ne diffèrent alors
pratiquement pas du cas quadratique.
La seule différence est l'échec des trois formules BFGS directe, BFGS inverse et DFP inverse lorsque la paire la plus récente est utilisée pour la mise à jour, et qu'aucune mise à l'échelle n'est effectuée.
Le tableau 3.5 récapitule les nombres d'itérations et simulations nécessaires à la convergence de la minimisation pour les différentes formules et dans les différentes approches. Il faut remarquer que la formule de mise à jour de quasi-Cauchy a, à chaque fois, atteint le nombre maximal d'itérations ou de simulations avant la convergence de la minimisation.
Il faut en général plus d'itérations/simulations pour parvenir à la convergence de l'algorithme de minimisation que dans le cas quadratique simplifié. Néanmoins, la même conclusion reste valable, nous avons intérêt à utiliser la formule de mise à jour BFGS directe, en utilisant la paire la plus récente et la nouvelle approche pour la mise à l'échelle.