[valse.git] / src / sources / constructionModelesLassoMLE.c

#include "EMGLLF.h"
#include "constructionModelesLassoMLE.h"
#include <gsl/gsl_linalg.h>
#include <omp.h>
#include "omp_num_threads.h"

// TODO: comment on constructionModelesLassoMLE purpose
void constructionModelesLassoMLE(
	// IN parameters 
	const Real* phiInit, // parametre initial de moyenne renormalisé
	const Real* rhoInit, // parametre initial de variance renormalisé
	const Real* piInit,  // parametre initial des proportions
	const Real* gamInit, // paramètre initial des probabilités a posteriori de chaque échantillon
	Int mini,        // nombre minimal d'itérations dans l'algorithme EM	
	Int maxi,        // nombre maximal d'itérations dans l'algorithme EM
	Real gamma,    // valeur de gamma : puissance des proportions dans la pénalisation pour un Lasso adaptatif
	const Real* glambda, // valeur des paramètres de régularisation du Lasso
	const Real* X,       // régresseurs
	const Real* Y,       // réponse
	Real seuil,    // seuil pour prendre en compte une variable
	Real tau,      // seuil pour accepter la convergence
	const Int* A1,         // matrice des coefficients des parametres selectionnes
	const Int* A2,         // matrice des coefficients des parametres non selectionnes
	// OUT parameters
	Real* phi,            // estimateur ainsi calculé par le Lasso
    Real* rho,            // estimateur ainsi calculé par le Lasso
	Real* pi,             // estimateur ainsi calculé par le Lasso
    Real* lvraisemblance, // estimateur ainsi calculé par le Lasso
	// additional size parameters
	mwSize n,                 // taille de l'echantillon                
	mwSize p,                 // nombre de covariables
	mwSize m,                 // taille de Y (multivarié)
	mwSize k,                 // nombre de composantes
	mwSize L)                 // taille de glambda
{
	//preparation: phi = 0
	for (mwSize u=0; u<p*m*k*L; u++)
		phi[u] = 0.0;
	
	//initiate parallel section
	mwSize lambdaIndex;
	omp_set_num_threads(OMP_NUM_THREADS);
	#pragma omp parallel default(shared) private(lambdaIndex)
	{
	#pragma omp for schedule(dynamic,CHUNK_SIZE) nowait
	for (lambdaIndex=0; lambdaIndex<L; lambdaIndex++)
	{
		//~ a = A1(:,1,lambdaIndex);
		//~ a(a==0) = [];
		Int* a = (Int*)malloc(p*sizeof(Int));
		mwSize lengthA = 0;
		for (mwSize j=0; j<p; j++)
		{
			if (A1[j*(m+1)*L+0*L+lambdaIndex] != 0)
				a[lengthA++] = A1[j*(m+1)*L+0*L+lambdaIndex] - 1;
		}
		if (lengthA == 0)
			continue;
		
		//Xa = X(:,a)
		Real* Xa = (Real*)malloc(n*lengthA*sizeof(Real));
		for (mwSize i=0; i<n; i++)
		{
			for (mwSize j=0; j<lengthA; j++)
				Xa[i*lengthA+j] = X[i*p+a[j]];
		}
		
		//phia = phiInit(a,:,:)
		Real* phia = (Real*)malloc(lengthA*m*k*sizeof(Real));
		for (mwSize j=0; j<lengthA; j++)
		{
			for (mwSize mm=0; mm<m; mm++)
			{
				for (mwSize r=0; r<k; r++)
					phia[j*m*k+mm*k+r] = phiInit[a[j]*m*k+mm*k+r];
			}
		}
		
		//[phiLambda,rhoLambda,piLambda,~,~] = EMGLLF(...
		//	phiInit(a,:,:),rhoInit,piInit,gamInit,mini,maxi,gamma,0,X(:,a),Y,tau);
		Real* phiLambda = (Real*)malloc(lengthA*m*k*sizeof(Real));
		Real* rhoLambda = (Real*)malloc(m*m*k*sizeof(Real));
		Real* piLambda = (Real*)malloc(k*sizeof(Real));
		Real* LLF = (Real*)malloc((maxi+1)*sizeof(Real));
		Real* S = (Real*)malloc(lengthA*m*k*sizeof(Real));
		EMGLLF(phia,rhoInit,piInit,gamInit,mini,maxi,gamma,0.0,Xa,Y,tau,
			phiLambda,rhoLambda,piLambda,LLF,S,
			n,lengthA,m,k);
		free(Xa);
		free(phia);
		free(LLF);
		free(S);
		
		//~ for j=1:length(a)
			//~ phi(a(j),:,:,lambdaIndex) = phiLambda(j,:,:);
		//~ end
		for (mwSize j=0; j<lengthA; j++)
		{
			for (mwSize mm=0; mm<m; mm++)
			{
				for (mwSize r=0; r<k; r++)
					phi[a[j]*m*k*L+mm*k*L+r*L+lambdaIndex] = phiLambda[j*m*k+mm*k+r];
			}
		}
		free(phiLambda);
		//~ rho(:,:,:,lambdaIndex) = rhoLambda;
		for (mwSize u=0; u<m; u++)
		{
			for (mwSize v=0; v<m; v++)
			{
				for (mwSize r=0; r<k; r++)
					rho[u*m*k*L+v*k*L+r*L+lambdaIndex] = rhoLambda[u*m*k+v*k+r];
			}
		}
		free(rhoLambda);
		//~ pi(:,lambdaIndex) = piLambda;
		for (mwSize r=0; r<k; r++)
			pi[r*L+lambdaIndex] = piLambda[r];
		free(piLambda);
		
		mwSize dimension = 0;
		Int* b = (Int*)malloc(m*sizeof(Int));
		for (mwSize j=0; j<p; j++)
		{
			//~ b = A2(j,2:end,lambdaIndex);
			//~ b(b==0) = [];
			mwSize lengthB = 0;
			for (mwSize mm=0; mm<m; mm++)
			{
				if (A2[j*(m+1)*L+(mm+1)*L+lambdaIndex] != 0)
					b[lengthB++] = A2[j*(m+1)*L+(mm+1)*L+lambdaIndex] - 1;
			}
			//~ if length(b) > 0
				//~ phi(A2(j,1,lambdaIndex),b,:,lambdaIndex) = 0.0;
			//~ end
			if (lengthB > 0)
			{
				for (mwSize mm=0; mm<lengthB; mm++)
				{
					for (mwSize r=0; r<k; r++)
						phi[(A2[j*(m+1)*L+0*L+lambdaIndex]-1)*m*k*L + b[mm]*k*L + r*L + lambdaIndex] = 0.0;
				}
			}
			
			//~ c = A1(j,2:end,lambdaIndex);
			//~ c(c==0) = [];
			//~ dimension = dimension + length(c);
			for (mwSize mm=0; mm<m; mm++)
			{
				if (A1[j*(m+1)*L+(mm+1)*L+lambdaIndex] != 0)
					dimension++;
			}
		}
		free(b);
		
		int signum;
		Real* densite = (Real*)calloc(L*n,sizeof(Real));
		Real sumLogDensit = 0.0;
		gsl_matrix* matrix = gsl_matrix_alloc(m, m);
		gsl_permutation* permutation = gsl_permutation_alloc(m);
		Real* YiRhoR = (Real*)malloc(m*sizeof(Real));
		Real* XiPhiR = (Real*)malloc(m*sizeof(Real));
		for (mwSize i=0; i<n; i++)
		{
			//~ for r=1:k
				//~ delta = Y(i,:)*rho(:,:,r,lambdaIndex) - (X(i,a)*(phi(a,:,r,lambdaIndex)));
				//~ densite(i,lambdaIndex) = densite(i,lambdaIndex) +...
					//~ pi(r,lambdaIndex)*det(rho(:,:,r,lambdaIndex))/(sqrt(2*PI))^m*exp(-dot(delta,delta)/2.0);
			//~ end
			for (mwSize r=0; r<k; r++)
			{
				//compute det(rho(:,:,r,lambdaIndex)) [TODO: avoid re-computations]
				for (mwSize u=0; u<m; u++)
				{
					for (mwSize v=0; v<m; v++)
						matrix->data[u*m+v] = rho[u*m*k*L+v*k*L+r*L+lambdaIndex];
				}
				gsl_linalg_LU_decomp(matrix, permutation, &signum);
				Real detRhoR = gsl_linalg_LU_det(matrix, signum);
				
				//compute Y(i,:)*rho(:,:,r,lambdaIndex)
				for (mwSize u=0; u<m; u++)
				{
					YiRhoR[u] = 0.0;
					for (mwSize v=0; v<m; v++)
						YiRhoR[u] += Y[i*m+v] * rho[v*m*k*L+u*k*L+r*L+lambdaIndex];
				}
				
				//compute X(i,a)*phi(a,:,r,lambdaIndex)
				for (mwSize u=0; u<m; u++)
				{
					XiPhiR[u] = 0.0;
					for (mwSize v=0; v<lengthA; v++)
						XiPhiR[u] += X[i*p+a[v]] * phi[a[v]*m*k*L+u*k*L+r*L+lambdaIndex];
				}
                // On peut remplacer X par Xa dans ce dernier calcul, mais je ne sais pas si c'est intéressant ...
				
				// compute dotProduct < delta . delta >
				Real dotProduct = 0.0;
				for (mwSize u=0; u<m; u++)
					dotProduct += (YiRhoR[u]-XiPhiR[u]) * (YiRhoR[u]-XiPhiR[u]);
				
				densite[lambdaIndex*n+i] += (pi[r*L+lambdaIndex]*detRhoR/pow(sqrt(2.0*M_PI),m))*exp(-dotProduct/2.0);
			}			
			sumLogDensit += log(densite[lambdaIndex*n+i]);
		}
		lvraisemblance[lambdaIndex*2+0] = sumLogDensit;
		lvraisemblance[lambdaIndex*2+1] = (dimension+m+1)*k-1;
	
		free(a);
		free(YiRhoR);
		free(XiPhiR);
		free(densite);
		gsl_matrix_free(matrix);
		gsl_permutation_free(permutation);
	}
	}
}
Commit	Line	Data
1d3c1faa BA	1	#include "EMGLLF.h"
	2	#include "constructionModelesLassoMLE.h"
	3	#include <gsl/gsl_linalg.h>
	4	#include <omp.h>
	5	#include "omp_num_threads.h"
	6
	7	// TODO: comment on constructionModelesLassoMLE purpose
	8	void constructionModelesLassoMLE(
	9	// IN parameters
	10	const Real* phiInit, // parametre initial de moyenne renormalisé
	11	const Real* rhoInit, // parametre initial de variance renormalisé
	12	const Real* piInit, // parametre initial des proportions
	13	const Real* gamInit, // paramètre initial des probabilités a posteriori de chaque échantillon
	14	Int mini, // nombre minimal d'itérations dans l'algorithme EM
	15	Int maxi, // nombre maximal d'itérations dans l'algorithme EM
	16	Real gamma, // valeur de gamma : puissance des proportions dans la pénalisation pour un Lasso adaptatif
	17	const Real* glambda, // valeur des paramètres de régularisation du Lasso
	18	const Real* X, // régresseurs
	19	const Real* Y, // réponse
	20	Real seuil, // seuil pour prendre en compte une variable
	21	Real tau, // seuil pour accepter la convergence
	22	const Int* A1, // matrice des coefficients des parametres selectionnes
	23	const Int* A2, // matrice des coefficients des parametres non selectionnes
	24	// OUT parameters
	25	Real* phi, // estimateur ainsi calculé par le Lasso
	26	Real* rho, // estimateur ainsi calculé par le Lasso
	27	Real* pi, // estimateur ainsi calculé par le Lasso
	28	Real* lvraisemblance, // estimateur ainsi calculé par le Lasso
	29	// additional size parameters
	30	mwSize n, // taille de l'echantillon
	31	mwSize p, // nombre de covariables
	32	mwSize m, // taille de Y (multivarié)
	33	mwSize k, // nombre de composantes
	34	mwSize L) // taille de glambda
	35	{
	36	//preparation: phi = 0
	37	for (mwSize u=0; u<pmk*L; u++)
	38	phi[u] = 0.0;
	39
	40	//initiate parallel section
	41	mwSize lambdaIndex;
	42	omp_set_num_threads(OMP_NUM_THREADS);
	43	#pragma omp parallel default(shared) private(lambdaIndex)
	44	{
	45	#pragma omp for schedule(dynamic,CHUNK_SIZE) nowait
	46	for (lambdaIndex=0; lambdaIndex<L; lambdaIndex++)
	47	{
	48	//~ a = A1(:,1,lambdaIndex);
	49	//~ a(a==0) = [];
	50	Int* a = (Int)malloc(psizeof(Int));
	51	mwSize lengthA = 0;
	52	for (mwSize j=0; j<p; j++)
	53	{
	54	if (A1[j(m+1)L+0*L+lambdaIndex] != 0)
	55	a[lengthA++] = A1[j(m+1)L+0*L+lambdaIndex] - 1;
	56	}
	57	if (lengthA == 0)
	58	continue;
	59
	60	//Xa = X(:,a)
	61	Real* Xa = (Real)malloc(nlengthA*sizeof(Real));
	62	for (mwSize i=0; i<n; i++)
	63	{
	64	for (mwSize j=0; j<lengthA; j++)
65	Xa[ilengthA+j] = X[ip+a[j]];
66	}
67
68	//phia = phiInit(a,:,:)
69	Real* phia = (Real)malloc(lengthAmksizeof(Real));
70	for (mwSize j=0; j<lengthA; j++)
71	{
72	for (mwSize mm=0; mm<m; mm++)
73	{
74	for (mwSize r=0; r<k; r++)
75	phia[jmk+mmk+r] = phiInit[a[j]mk+mmk+r];
76	}
77	}
78
79	//[phiLambda,rhoLambda,piLambda,~,~] = EMGLLF(...
80	// phiInit(a,:,:),rhoInit,piInit,gamInit,mini,maxi,gamma,0,X(:,a),Y,tau);
81	Real* phiLambda = (Real)malloc(lengthAmksizeof(Real));
82	Real* rhoLambda = (Real)malloc(mmksizeof(Real));
83	Real* piLambda = (Real)malloc(ksizeof(Real));
84	Real* LLF = (Real)malloc((maxi+1)sizeof(Real));
85	Real* S = (Real)malloc(lengthAmksizeof(Real));
86	EMGLLF(phia,rhoInit,piInit,gamInit,mini,maxi,gamma,0.0,Xa,Y,tau,
87	phiLambda,rhoLambda,piLambda,LLF,S,
88	n,lengthA,m,k);
89	free(Xa);
90	free(phia);
91	free(LLF);
92	free(S);
93
94	//~ for j=1:length(a)
95	//~ phi(a(j),:,:,lambdaIndex) = phiLambda(j,:,:);
96	//~ end
97	for (mwSize j=0; j<lengthA; j++)
98	{
99	for (mwSize mm=0; mm<m; mm++)
100	{
101	for (mwSize r=0; r<k; r++)
102	phi[a[j]mkL+mmkL+rL+lambdaIndex] = phiLambda[jmk+mm*k+r];
103	}
104	}
105	free(phiLambda);
106	//~ rho(:,:,:,lambdaIndex) = rhoLambda;
107	for (mwSize u=0; u<m; u++)
108	{
109	for (mwSize v=0; v<m; v++)
110	{
111	for (mwSize r=0; r<k; r++)
112	rho[umkL+vkL+rL+lambdaIndex] = rhoLambda[umk+v*k+r];
113	}
114	}
115	free(rhoLambda);
116	//~ pi(:,lambdaIndex) = piLambda;
117	for (mwSize r=0; r<k; r++)
118	pi[r*L+lambdaIndex] = piLambda[r];
119	free(piLambda);
120
121	mwSize dimension = 0;
122	Int* b = (Int)malloc(msizeof(Int));
123	for (mwSize j=0; j<p; j++)
124	{
125	//~ b = A2(j,2:end,lambdaIndex);
126	//~ b(b==0) = [];
127	mwSize lengthB = 0;
128	for (mwSize mm=0; mm<m; mm++)
129	{
130	if (A2[j(m+1)L+(mm+1)*L+lambdaIndex] != 0)
131	b[lengthB++] = A2[j(m+1)L+(mm+1)*L+lambdaIndex] - 1;
132	}
133	//~ if length(b) > 0
134	//~ phi(A2(j,1,lambdaIndex),b,:,lambdaIndex) = 0.0;
135	//~ end
136	if (lengthB > 0)
137	{
138	for (mwSize mm=0; mm<lengthB; mm++)
139	{
140	for (mwSize r=0; r<k; r++)
141	phi[(A2[j(m+1)L+0L+lambdaIndex]-1)mkL + b[mm]kL + r*L + lambdaIndex] = 0.0;
142	}
143	}
144
145	//~ c = A1(j,2:end,lambdaIndex);
146	//~ c(c==0) = [];
147	//~ dimension = dimension + length(c);
148	for (mwSize mm=0; mm<m; mm++)
149	{
150	if (A1[j(m+1)L+(mm+1)*L+lambdaIndex] != 0)
151	dimension++;
152	}
153	}
154	free(b);
155
156	int signum;
157	Real* densite = (Real)calloc(Ln,sizeof(Real));
158	Real sumLogDensit = 0.0;
159	gsl_matrix* matrix = gsl_matrix_alloc(m, m);
160	gsl_permutation* permutation = gsl_permutation_alloc(m);
161	Real* YiRhoR = (Real)malloc(msizeof(Real));
162	Real* XiPhiR = (Real)malloc(msizeof(Real));
163	for (mwSize i=0; i<n; i++)
164	{
165	//~ for r=1:k
166	//~ delta = Y(i,:)rho(:,:,r,lambdaIndex) - (X(i,a)(phi(a,:,r,lambdaIndex)));
167	//~ densite(i,lambdaIndex) = densite(i,lambdaIndex) +...
168	//~ pi(r,lambdaIndex)det(rho(:,:,r,lambdaIndex))/(sqrt(2PI))^m*exp(-dot(delta,delta)/2.0);
169	//~ end
170	for (mwSize r=0; r<k; r++)
171	{
172	//compute det(rho(:,:,r,lambdaIndex)) [TODO: avoid re-computations]
173	for (mwSize u=0; u<m; u++)
174	{
175	for (mwSize v=0; v<m; v++)
176	matrix->data[um+v] = rho[umkL+vkL+r*L+lambdaIndex];
177	}
178	gsl_linalg_LU_decomp(matrix, permutation, &signum);
179	Real detRhoR = gsl_linalg_LU_det(matrix, signum);
180
181	//compute Y(i,:)*rho(:,:,r,lambdaIndex)
182	for (mwSize u=0; u<m; u++)
183	{
184	YiRhoR[u] = 0.0;
185	for (mwSize v=0; v<m; v++)
186	YiRhoR[u] += Y[im+v] rho[vmkL+ukL+rL+lambdaIndex];
187	}
188
189	//compute X(i,a)*phi(a,:,r,lambdaIndex)
190	for (mwSize u=0; u<m; u++)
191	{
192	XiPhiR[u] = 0.0;
193	for (mwSize v=0; v<lengthA; v++)
194	XiPhiR[u] += X[ip+a[v]] phi[a[v]mkL+ukL+rL+lambdaIndex];
195	}
196	// On peut remplacer X par Xa dans ce dernier calcul, mais je ne sais pas si c'est intéressant ...
197
198	// compute dotProduct < delta . delta >
199	Real dotProduct = 0.0;
200	for (mwSize u=0; u<m; u++)
201	dotProduct += (YiRhoR[u]-XiPhiR[u]) * (YiRhoR[u]-XiPhiR[u]);
202
203	densite[lambdaIndexn+i] += (pi[rL+lambdaIndex]detRhoR/pow(sqrt(2.0M_PI),m))*exp(-dotProduct/2.0);
204	}
205	sumLogDensit += log(densite[lambdaIndex*n+i]);
206	}
207	lvraisemblance[lambdaIndex*2+0] = sumLogDensit;
208	lvraisemblance[lambdaIndex2+1] = (dimension+m+1)k-1;
209
210	free(a);
211	free(YiRhoR);
212	free(XiPhiR);
213	free(densite);
214	gsl_matrix_free(matrix);
215	gsl_permutation_free(permutation);
216	}
217	}
218	}