ok, muchisimas gracias ya funciona, solo hay un problema al final no te devuelve la matriz adjunta, no se si lo puedas arreglar eso, ya entregue el trabajo y le explique a mi profesor eso, pero dijo q no importaba, de todas formas no me gusta quedarme con la duda, asi que te dare como se saca la matriz adjunta por si lo q hiciste era para otra matriz y no la adjunta, si eso mas podrias ayudarme a sacar te lo agradeceria porq eso si que intente y no da:

A= a b c
d e f
g h i


adj(A)= A transpuesta y otro metodo = a d g
b e h
c f i
Ahora se sigue asi, como en las determinantes colocas signos, solo q aqui a toda la matriz transpuesta eso es: + - +
- + -
+ - +
ahora tomas el primer valor, anulas sus filas y columnas y en vez del valor copias lo que queda en determnante con su signo: +| e h |
| f i |
se sigue el mismo paso con todos los valores.
Eso seria, te puedo mandar el paso de la transpuesta en codigo de java, pero eso de anular y copiar lo q qda me es dificil, si esto mas lo adjuntas al program please.
Código:

int c=0;
for(i=0; i<n; i++)
{ //Este bloque se encarga de realizar la transpuesta de la matriz C (otra que contiene los valores de la matriz ingresada, A, para que no se pierdan los valores, se usa en vez de B porque este ya calcula la determinante de la matriz asi que varia)
for(j=c; j<n; j++)
{
aux=C[i][j];
C[i][j]=C[j][i];
C[j][i]=aux;
}
c++;
}