Ah, ich verstehe. Das Geheimnis liegt im expliziten Setzen der Rotationsmatrix. Deswegen steht in den Docs zu setRotationMatrix() auch:
...make sure to reset the scale by calling setScale(1f) is you previously modified it.
Die Skalierung wird bei jPCT direkt auf die Matrix angewendet. Wenn du sie nachträglich umsetzt, verlierst du die Information in der Matrix, aber jPCT hält das Objekt intern für noch skaliert. Deswegen ändert sich die Größe nicht, aber die Texturen sitzen anderes. Also einfach vorher das alte Scaling holen und merken, auf 1 setzen, Matrix setzen, Scaling neu setzen. Dann passt das. Du darfst dann nur nicht mehr mit der gesetzten Matrix arbeiten als wäre sie noch die, die du reingegeben hast, denn das ist dann nicht mehr der Fall.