C'est le ministère public qui a fait appel du verdict de première instance, estimant que la cour d'assises n'avait pas tiré toutes les conséquences juridiques des faits. Dans son arrêt, la cour indiquait que « s'il partageait bien les motivations du jihadiste, aucun élément ne montre qu'Abdelkader Merah avait connaissance des objectifs criminels poursuivis par son frère ». Cette relaxe partielle avait provoqué la colère des familles des victimes.
Samuel Sandler, dont le fils et deux petits-fils ont été tués par Mohamed Merah devant Ozar Hatorah, leur école juive de Toulouse, le 19 mars 2012, se prépare donc difficilement à ce nouveau procès et à un face à face avec la famille Merah. « Dans l'angoisse, c'est évident. Vous avez raison de dire la "famille Merah" - ça m'a échappé, en général, je ne prononce pas ce nom-là - parce que c'est vraiment la famille. On a vu la mère, je l'ai vraiment très mal supporté. je ne souhaitais pas la rencontrer, j'avais demandé à ce qu'on me prévienne et personne ne m'a prévenu. Elle est complice, comme ses fils. »
Les parties civiles seront très nombreuses à l'audience, ce qui pour l'instant est plutôt rare dans les procès terroristes jugés en France, pointe Antoine Mégie, enseignant chercheur à l'Université de Rouen : « C'est un procès qui est à la fois en marge parce qu'il y a toute cette dimension médiatique avec notamment des avocats qui prennent une place assez importante ; il y a aussi des victimes, et leur place est assez forte et c'est vrai que les procès qui ont lieu depuis 2015 en France concernent des personnes qu'on qualifie de "revenants" ou de "revenantes", donc il n'y a pas de victimes directes de ces départs ou de ces tentatives de départ. Donc, le procès qui va se passer en deuxième instance revêt une dimension particulière. Il faut bien comprendre qu'il va s'inscrire dans une réalité judiciaire qui va produire des procès qui vont être beaucoup plus importants, notamment dans le nombre de parties civiles - on pense à Charlie Hebdo, mais aussi au procès suite au 13 novembre 2015, et puis à Nice. Donc, cela préfigure d'une expérience judiciaire que la France va connaître dans les cinq ou dix prochaines années. »
Lors de ce procès de seconde instance, Fettah Malki sera également rejugé. En première instance, il avait été condamné à 14 ans de prison pour avoir vendu à Mohamed Merah l'arme ayant servi à tuer des militaires, des enfants et un enseignant juifs, alors qu'il connaissait sa radicalisation jihadiste.