Modifications pour le document Mettre à jour pgsql sur pgsql-prod

Modifié par Gaetan RETEL le 2025/10/05 00:22

Depuis la version 5.1
modifié par Gaetan RETEL
sur 2025/03/12 04:21
Commentaire de modification : Il n'y a aucun commentaire pour cette version
À la version 15.1
modifié par Gaetan RETEL
sur 2025/03/12 14:19
Commentaire de modification : Il n'y a aucun commentaire pour cette version

Résumé

Détails

Propriétés de la Page
Contenu
... ... @@ -2,9 +2,14 @@
2 2  
3 3  Les commandes listées ci dessous seront celles de la version que j'ai installée.
4 4  
5 +{{toc/}}
5 5  
7 +
8 +
9 +
6 6  == Précautions à prendre ==
7 7  
12 +
8 8  Avant de toucher à la BDD on va évidemment faire une sauvegarde, pour pouvoir remettre en état en cas de pépin. Pour cela on peut utiliser {{code language="none"}}pg_dumpall{{/code}}. Il va falloir faire deux sauvegarde, une avec le flag {{code language="none"}}--globals-only{{/code}} pour récupérer les users/roles/etc, et une autre pour récupérer les BDDs.
9 9  
10 10  {{warning}}
... ... @@ -39,21 +39,16 @@
39 39  )))
40 40  )))
41 41  
47 +{{info}}
48 +Vous pouvez voir s'il est nécessaire d'installer de nouveaux packages pour la version que vous voulez installer en tapant {{code language="none"}}dpkg -l | grep postgresql{{/code}}
49 +{{/info}}
42 42  
43 -(% class="wikigeneratedid" %)
44 -Pour vérifier les packages installés, utilisez la commande
45 45  
46 -(% class="box" %)
47 -(((
48 -(% class="box" %)
49 -(((
50 -dpkg -l | grep postgresql
51 -)))
52 -)))
53 53  
54 54  
55 55  == Préparation des nouveaux clusters ==
56 56  
56 +
57 57  pour créer les nouveaux clusters, il faut commencer par regarder comment sont faits les anciens, pour qu'ils soient compatibles entre eux. L'encodage et le collationnement/type de caractères doivent être identiques.
58 58  
59 59  {{info}}
... ... @@ -70,9 +70,9 @@
70 70  )))
71 71  )))
72 72  
73 -Si comme moi, vous n'avez jamais touché à postgreSQL, la commande pour sortir du terminal est \q
73 +Si vous n'avez jamais touché à postgreSQL, la commande pour sortir du terminal est {{code language="none"}}\q{{/code}}
74 74  
75 -Dans mon cas, l'encodage est UTF-8 et le reste en C. Pour créer un cluster "main" utilisant pgsql 14 la commande est donc
75 +Ici, l'encodage est UTF-8 et le reste en C. Pour créer un cluster "main" utilisant pgsql 14 la commande est donc
76 76  
77 77  (% class="box" %)
78 78  (((
... ... @@ -83,6 +83,7 @@
83 83  )))
84 84  
85 85  
86 +
86 86  On va utiliser la commande {{code language="none"}}pg_upgrade{{/code}} pour migrer les données, il va falloir utiliser pas mal de flags avec des arguments, n'oubliez pas de [[lire la doc>>https://www.postgresql.org/docs/15/pgupgrade.html]].
87 87  
88 88  
... ... @@ -96,7 +96,7 @@
96 96  )))
97 97  )))
98 98  
99 -vous pouvez vous assurer avec la commande suivante que tout est bien à l'arrêt, sinon {{code language="none"}}pg_upgrade{{/code}}  retournera des erreurs :
100 +Vous pouvez vous assurer avec la commande suivante que tout est bien à l'arrêt, sinon {{code language="none"}}pg_upgrade{{/code}}  retournera des erreurs :
100 100  
101 101  (% class="box" %)
102 102  (((
... ... @@ -115,25 +115,11 @@
115 115  
116 116  Si vous voyez une ligne avec une tâche lancée par postgres, il faut l'arrêter. Voilà quelques commandes utiles :
117 117  
118 -La commande suivante permet de stopper (ou de démarrer avec {{code language="none"}}start{{/code}}) un cluster spécifique d'une version pgsql donnée :
119 119  
120 -(% class="box" %)
121 -(((
122 -(% class="box" %)
123 -(((
124 -pg_ctlcluster 13 main stop
125 -)))
126 -)))
120 +La commande suivante permet de stopper un cluster spécifique d'une version pgsql donnée : {{code language="none"}}pg_ctlcluster <version> <cluster_name> stop{{/code}}  (% id="cke_bm_63735S" style="display:none" %) (%%)(ou de démarrer avec {{code language="none"}}start{{/code}})
127 127  
128 -Si pour une raison qui vous échappe il y a toujours des tâches liés à postgres/des clusters qui tournent, vous pouvez forcer leur arrêt avec cette commande en indiquant leur PID (dans l'exemple avec root donné plus tôt, le PID est 5860)
122 +S'il y a toujours des tâches liés à postgres/des clusters qui tournent, vous pouvez forcer leur arrêt avec cette commande en indiquant leur PID (dans l'exemple avec root plus tôt, le PID est 5860) : {{code language="none"}}kill -9 <PID>{{/code}}
129 129  
130 -(% class="box" %)
131 -(((
132 -(% class="box" %)
133 -(((
134 -kill -9 <PID>
135 -)))
136 -)))
137 137  
138 138  
139 139  Une fois les processus stoppés, on peut lancer la commande.
... ... @@ -141,7 +141,7 @@
141 141  Pour passer de la version x à la version y, il faut le path des dossiers des exécutables et de data des version x et y, ainsi que le path du fichier .conf de postgres de chaque version.
142 142  
143 143  
144 -Avant de lancer la commande, on notera l'existence du flag ~-~-check, dont on ne manquera pas de se servir.
131 +Avant de lancer la commande, on notera l'existence du flag {{code language="none"}}--check{{/code}}, dont on ne manquera pas de se servir.
145 145  
146 146  Pour la version 13 à 14, il faut donc taper pour lancer les vérifications :
147 147  
... ... @@ -159,13 +159,14 @@
159 159  )))
160 160  
161 161  
149 +
150 +
162 162  == Lancer l'upgrade ==
163 163  
164 -Si la commande avec le flag ~-~-check à réussi, il n'y a plus qu'à la lancer sans. Pour autant, une erreur peut toujours survenir.
165 165  
166 -Vérifiez une nouvelle fois que des tâches n'ont pas été redémarrées comme expliqué dans la précédente section.
154 +Si la commande avec le flag {{code language="none"}}--check{{/code}} à réussi, il n'y a plus qu'à la lancer sans. Pour autant, une erreur peut toujours survenir. Vérifiez une nouvelle fois que des tâches n'ont pas été redémarrées comme expliqué dans la précédente section.
167 167  
168 -Assurez-vous qu'il y ait suffisamment de place sur la VM, toujours avec {{code language="none"}}df -h{{/code}}, dans mon cas les nouveaux clusters ont pris ~~5G.
156 +Assurez-vous qu'il y ait suffisamment de place sur la VM, toujours avec {{code language="none"}}df -h{{/code}}, les nouveaux clusters de la version 14 ont pris ~~5G.
169 169  
170 170  {{error}}
171 171  Pour la suite, lisez bien TOUTES les infos avant de vous lancer dans les commandes des différents clusters, au risque de perdre des informations.
... ... @@ -182,7 +182,7 @@
182 182  Il va donc falloir upgrader chaque cluster comme fait ci dessus, en remplaçant évidemment par le nom des clusters qui vous concernent.
183 183  
184 184  {{warning}}
185 -Attention, à la fin de l'upgrade d'un cluster, des fichiers vont être générés dans /var/lib/postgresql, comme vous en informera la sortie de la commande.
173 +Attention, à la fin de l'upgrade d'un cluster, des fichiers vont être générés dans /var/lib/postgresql/, comme vous en informera la sortie de la commande.
186 186  Si vous lancez l'upgrade de plusieurs clusters d'affilé, les fichiers du 2è clusters écraseront ceux du premier. Veillez à les récupérer avant, et à noter quel fichier correspond à quel cluster.
187 187  {{/warning}}
188 188  
... ... @@ -191,11 +191,15 @@
191 191  {{/error}}
192 192  
193 193  
182 +
183 +
194 194  == Mise en place des nouveaux clusters ==
195 195  
186 +
187 +
196 196  Une fois les nouveaux clusters terminés et les données migrées, il va falloir terminer la configuration.
197 197  
198 -Ouvrez le fichier de configuration {{code language="none"}}pg_hba.conf{{/code}} de l'ancienne version, situé pour moi dans {{code language="none"}}/etc/postgresql/13/<cluster_name>/{{/code}}. À la fin du fichier, copiez la partie sur le login pour les BDDs, dont le début est indiqué par la ligne
190 +Ouvrez le fichier de configuration {{code language="none"}}pg_hba.conf{{/code}} de l'ancienne version, situé dans {{code language="none"}}/etc/postgresql/<old_version>/<cluster_name>/{{/code}}. À la fin du fichier, copiez la partie sur le login pour les BDDs, dont le début est indiqué par la ligne
199 199  
200 200  (% class="box" %)
201 201  (((
... ... @@ -202,7 +202,7 @@
202 202  # Database administrative login by Unix domain socket
203 203  )))
204 204  
205 -Collez ces informations au même endroit dans le fichier de la nouvelle version, {{code language="none"}}/etc/postgresql/14/<cluster_name>/pg_hba.conf{{/code}}.
197 +Collez ces informations au même endroit dans le fichier de la nouvelle version, {{code language="none"}}/etc/postgresql/<new_version>/<cluster_name>/pg_hba.conf{{/code}}.
206 206  
207 207  {{warning}}
208 208  N'oubliez pas de faire cette opérations pour chaque cluster
... ... @@ -209,15 +209,17 @@
209 209  {{/warning}}
210 210  
211 211  
212 -Si vous souhaitez garder les anciens clusters pour l'instant en cas de besoin, attribuez leurs des ports non utilisés. Parametrez les ports de nouveaux clusters pour qu'il correspondent aux ports des anciens, sinon les services utilisant pgsql-prod ne pourront plus se connecter à leur BDD.
213 213  
214 -Si vous souhaitez supprimer les anciens clusters, vous pouvez maintenant le faire en exécutant les fichiers {{code language="none"}}delete_old_cluster.sh{{/code}} qui ont été générés par {{code language="none"}}pg_upgrade{{/code}}. Ils ne contiennent que la commande {{code language="none"}}rm -rf '/var/lib/postgresql/<version>/<cluster_name>'{{/code}}.
205 +Si vous souhaitez garder les anciens clusters pour l'instant en cas de besoin, attribuez leurs des ports non utilisés. Paramétrez les ports de nouveaux clusters pour qu'il correspondent aux ports des anciens, sinon les services utilisant pgsql-prod ne pourront plus se connecter à leur BDD.
215 215  
207 +Si vous souhaitez supprimer les anciens clusters, vous pouvez maintenant le faire en exécutant les fichiers {{code language="none"}}delete_old_cluster.sh{{/code}} qui ont été générés par {{code language="none"}}pg_upgrade{{/code}}. Ils ne contiennent d'ailleurs que la commande {{code language="none"}}rm -rf '/var/lib/postgresql/<version>/<cluster_name>'{{/code}}.
216 216  
217 -Ouvrez ensuite le fichier {{code language="none"}}/etc/postgresql/14/<cluster_name>/postgresql.conf{{/code}} de la nouvelle version. Il faut configurer les ports des clusters, et autoriser les connexions.
218 218  
219 -Dans mon cas, le cluster main est au 5432 et le gitlab au 5433, donc dans {{code language="none"}}/etc/postgresql/14/gitlab/postgresql.conf{{/code}} je cherche et modifie la ligne :
220 220  
211 +Ouvrez ensuite le fichier {{code language="none"}}/etc/postgresql/<new_version>/<cluster_name>/postgresql.conf{{/code}} de la nouvelle version. Il faut configurer les ports des clusters, et autoriser les connexions.
212 +
213 +Dans ce cas, le cluster main est au 5432 et le gitlab au 5433, donc dans {{code language="none"}}/etc/postgresql/<new_version>/gitlab/postgresql.conf{{/code}} je cherche et modifie la ligne :
214 +
221 221  (% class="box" %)
222 222  (((
223 223  port = 5433
... ... @@ -235,8 +235,12 @@
235 235  {{/warning}}
236 236  
237 237  
232 +
233 +
238 238  == Mises à jour et optimisations ==
239 239  
236 +
237 +
240 240  Un fichier {{code language="none"}}update_extensions.sql{{/code}} a été généré par chaque commande {{code language="none"}}pg_upgrade{{/code}} lancée, on va maintenant pouvoir l'exécuter, ou lancer les commandes à la main. Pourquoi à la main ? Car de toute façon il est également fortement conseillé de ré-indexer les différentes BDDs de chaque clusters, ce qui demande d'accéder à toute les BDDs. Si l'envie vous prend de créer un script et automatiser ça, faites-vous plaisir.
241 241  
242 242  Il va donc falloir se rendre dans chaque cluster :
... ... @@ -261,7 +261,7 @@
261 261  )))
262 262  )))
263 263  
264 -Si pour ce cluster le fichier {{code language="none"}}update_extensions.sql{{/code}} indiquait une mise à jour d'extension, on peut en même temps copier coller la commande qui pourrait par exemple être :
262 +Si pour ce cluster le fichier {{code language="none"}}update_extensions.sql{{/code}} généré par {{code language="none"}}pg_upgrade{{/code}} pour ce cluster indiquait une mise à jour d'extension, on peut en même temps copier coller la commande qui pourrait par exemple être :
265 265  
266 266  (% class="box" %)
267 267  (((
... ... @@ -269,8 +269,12 @@
269 269  )))
270 270  
271 271  
270 +
271 +
272 272  == Redémarrer postgreSQL ==
273 273  
274 +
275 +
274 274  Une fois tout cela fait, il ne reste plus qu'à redémarrer postgreSQL :
275 275  
276 276  (% class="box" %)
... ... @@ -283,32 +283,19 @@
283 283  
284 284  On peut ensuite vérifier avec la commande {{code language="none"}}pg_lsclusters{{/code}} que les deux nouveaux clusters sont opérationnels.
285 285  
286 -Une commande utile pour le débogage est
287 287  
288 -(% class="box" %)
289 -(((
290 -(% class="box" %)
291 -(((
292 -lsof -i
293 -)))
294 -)))
295 295  
296 -Cette commande permet d'afficher les connexions actuelles. Il devrait y avoir parmi les résultats quelque chose du genre :
290 +Une commande utile pour le débogage est {{code language="none"}}lsof -i{{/code}}. Cette commande permet d'afficher les connexions actuelles. Il devrait y avoir parmi les résultats quelque chose du genre :
297 297  
298 298  (% class="box" %)
299 299  (((
300 -postgres  220900 postgres    5u  IPv4 4457404      0t0  TCP *:postgresql (LISTEN)
294 +postgres  220900 postgres    5u  IPv4 4457404      0t0  TCP *:postgresql (LISTEN)  # pour le port par défaut (5432) de postgres
301 301  postgres  220900 postgres    6u  IPv6 4457405      0t0  TCP *:postgresql (LISTEN)
302 302  
303 -postgres  220901 postgres    5u  IPv4 4457515      0t0  TCP *:5433 (LISTEN)
297 +postgres  220901 postgres    5u  IPv4 4457515      0t0  TCP *:5433 (LISTEN)  # pour le cluster gitlab au 5433
304 304  postgres  220901 postgres    6u  IPv6 4457516      0t0  TCP *:5433 (LISTEN)
305 -)))
306 306  
307 -et également les machines et VM connectés, par exemple
308 -
309 -(% class="box" %)
310 -(((
311 -postgres  414816 postgres    9u  IPv4 7792005      0t0  TCP pgsql-prod.prod.infra.atilla.org->gitlab-prod.prod.infra.atilla.org (ESTABLISHED)
300 +postgres  414816 postgres    9u  IPv4 7792005      0t0  TCP pgsql-prod.prod.infra.atilla.org->gitlab-prod.prod.infra.atilla.org (ESTABLISHED)  # pour les machines et VM connectés, exemple avec le gitlab
312 312  )))
313 313  
314 314  {{success}}
... ... @@ -316,7 +316,7 @@
316 316  {{/success}}
317 317  
318 318  {{info}}
319 -Dans le cas de ce wiki, il y a eu des problèmes avec la macro children. Après un redémarrage de tomcat9 sur xwiki-prod et une mise à jour via une connexion avec le compte défaut de superadmin, le problème s'est résolu. Impossible de savoir laquelle des deux actions a résolu ledit problème, elles ont été faite en même temps.
308 +Dans le cas de ce wiki, il y a eu des problèmes avec la macro children après passage sur pgsql 14. Après un redémarrage de tomcat9 sur xwiki-prod et une mise à jour via une connexion avec le compte admin (cf le teampass), le problème s'est résolu. Impossible de savoir laquelle des deux actions a résolu ledit problème, elles ont été faite en même temps.
320 320  {{/info}}
321 321  
322 322  (% class="wikigeneratedid" %)