Wiki-Quellcode von NATS Setup

Version 10.1 von Daniel Herrmann am 2025/09/20 09:59

Zeige letzte Bearbeiter
1 NATS ist eine zentrale Komponente der Architektur. NATS ist ein verteiltes Messaging-System, welches häufig für Microservices verwendet wird.
2
3 Unser Backend (oder auch andere Systeme) publizieren Events in NATS, die dann beispielsweise in N8n über ein Trigger konsumiert werden.
4
5 = Grundlagen =
6
7 == Übersicht ==
8
9 NATS kann grob in zwei Varianten unterteilt werden, **NATS Core** und **NATS JetStream**.
10
11 NATS Core ist das Grundsystem von NATS und bietet schnelle, leichtgewichtige Kommunikationsmöglichkeiten wie Publish/Subscribe, Request/Reply und Queueing. Dabei werden Nachrichten in der Regel nur flüchtig übertragen: Geht ein Empfänger offline, gehen die Nachrichten verloren. Der Fokus liegt auf extrem niedriger Latenz und hoher Performance.
12
13 NATS JetStream erweitert NATS Core um Funktionen wie **Persistenz, wiederholtes Lesen von Nachrichten und zeitversetzte Verarbeitung**. Nachrichten können gespeichert werden, was eine zuverlässige Zustellung, Wiederholungen und komplexe Workflows ermöglicht. JetStream ist damit besonders geeignet für Szenarien, in denen eine dauerhafte Verarbeitung oder Event-Sourcing erforderlich ist, während Core eher für schnelle, vorübergehende Nachrichtenübertragung optimiert ist.
14
15 == Accounts ==
16
17 (% style="color:var(--ds-text,#333333); text-decoration:none" %)Accounts sind eine Möglichkeit, Mandanten oder Anwendungen innerhalb eines Clusters oder NATS Servers voneinander abzugrenzen. Jeder Account besitzt einen eigenen Namespace für Subjekte, verwaltet seine Benutzer und deren Berechtigungen und bietet so eine klare Trennung zwischen unterschiedlichen Workloads. Gleichzeitig lassen sich über Exports und Imports bestimmte Subjekte gezielt mit anderen Accounts teilen, sodass Kommunikation zwischen getrennten Bereichen möglich bleibt. Auf diese Weise stellen Accounts die Grundlage für Multi-Tenancy, Sicherheit und flexible Skalierung in NATS dar.
18
19 (% style="color:var(--ds-text,#333333); text-decoration:none" %)Wir verwenden zwei verschiedene Accounts:
20
21 |=(((
22 Account
23 )))|=(((
24 Berechtigungen
25 )))|=(((
26 Beschreibung
27 )))
28 |(((
29 SYS
30 )))|(((
31 SYSTEM Account
32 )))|(((
33 Wird für administrative Tätigkeiten wie beispielsweise Troubleshooting oder das Auslesen von Informationen verwendet
34 )))
35 |(((
36 MKSP
37 )))|(((
38 Regulärer Account
39 )))|(((
40 Regulärer Account für Daten
41 )))
42
43 Benutzer können jeweils nur einem Account zugeordnet werden.
44
45 == Authentifizierung ==
46
47 Die Kommunikation ist TLS verschlüsselt, es kommen die TLS Zertifikate aus [[HashiCorp KeyVault>>doc:xwiki:IN.IT Infrastruktur.Kubernetes Cluster.Hashicorp Vault.WebHome]] zum Einsatz. Diese werden dann einzelnen Accounts zugewiesen. Der NATS Server validiert das Zertifikat an Hand der Zertifikatskette und mapt dann die Zertifikatsinformationen zu einem User. Üblicherweise wird dabei ein SAN (Subject Alternative Name) in Form einer Mail-Adresse verwendet. Diese gibt es in unserem Fall nicht, sodass das Subject verwendet wird. Wichtig ist, dass das Subject in RFC2253 Form verwendet werden muss.
48
49 {{code language="shell"}}
50 $ openssl x509 -noout -text -nameopt RFC2253 -in backend.mksp-da.de.crt
51 Certificate:
52 Data:
53 ...
54 Subject: CN=backend.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE
55 {{/code}}
56
57 Diese Subject wird dann dem Account zugeordnet:
58
59 {{code}}
60 system_account: SYS
61 accounts: {
62 MKSP: {
63 jetstream: enabled
64 users: [
65 {
66 user: "CN=backend.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE"
67 },
68 {
69 user: "CN=n8n.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE"
70 },
71 {
72 user: "CN=js-admin.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE"
73 },
74 ]
75 }
76 SYS: {
77 users: [
78 {user: "CN=admin.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE"}
79 ]
80 }
81 }
82 {{/code}}
83
84 Da ein User nur einem Account zugeordnet werden kann, gibt es einen admin User für administrative Tätigkeiten sowie einen JetStream Admin User für die Account-Verwaltung.
85
86 == NATS Core mit Accounts ==
87
88 Damit die NATS Core Messages auch weiterhin funktionieren müssen publish und subscribe Berechtigungen vergeben werden. NATS wird neben dem Eventmanagement auch noch für die Task Queue mit Taskiq eingesetzt, hier werden zur Zeit noch Core Funktionalitäten verwendet. Daher muss die Berechtigung für den backend User erweitert werden:
89
90 {{code}}
91 accounts: {
92 MKSP: {
93 users: [
94 {
95 user: "CN=backend.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE"
96 permissions: {
97 publish: [">"]
98 subscribe: [">"]
99 }
100 },
101 ...
102 {{/code}}
103
104 Wichtig sind hier die zusätzlichen Permissions, die den Zugriff auf Core Events regeln.
105
106 == JetStream Konfiguration ==
107
108 In unserem Fall ist Persistenz auch bei einem zeitweisen Ausfall der Internetverbindung im Makerspace notwendig, sodass wir JetStream mit Message Retention verwenden. Dabei müssen die wichtigen Komponenten vorab angelegt werden.
109
110 === NATS CLI konfigurieren ===
111
112 Zur Administration bietet sich die Verwendung der [[NATS CLI >>url:https://github.com/nats-io/natscli||shape="rect"]]an. Diese muss einmalig eingerichtet werden, dafür sind die entsprechenden Zertifikatsdateien notwendig. Wir legen zwei Kontexte an, einen für den Cluster Admin, einen für den JetStream Admin:
113
114 {{code language="shell"}}
115 nats context add mksp-sysadmin --server ds-hetzner.mksp-da.de:4222 --description "MKSP NATS SYS Admin" --tlscert /path/to/admin.mksp-da.de.crt --tlskey /path/to/admin.mksp-da.de.key --tlsca /path/to/mksp_root_x1_ca.crt
116
117 nats context add mksp-jsadmin --server ds-hetzner.mksp-da.de:4222 --description "MKSP NATS JetStream" --tlscert /path/to/jsadmin.mksp-da.de.crt --tlskey /path/to/jsadmin.mksp-da.de.key --tlsca /path/to/mksp_root_x1_ca.crt
118 {{/code}}
119
120 Anschließend wählen wir den richtigen Kontext aus, in diesem Fall den JetStream Admin Context:
121
122 {{code language="shell"}}
123 nats context select mksp-jsadmin
124 {{/code}}
125
126 === JetStream initialisieren ===
127
128 JetStream ist in so genannte **Streams** unterteilt, welche bestimmte **Subjects** in einem Stream zusammenfassen. Wir nutzen für alle Events einen gemeinsamen Präfix (mksp), sodass wir den Stream hierfür erstellen. Die NATS Dokumentation selbst beschreibt die Konzepte sehr gut:
129
130 * JetStream im Allgemeinen: [[https:~~/~~/docs.nats.io/nats-concepts/jetstream>>url:https://docs.nats.io/nats-concepts/jetstream||shape="rect"]]
131 * JetStream Streams: [[https:~~/~~/docs.nats.io/nats-concepts/jetstream/streams>>url:https://docs.nats.io/nats-concepts/jetstream/streams||shape="rect"]]
132
133 Wir legen nun also ein Stream namens **backend_events** an:
134
135 {{code language="shell"}}
136 nats stream add backend_events --subjects "mksp.>" --retention work --max-age 7d --storage file --defaults
137 {{/code}}
138
139 === JetStream Consumer ===
140
141 Consumer sind eine Auswahl / Ansicht von Teilen eines Streams. Details finden sich wieder in der NATS Dokumentation: [[https:~~/~~/docs.nats.io/nats-concepts/jetstream/consumers>>url:https://docs.nats.io/nats-concepts/jetstream/consumers||shape="rect"]]
142
143 Consumer können entweder persistent sein (dauerhaft, ein Client kann dann den bestehenden Consumer neben) oder flüchtig (ephemeral), in diesem Fall wird der Consumer beim Erstellen des Clients (beispielsweise durch N8n) angelegt. In der Regel werden Consumer durch einen Filter auf bestimmte Subjects beschränkt, diese dürfen sich nicht überschneiden. Da die NATS JavaScript Client Library (die von n8n verwendet wird) es leider nicht sinnvoll erlaubt, ephemeral Consumer anzulegen verwenden wir dauerhafte Consumer-Namen.
144
145 |=(((
146 Backend Event
147 )))|=(((
148 Consumer Name
149 )))|=(((
150 Schema
151 )))
152 |(((
153 {{code language="none"}}
154 mksp.backend.briefing.offer.cancelled
155 {{/code}}
156 )))|(((
157 backend_briefing_offer_cancelled
158 )))|(((
159 (% class="nc" %)##BriefingOfferEvent##
160 )))
161 |(((
162 {{code language="none"}}
163 mksp.backend.briefing.offer.created
164 {{/code}}
165 )))|(((
166 backend_briefing_offer_created
167 )))|(((
168 (% class="nc" %)##BriefingOfferEvent##
169 )))
170 |(((
171 (% class="s" %)##mksp.backend.briefing.offer.updated##
172 )))|(((
173 backend_briefing_offer_updated
174 )))|(((
175 (% class="nc" %)##BriefingOfferEvent##
176 )))
177 |(((
178 {{code language="none"}}
179 mksp.backend.briefing.created
180 {{/code}}
181 )))|(((
182 backend_briefing_created
183 )))|(((
184 (% class="n" %)##BriefingEvent##
185 )))
186 |(((
187 (% class="s" %)##mksp.backend.key.assigned##
188 )))|(((
189 backend_key_assigned
190 )))|(((
191 (% class="nc" %)##KeyEvent##
192 )))
193 |(((
194 (% class="s" %)##mksp.backend.key.unassigned##
195 )))|(((
196 backend_key_unassigned
197 )))|(((
198 (% class="nc" %)##KeyEvent##
199 )))
200 |(((
201 (% class="s" %)##mksp.backend.storage.reserved##
202 )))|(((
203 backend_storage_reserved
204 )))|(((
205 (% class="nc" %)##StorageSpaceEvent##
206 )))
207 |(((
208 (% class="s" %){{code language="none"}}mksp.backend.storage.released{{/code}}
209 )))|(((
210 backend_storage_released
211 )))|(((
212 (% class="nc" %)##StorageSpaceEvent##
213 )))
214 |(((
215 (% class="s" %){{code language="none"}}mksp.backend.storage.expired{{/code}}
216 )))|(((
217 backend_storage_expired
218 )))|(((
219 (% class="nc" %){{code language="none"}}StorageSpaceEvent{{/code}}
220 )))
221 |(((
222 (% class="s" %){{code language="none"}}mksp.backend.user.converted_to_member{{/code}}
223 )))|(((
224 backend_user_converted_to_member
225 )))|(((
226 (% class="nc" %){{code language="none"}}UserEvent{{/code}}
227 )))
228 |(((
229 (% class="s" %){{code language="none"}}mksp.backend.user.converted_to_guest{{/code}}
230 )))|(((
231 backend_user_converted_to_guest
232 )))|(((
233 (% class="nc" %){{code language="none"}}UserEvent{{/code}}
234 )))
235
236 Die Consumer können dann wie folgt angelegt werden:
237
238 {{code}}
239 $ nats consumer add backend_events <name> --pull --filter="<filter>" --defaults
240
241 # Beispiel
242 nats consumer add backend_events backend_briefing_offer_cancelled --pull --filter="mksp.backend.briefing.offer.cancelled" --defaults
243 nats consumer add backend_events backend_key_assigned --pull --filter="mksp.backend.key.assigned" --defaults
244 {{/code}}
245
246 = {{id name="NATSSetup-Troubleshooting"/}}Troubleshooting =
247
248 Man kann über die NATS CLI mit dem Server interagieren.
249
250 == {{id name="NATSSetup-JetStream"/}}JetStream ==
251
252 === {{id name="NATSSetup-Streams"/}}Streams ===
253
254 Man kann sich die vorhandenen Streams und die Anzahl der Nachrichten anschauen. Die Anzahl sollte üblicherweise 0 sein, wenn die Zahl höher ist, werden Events nicht richtig abgearbeitet.
255
256 {{code language="shell"}}
257 $ nats context select mksp-jsadmin
258 $ nats stream ls
259 ╭─────────────────────────────────────────────────────────────────────────────────────╮
260 │ Streams │
261 ├────────────────┬─────────────┬─────────────────────┬──────────┬──────┬──────────────┤
262 │ Name │ Description │ Created │ Messages │ Size │ Last Message │
263 ├────────────────┼─────────────┼─────────────────────┼──────────┼──────┼──────────────┤
264 │ backend_events │ │ 2025-09-08 08:36:19 │ 0 │ 0 B │ never │
265 ╰────────────────┴─────────────┴─────────────────────┴──────────┴──────┴──────────────╯
266 {{/code}}
267
268 Ebenso kann man sich - falls vorhandenen - die Nachrichten im Stream anzeigen lassen:
269
270 {{code language="shell"}}
271 $ nats context select mksp-jsadmin
272 $ nats stream view backend_events
273 [1] Subject: mksp.backend.storage.reserved Received: 2025-09-08 09:06:00
274
275 {"timestamp":"2025-09-08T09:06:00.062358","stora
276 {{/code}}
277
278 === {{id name="NATSSetup-Consumer"/}}Consumer ===
279
280 Die bestehenden Consumer kann man sich ebenfalls im Jetstream Context anzeigen lassen:
281
282 {{code language="json"}}
283 $ nats consumer ls backend_events                       
284 ╭──────────────────────────────────────────────────────────────────────────────────────────────────────────────────╮
285 │ Consumers │
286 ├──────────────────────────────────┬─────────────┬─────────────────────┬─────────────┬─────────────┬───────────────┤
287 │ Name │ Description │ Created │ Ack Pending │ Unprocessed │ Last Delivery │
288 ├──────────────────────────────────┼─────────────┼─────────────────────┼─────────────┼─────────────┼───────────────┤
289 │ backend_briefing_created │ │ 2025-09-10 08:30:12 │ 0 │ 12 │ never │
290 │ backend_briefing_offer_cancelled │ │ 2025-09-10 08:21:02 │ 0 │ 0 │ never │
291 │ backend_briefing_offer_created │ │ 2025-09-10 08:28:25 │ 0 │ 0 │ never │
292 │ backend_briefing_offer_updated │ │ 2025-09-10 08:29:19 │ 0 │ 0 │ never │
293 │ backend_key_assigned │ │ 2025-09-10 08:21:04 │ 0 │ 0 │ never │
294 ╰──────────────────────────────────┴─────────────┴─────────────────────┴─────────────┴─────────────┴───────────────╯
295 {{/code}}
296
297 In dieser Tabelle sieht man bereits die "unprocessed" Nachrichten. Ist diese Zahl größer als 0 s sieht also gut, wenn n8n die Nachrichten nicht korrekt verarbeitet. Man kann sich ebenfalls die Details eines Consumers anzeigen lassen:
298
299 {{code language="json"}}
300 $ nats consumer info backend_events backend_briefing_offer_cancelled
301
302 Information for Consumer backend_events > backend_briefing_offer_cancelled created 2025-09-09 22:53:26
303
304 Configuration:
305
306 Name: backend_briefing_offer_cancelled
307 Pull Mode: true
308 Filter Subject: mksp.backend.briefing.offer.cancelled
309 Deliver Policy: All
310 Ack Policy: Explicit
311 Ack Wait: 30.00s
312 Replay Policy: Instant
313 Max Ack Pending: 1,000
314 Max Waiting Pulls: 512
315
316 State:
317
318 Host Version: 2.11.8
319 Required API Level: 0 hosted at level 1
320 Last Delivered Message: Consumer sequence: 0 Stream sequence: 10
321 Acknowledgment Floor: Consumer sequence: 0 Stream sequence: 0
322 Outstanding Acks: 0 out of maximum 1,000
323 Redelivered Messages: 0
324 Unprocessed Messages: 0
325 Waiting Pulls: 1 of maximum 512
326 {{/code}}
327
328 Insbesondere die letzten beiden Zeilen sind wichtig:
329
330 * **Unprocessed Messages** sind Nachrichten, die noch nicht abgerufen wurden. Dies sollte immer 0 sein
331 * **Waiting Pulls**: die Anzahl der verbundenen Clients. Üblicherweise sollte das nur n8n sein, also immer 1.
332
333 == {{id name="NATSSetup-Server"/}}Server ==
334
335 Man kann sich ebenfalls die aktiven Verbindungen anzeigen:
336
337 {{code language="shell"}}
338 $ nats context select mksp-sysadmin
339 $ nats server report connections   
340
341 ╭─────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────╮
342 │ Top 6 Connections out of 6 by subs │
343 ├─────┬──────────────────────────┬──────────────┬─────────┬───────────────────┬─────────┬──────────┬─────────┬──────────┬──────────┬───────────┬──────┤
344 │ CID │ Name │ Server │ Cluster │ IP │ Account │ Uptime │ In Msgs │ Out Msgs │ In Bytes │ Out Bytes │ Subs │
345 ├─────┼──────────────────────────┼──────────────┼─────────┼───────────────────┼─────────┼──────────┼─────────┼──────────┼──────────┼───────────┼──────┤
346 │ 83 │ backend_kicker │ mksp-nats-01 │ │ 172.18.0.33:52808 │ MKSP │ 2h24m18s │ 0 │ 0 │ 0 B │ 0 B │ 0 │
347 │ 93 │ backend_scheduler │ mksp-nats-01 │ │ 172.18.0.29:47620 │ MKSP │ 2h23m23s │ 0 │ 0 │ 0 B │ 0 B │ 0 │
348 │ 82 │ backend_fastapi │ mksp-nats-01 │ │ 172.18.0.33:52798 │ MKSP │ 2h24m18s │ 1 │ 1 │ 345 B │ 838 B │ 1 │
349 │ 94 │ backend_worker │ mksp-nats-01 │ │ 172.18.0.37:53550 │ MKSP │ 2h23m23s │ 0 │ 0 │ 0 B │ 0 B │ 1 │
350 │ 95 │ backend_worker │ mksp-nats-01 │ │ 172.18.0.37:53554 │ MKSP │ 2h23m23s │ 0 │ 0 │ 0 B │ 0 B │ 1 │
351 │ 111 │ NATS CLI Version 0.2.4 │ mksp-nats-01 │ │ 10.1.253.1:50712 │ SYS │ 0s │ 2 │ 1 │ 210 B │ 944 B │ 1 │
352 ├─────┼──────────────────────────┼──────────────┼─────────┼───────────────────┼─────────┼──────────┼─────────┼──────────┼──────────┼───────────┼──────┤
353 │ │ Totals for 6 connections │ │ │ │ │ │ 3 │ 2 │ 555 B │ 1.7 KiB │ 4 │
354 ╰─────┴──────────────────────────┴──────────────┴─────────┴───────────────────┴─────────┴──────────┴─────────┴──────────┴──────────┴───────────┴──────╯
355
356 ╭──────────────────────────────────────╮
357 │ Connections per server │
358 ├──────────────┬─────────┬─────────────┤
359 │ Server │ Cluster │ Connections │
360 ├──────────────┼─────────┼─────────────┤
361 │ mksp-nats-01 │ │ 6 │
362 ╰──────────────┴─────────┴─────────────╯
363 {{/code}}
364
365 Der Name ist hierbei frei vergeben, in unserem Fall im Backend Code. Wir erwarten die folgenden Clients:
366
367 |=(% scope="col" %)(((
368 Client
369 )))|=(% scope="col" %)(((
370 Anzahl
371 )))|=(% scope="col" %)(((
372 Komponente
373 )))|=(% scope="col" %)(((
374 Art
375 )))|=(% scope="col" %)(((
376 Beschreibung
377 )))
378 |(((
379 backend_kicker
380 )))|(((
381 1
382 )))|(((
383 Taskiq
384 )))|(((
385 Core
386 )))|(((
387 Gibt dem Backend die Möglichkeit, asynchrone Tasks an das Taskiq backend zu delegieren
388 )))
389 |(((
390 backend_scheduler
391 )))|(((
392 1
393 )))|(((
394 Taskiq
395 )))|(((
396 Core
397 )))|(((
398 Komponente welches die regelmäßigen Jobs überwacht und triggert
399 )))
400 |(((
401 backend_fastapi
402 )))|(((
403 1
404 )))|(((
405 FastAPI
406 )))|(((
407 JetStream
408 )))|(((
409 Das Backend kann hiermit Events ausgeben, die dann von N8n abgearbeitet werden.
410 )))
411 |(((
412 backend_worker
413 )))|(((
414 2
415 )))|(((
416 Taskiq
417 )))|(((
418 Core
419 )))|(((
420 Worker für asynchrone Tasks
421 )))
422
423 Man kann sich ebenfalls die Subscriptions der jeweiligen Connections anschauen. Hierfür muss die Ausgabe auf JSON umgestellt werden:
424
425 {{code language="shell"}}
426 $ nats context select mksp-jsadmin
427 $ nats server report connections -j
428 [
429 {
430 "cid": 95,
431 "kind": "Client",
432 "type": "nats",
433 "ip": "172.18.0.37",
434 "port": 53554,
435 "start": "2025-09-08T13:35:37.398441269Z",
436 "last_activity": "2025-09-08T13:35:37.434868631Z",
437 "rtt": "479µs",
438 "uptime": "2h27m5s",
439 "idle": "2h27m5s",
440 "pending_bytes": 0,
441 "in_msgs": 0,
442 "out_msgs": 0,
443 "in_bytes": 0,
444 "out_bytes": 0,
445 "subscriptions": 1,
446 "name": "backend_worker",
447 "lang": "python3",
448 "version": "2.11.0",
449 "tls_version": "1.3",
450 "tls_cipher_suite": "TLS_AES_128_GCM_SHA256",
451 "tls_peer_certs": [
452 {
453 "subject": "CN=backend.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE",
454 "spki_sha256": "1c7826ac936267622a5bfec0359304e795a4fd552b4d76556d7fcbddf51f43fb",
455 "cert_sha256": "e25dd3084b13f5f3cb81ebb9291627bcd0a25ab51325f1cc627a2b758f03d1ca"
456 },
457 {
458 "subject": "CN=MKSP NATS Issuing CA,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE",
459 "spki_sha256": "af16c3490475a4ba65d273b7dae825622b4c1eeca5f3da808df14b3c298627a7",
460 "cert_sha256": "10ccebe5826128f50f7b007537fa8b832326d4bb14b1676588abac9a10bf7585"
461 }
462 ],
463 "authorized_user": "CN=backend.mksp-da.de,OU=Makerspace Darmstadt IT,O=Makerspace Darmstadt e.V.,C=DE",
464 "account": "MKSP",
465 "subscriptions_list": [
466 "taskiq_tasks"
467 ],
468 "name_tag": "MKSP",
469 "server": {
470 "name": "mksp-nats-01",
471 "host": "0.0.0.0",
472 "id": "NDH7ZAPFJ5EORJKZDJGOUNN3NDMTLWR6V7BGBOYUIG5UE7VEIK76F6WH",
473 "ver": "2.11.6",
474 "jetstream": true,
475 "flags": 7,
476 "seq": 2937,
477 "time": "2025-09-08T16:02:42.888686229Z"
478 }
479 },
480 ]
481 {{/code}}
482
483 \\