[Freifunk-Bonn] Bonn7 zickt rum

Mo Dez 19 13:16:37 CET 2022

Noch etwas was hier komisch ist: Wenn ich eine öffentliche IP eines Knotens von einem anderen Knoten aus trace, läuft er in nem Loop:

traceroute to 2a03:2260:118:1:2e3a:fdff:fe1e:b361 (2a03:2260:118:1:2e3a:fdff:fe1e:b361), 30 hops max, 72 byte packets

 1  2a03:2260:118:63::10 (2a03:2260:118:63::10)  11.908 ms  12.450 ms  12.211 ms

 2  fdd4:5d18:b5dd:fc00::4 (fdd4:5d18:b5dd:fc00::4)  12.149 ms  11.179 ms  13.160 ms

 3  fdd3:5d18:b5dd:fc00::5 (fdd3:5d18:b5dd:fc00::5)  21.143 ms  22.544 ms  21.931 ms

 4  fdd3:5d18:b5dd:fc00::4 (fdd3:5d18:b5dd:fc00::4)  22.168 ms  23.954 ms  21.381 ms

 5  fdd3:5d18:b5dd:fc00::5 (fdd3:5d18:b5dd:fc00::5)  31.914 ms  31.232 ms  31.929 ms

 6  fdd3:5d18:b5dd:fc00::4 (fdd3:5d18:b5dd:fc00::4)  32.126 ms  *  31.248 ms

 7  fdd3:5d18:b5dd:fc00::5 (fdd3:5d18:b5dd:fc00::5)  40.292 ms  43.564 ms  40.199 ms

 8  fdd3:5d18:b5dd:fc00::4 (fdd3:5d18:b5dd:fc00::4)  40.967 ms  39.731 ms  43.138 ms

 9  fdd3:5d18:b5dd:fc00::5 (fdd3:5d18:b5dd:fc00::5)  52.448 ms  50.359 ms  50.705 ms

10  fdd3:5d18:b5dd:fc00::4 (fdd3:5d18:b5dd:fc00::4)  50.113 ms  49.393 ms  50.794 ms

11  fdd3:5d18:b5dd:fc00::5 (fdd3:5d18:b5dd:fc00::5)  59.184 ms  60.771 ms  59.569 ms

Von: Freifunk-Bonn <freifunk-bonn-bounces at lists.kbu.freifunk.net> im Auftrag von Julian Zielke <freifunk at databunker.eu>
Antworten an: <freifunk-bonn at lists.kbu.freifunk.net>
Datum: Montag, 19. Dezember 2022 um 12:31
An: <freifunk-bonn at lists.kbu.freifunk.net>
Betreff: Re: [Freifunk-Bonn] Bonn7 zickt rum

OK ich habe eine Lösung ad-hoc gefunden und auf Bonn 1 getestet. Der nginx hat eine Art rate-limit funktion. Damit kann man die Anfragen an wireguard.php puffern und pro Sekunde einen Request durchlassen. Das klappt wunderbar.

Gruß,

Julian

Von: Freifunk-Bonn <freifunk-bonn-bounces at lists.kbu.freifunk.net> im Auftrag von Julian Zielke <freifunk at databunker.eu>
Antworten an: <freifunk-bonn at lists.kbu.freifunk.net>
Datum: Montag, 19. Dezember 2022 um 10:42
An: <freifunk-bonn at lists.kbu.freifunk.net>
Betreff: Re: [Freifunk-Bonn] Bonn7 zickt rum

Noch eine Ergänzung:

Bei extrem vielen, gleichzeitigen Anfragen, vergibt das PHP-Script die gleiche, interne Peering-IP doppelt, weil in dieser Zeit nicht pro Anfrage schnell genug die IP von Client X auf der Zuweisungsliste von Wireguard landet.

Dies führ dazu das zwei Clients die gleiche IP bekommen. Wireguard selbst interessiert sich nicht dafür, da dort nur die Peering-Keys relevant sind. Jetzt ist die Frage ob, wenn ein Client mit dem Verbindungscheck-Script versucht eine doppelte IP zu pingen, was dann passiert. Eventuell liegt dort der Hund begraben. Ich konnte dem entgegenwirken, indem ich einen Random-Wait zwischen 5 und 25 Sekunden überall bei der IP-Vergabe gesetzt habe. Das schafft ein wenig Entropie. Ich habe keine Ahnung von PHP. Wer da eine Art Lock-Mechanismus reinbauen kann, darf sich dem gerne widmen. Mir fehlt dafür die Zeit…

Gruß,

Julian

Von: Freifunk-Bonn <freifunk-bonn-bounces at lists.kbu.freifunk.net> im Auftrag von Julian Zielke <freifunk at databunker.eu>
Antworten an: <freifunk-bonn at lists.kbu.freifunk.net>
Datum: Montag, 19. Dezember 2022 um 10:16
An: <freifunk-bonn at lists.kbu.freifunk.net>
Betreff: Re: [Freifunk-Bonn] Bonn7 zickt rum

Moin,

so, hier eine kurze Zusammenfassung was den bisherigen Stand meiner Problemanalyse betrifft:

Bei einem Neustart der Supernodes wird der PHP-Interpreter mit Anfragen an die Wireguard IP-Zuweisung geflutet
Der Interpreter läuft überall auf Version 7.4, nutzt aber auf älteren Systemen die 7.3 Config (ist wohl aus einem apt-Update heraus entstanden)
Wir haben die Ressourcenallokation in allen Interpretern angehoben, damit die IP-Zuweisung nicht klemmt bzw. in einen Timeout läuft
Der ntp-Daemon auf Bonn 7 hat die gre-Interfaces gelöscht, weil er sich nicht daran binden konnte. Ich habe daher überall die Konfig angepasst, dass er die Finger davon lässt.

Damit ist das Problem, welches bei einem Massenneustart des FFKBU-Netztes entsteht, weitestgehend gebannt. Was nach wie vor offen ist, ist das einzelne Nodes sich trotzdem erst durch einen Routerneustart verbinden. Der Verbindungscheck ist also noch nicht „kugelsichert“. Ich kann hier keine weiteren Analysen durchführen, da ich keinen Zugriff auf einen Router mit diesem Phänomen habe.

Die Wielandstraße ist nach einem Routerneustart wieder online. Bei der LWK warte ich noch auf den Hausmeister.

Gruß,

Julian

Von: Freifunk-Bonn <freifunk-bonn-bounces at lists.kbu.freifunk.net> im Auftrag von Julian Zielke <freifunk at databunker.eu>
Antworten an: <freifunk-bonn at lists.kbu.freifunk.net>
Datum: Montag, 19. Dezember 2022 um 08:46
An: <freifunk-bonn at lists.kbu.freifunk.net>
Betreff: Re: [Freifunk-Bonn] Bonn7 zickt rum

Ich schreibe nachher mal eine Zusammenfassung. Es gab wohl nen fiesen Cornercase, welcher bei den supernodes an verschiedenen Stellen für Probleme gesorgt hat. 

Julian 

Von: Freifunk-Bonn <freifunk-bonn-bounces at lists.kbu.freifunk.net> im Auftrag von edgar.soldin at web.de <edgar.soldin at web.de>
Gesendet: Sonntag, Dezember 18, 2022 1:57 PM
An: freifunk-bonn at lists.kbu.freifunk.net <freifunk-bonn at lists.kbu.freifunk.net>
Betreff: Re: [Freifunk-Bonn] Bonn7 zickt rum

hmm,

meiner Beobachtung nach sind die Knoten wohl noch dööfer als nur "strunzdoof". will sagen, das mein Knoten einfach offline ging und blieb und nur durch "An/Aus" wieder aktiviert werden konnte. hängt leider im Gastnetz der Fritzbox, deshalb konnte ich nicht draufschaun.
Netzwerk trennen, Ethernet rein/raus, hat jedenfalls auch nichts geholfen, da schien irgendwas zu hängen.

..schösono ede

On 17.12.2022 07:26, johnny.bee at gmx.de wrote:
> Die Router sind strunzdoof und probieren den Reconnect (inkl. Speedtest
> etc...) solange, bis eine Verbindung steht, jede Minute.
>
>
> Am 16.12.22 um 21:23 schrieb Julian Zielke:
>> Was ich mich frage ist: Berappeln sich die Knoten alle von selbst oder geben die irgendwann nach mehreren, gescheiterten Wireguard-Versuchen auf?
>>
>> - Julian
>>
>> Am 16.12.22, 20:51 schrieb "Freifunk-Bonn im Auftrag von Julian Zielke" <freifunk-bonn-bounces at lists.kbu.freifunk.net <mailto:freifunk-bonn-bounces at lists.kbu.freifunk.net> im Auftrag von freifunk at databunker.eu <mailto:freifunk at databunker.eu>>:
>>
>>
>> Hi,
>>
>>
>> danke für deine umfangreicher Analyse. Wir konnten vor ca. einer Stunde ein Problem beheben, nämlich die Zuteilung von IPs für Wireguard via Script. Da lief auf den Supernodes der PHP-Interpreter Amok.
>> Mal abwarten wie es jetzt läuft...
>>
>>
>> Gruß,
>> Julian
>>
>>
>> Am 16.12.22, 20:02 schrieb "Freifunk-Bonn im Auftrag von Nunatak" <freifunk-bonn-bounces at lists.kbu.freifunk.net <mailto:freifunk-bonn-bounces at lists.kbu.freifunk.net> <mailto:freifunk-bonn-bounces at lists.kbu.freifunknet <mailto:freifunk-bonn-bounces at lists.kbu.freifunk.net>> im Auftrag von nunatak at mailbox.org <mailto:nunatak at mailbox.org> <mailto:nunatak at mailbox.org <mailto:nunatak at mailbox.org>>>:
>>
>>
>>
>>
>> Hi,
>>
>>
>>
>>
>> die Freifunk-Gateways suchen sich via
>>
>>
>>
>>
>> /lib/gluon/gluon-mesh-wireguard/checkuplink
>>
>>
>>
>>
>> den Supernode mit bestem Leistungsverhältnis (Anzahl
>> wiregard-Verbindungen relativ zur Serverleistung, die in einer Datei
>> speed.txt festgehalten ist) als Zielsystem aus. Das hatte mein Router
>> ebenfalls gemacht, mit dem Ergebnis: Offline.
>>
>>
>>
>>
>> Also nicht nur SSID _offline, sondern wirklich nur lokales Netz
>> (fe80::..) ohne weitere IPs (was ich via Network-Manager auf IPv6 -->
>> Link-Local eingestelt hatte, damit das Meckern wegen fehlender IP beim
>> DHCP-Versuch aufhörte).
>>
>>
>>
>>
>>
>>
>>
>>
>> An meinem Freifunk-Uplink konnte ich (da lokales WLAN geht) unter
>> /etc/config/wireguard
>> den bonn7 auskommentieren, dann klappte es wieder (via bonn6).
>>
>>
>>
>>
>> Da die Flüchtlingsheime Chlodwigplatz und Siegburgestr. sich beide
>> bonn7 ausgewählt hatten und dort seit Stunden verbleiben, haben ich eben
>> die Datei speed.txt von ursprünglich
>>
>>
>>
>>
>> root at Bonn7:/var/www/html# cat speed.txt
>> 500
>>
>>
>>
>>
>> eben angepasst:
>> root at Bonn7:/var/www/html# cat speedtxt
>> 10
>>
>>
>>
>>
>>
>>
>>
>>
>> Weniger geht auch noch D.h. bonn7 gewinnt bei der nächsten Auwahlrunde
>> nicht mehr.
>>
>>
>>
>>
>> Zum Testen können wir einzelne Gateways explizit auf bonn7 leiten.
>>
>>
>>
>>
>> Gruß,
>> Nunatak
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>
>>

-- 
_______________________________________________
Freifunk-Bonn mailing list
Freifunk-Bonn at lists.kbu.freifunk.net
https://lists.kbu.freifunk.net/cgi-bin/mailman/listinfo/freifunk-bonn

-- _______________________________________________ Freifunk-Bonn mailing list Freifunk-Bonn at lists.kbu.freifunk.net https://lists.kbu.freifunk.net/cgi-bin/mailman/listinfo/freifunk-bonn 

-- _______________________________________________ Freifunk-Bonn mailing list Freifunk-Bonn at lists.kbu.freifunk.net https://lists.kbu.freifunk.net/cgi-bin/mailman/listinfo/freifunk-bonn 

-- _______________________________________________ Freifunk-Bonn mailing list Freifunk-Bonn at lists.kbu.freifunk.net https://lists.kbu.freifunk.net/cgi-bin/mailman/listinfo/freifunk-bonn 

-- _______________________________________________ Freifunk-Bonn mailing list Freifunk-Bonn at lists.kbu.freifunk.net https://lists.kbu.freifunk.net/cgi-bin/mailman/listinfo/freifunk-bonn 

-------------- nächster Teil --------------
Ein Dateianhang mit HTML-Daten wurde abgetrennt...
URL: <http://lists.kbu.freifunk.net/pipermail/freifunk-bonn/attachments/20221219/ea88ef4a/attachment.htm>