Unterschiedliche LLMs mit nur einem einzigen Befehl lokal starten

hat die Möglichkeit geschaffen, mit einem einzigen Befehl Lage Langauge Models auf dem eigenen Computer auszuführen (sofern der Computer entsprechend ausgestattet ist). Es muss lediglich eine einzige Datei heruntergeladen und ausgeführt werden. Die Modelle sollten auf verschiedenen Betriebssystemen sowie CPU- und GPU-Architekturen laufen (ich habe es unter auf einer Intel-CPU ausprobiert). Es stehen mehrere Modelle zum Download bereit:

https://github.com/Mozilla-Ocho/llamafile

Unter Linux (und anderen Unix-Betriebssystemen) muss der Datei vor dem Start das Ausführungsrecht erteilt werden. Unter Windows gibt es wohl Einschränkungen bei Modellen, die größer als 4 GB sind.

Danke Mozilla!

eGolf mit 105 000 km Laufleistung

Unser mit der 35,8 kWh-Batterie hat mittlerweile eine Laufleistung von über 100.000 km erreicht. Das und insbesondere die funktionieren nach wie vor sehr gut. Die Batterie hat gefühlt höchstens leicht an Kapazität verloren (leider ist es nicht möglich, über den Bordcomputer Informationen über den Zustand der Batterie zu erhalten).

Die Batterie wurde meist nur bis auf 80% geladen und nur sehr selten auf sehr niedrige Ladestände entladen (dies schont die Batterie). Schnellladevorgänge fanden praktisch nicht statt.

Dass die Batterie auch nach 100.000 km noch so gut funktioniert, ist vor allem deshalb interessant, weil der eGolf eine relativ geringe Batteriekapazität hat. Heutige Elektroautos haben in der Regel etwa die doppelte Kapazität. Das bedeutet, dass die Batterie des eGolf bei gleicher Fahrleistung doppelt so viele Ladezyklen durchläuft wie die Batterie eines heutigen Elektroautos. Insbesondere die Anzahl der Ladezyklen wirkt sich negativ auf die Batterie aus.

Außerdem wären wir mit einem Auto mit größerer Batterie noch seltener in die eher schädlichen Randbereiche des Ladezustands (unter 20% bzw. über 80%) gekommen.

Auch wenn es sich hier um einen Einzelfall handelt, spricht dies für mich gegen den früher oft befürchteten Batterieverschleiß bei höheren Fahrleistungen.

Betrieb eines Matrix-Synapse-Servers vs Betrieb des XMPP-Servers Prosody

Nachdem ich jahrelang einen -Server mit der Software betrieben habe, habe ich seit einigen Monaten zusätzlich einen Synapse-Server installiert.

M. E. gestaltet sich die Installation von Matrix Synapse deutlich einfacher als die Installation von Prosody, weil für Synapse ein offizielles Docker-Image verfügbar ist (das offizielle Docker-Image von Prosody wird schon länger nicht mehr aktualisiert). Außerdem müssen bei Prosody zunächst Erweiterungen konfiguriert und ggf. installiert werden, da XMPP erst mit Erweiterungen (sog. XEPs) richtig gut nutzbar ist.

Pixel Watch 2 mit eigenständiger Prepaid-eSim betreiben

„Aus Gründen“ wollten wir eine Pixel Watch 2 mit einer vom unabhängigen Sim-Karte mit eigener Telefonnummer ohne Internetzugang betreiben (also ohne MultiSim). Das ist nicht so einfach, wie man meinen mag:

  1. Offenbar kann nicht jede beliebige auf eine geladen werden. Es gibt Provider, die angeben, dass ihre eSims nicht in Smartwatches verwendet werden können (z. B. Lidl-Connect).
  2. Die Pixel Watch 2 verhindert, dass eine eSim in die Smartwatch geladen wird, die nicht für dasselbe Mobilfunknetz registriert ist, wie die Sim-Karte im zugehörigen Smartphone (d. h. wenn sich im Smartphone eine Sim-Karte im Netz von Vodafone befindet, muss auch die eSim in der Smartwatch im Netz von Vodafone funktionieren). Der Provider scheint allerdings egal zu sein.

Was bei uns funktioniert hat:

Im Smartphone befindet sich eine Prepaid-Sim-Karte von Lidl, die das Vodefone-Netz verwendet. Auf die Pixel Watch 2 haben wir eine CallYa-Prepaid-eSim von Vodefone geladen. Diese Prepaid-Karte hat für uns den Vorteil, dass sie ohne Grundgebühr genutzt werden kann. Die CallYa-eSim haben wir direkt von Vodafone bezogen, also nicht über einen Provider. U. a. vertreibt der Provider Freenet Vodafone-Prepaid-Karten. Es war uns allerdings nicht möglich, eine eSim für eine Vodafone-Prepaid-Karte von Freenet zu erhalten.

Außerdem haben wir über die Hotline von Vodafone den Internetzugang der eSim in der Smartwatch deaktivieren lassen, da wir diesen nicht benötigen. Die Smartwatch selbst scheint nicht über eine Option zu verfügen, um den Internetzugang per Mobilfunknetz zu deaktivieren.

Deutschland-Ticket-QR-Code nur in App gültig?

Eigentlich ist ein QR-Code eine ziemlich geniale Sache. Er funktioniert sowohl in Apps, als auch auf normalen Computern. Er funktioniert in PDF-Dateien, E-Mails oder Screenshots. Ebenso ist er ausdruckbar. Er funktioniert sogar als Tattoo. Außerdem kann man leicht einer Sicherungskopie anfertigen.

Nur in Göttingen soll der Code ausschließlich innerhalb einer App gültig sein: „Weil er sein Deutschlandticket ausgedruckt dabei hatte, ist ein Mann in Göttingen aus einem Bus geworfen worden. Denn das Ticket ist dort nur auf dem Smartphone nutzbar.“

Es ist schade, eine sehr gute Lösung künstlich so einzuschränken. Einerseits wird die Plattformunabhängigkeit des Deutschland-Tickets stark eingeschränkt, weil es Apps meist nur für Android und iOS gibt. Andererseits ist das Ticket nicht mehr nutzbar, wenn man sein Smartphone verliert oder wenn es defekt ist (nimmt man am besten immer zwei Geräte mit auf Reisen? 😉).