Kategorie: Software

Unterschiedliche LLMs mit nur einem einzigen Befehl lokal starten

hat die Möglichkeit geschaffen, mit einem einzigen Befehl Lage Langauge Models auf dem eigenen Computer auszuführen (sofern der Computer entsprechend ausgestattet ist). Es muss lediglich eine einzige Datei heruntergeladen und ausgeführt werden. Die Modelle sollten auf verschiedenen Betriebssystemen sowie CPU- und GPU-Architekturen laufen (ich habe es unter auf einer Intel-CPU ausprobiert). Es stehen mehrere Modelle zum Download bereit:

https://github.com/Mozilla-Ocho/llamafile

Unter Linux (und anderen Unix-Betriebssystemen) muss der Datei vor dem Start das Ausführungsrecht erteilt werden. Unter Windows gibt es wohl Einschränkungen bei Modellen, die größer als 4 GB sind.

Danke Mozilla!

Betrieb eines Matrix-Synapse-Servers vs Betrieb des XMPP-Servers Prosody

Nachdem ich jahrelang einen -Server mit der Software betrieben habe, habe ich seit einigen Monaten zusätzlich einen Synapse-Server installiert.

M. E. gestaltet sich die Installation von Matrix Synapse deutlich einfacher als die Installation von Prosody, weil für Synapse ein offizielles Docker-Image verfügbar ist (das offizielle Docker-Image von Prosody wird schon länger nicht mehr aktualisiert). Außerdem müssen bei Prosody zunächst Erweiterungen konfiguriert und ggf. installiert werden, da XMPP erst mit Erweiterungen (sog. XEPs) richtig gut nutzbar ist.

Deutschland-Ticket-QR-Code nur in App gültig?

Eigentlich ist ein QR-Code eine ziemlich geniale Sache. Er funktioniert sowohl in Apps, als auch auf normalen Computern. Er funktioniert in PDF-Dateien, E-Mails oder Screenshots. Ebenso ist er ausdruckbar. Er funktioniert sogar als Tattoo. Außerdem kann man leicht einer Sicherungskopie anfertigen.

Nur in Göttingen soll der Code ausschließlich innerhalb einer App gültig sein: „Weil er sein Deutschlandticket ausgedruckt dabei hatte, ist ein Mann in Göttingen aus einem Bus geworfen worden. Denn das Ticket ist dort nur auf dem Smartphone nutzbar.“

Es ist schade, eine sehr gute Lösung künstlich so einzuschränken. Einerseits wird die Plattformunabhängigkeit des Deutschland-Tickets stark eingeschränkt, weil es Apps meist nur für Android und iOS gibt. Andererseits ist das Ticket nicht mehr nutzbar, wenn man sein Smartphone verliert oder wenn es defekt ist (nimmt man am besten immer zwei Geräte mit auf Reisen? 😉).

Keine Zweitkarte der Krankenkasse für Kinder

Es gibt keine Möglichkeit für ein Kind zwei Krankenkassenkarten zu bekommen. Es wäre sehr praktisch, wenn alle Elternteile eine eigene Karte für ihre Kinder bekämen, weil dann ein unnötiger Organisationsschritt vor dem entfallen könnte.

Ob man die vor Einführung der Karten in diesem Punkt wirklich getestet hat? Warum wurde dieser Mangel nicht schon vor Jahren behoben?