So kann Microsoft Copilot oder eine lokale KI als Chatbot in Firefox aktiviert werden

Ein neuer Artikel wurde veröffentlicht:

Zitat

Firefox bietet eine Integration gleich mehrerer KI-Chatbots. Der Microsoft Copilot ist nicht dabei - zumindest nicht offiziell. Über eine versteckte Option lässt sich auch dieser in Firefox aktivieren, ebenso wie eine lokale KI.

Artikel lesen: „So kann Microsoft Copilot oder eine lokale KI als Chatbot in Firefox aktiviert werden“

Nein, weitere Chatbots sind derzeit nicht in Firefox hinterlegt.

1. llava-v1.5-7b-q4.llamafile von https://github.com/Mozilla-Ocho/llamafile#quickstart herunterladen
2. Auf Windows musst du den Dateinamen noch um .exe erweitern
3. Die Datei ausführen

Damit ist das llamafile über einen lokalen Server gestartet und wird mit der localhost-Option in der Chatbot-Sidebar angezeigt.

Weiter unten auf der verlinkten Seite gibt es noch zahlreiche weitere Modelle, die man verwenden könnte und alle nach dem gleichen Prinzip funktionieren.

Der Schalter in about:config ist notwendig, wenn du das in der Sidebar nutzen möchtest. Durch das Herunterladen des llamafiles geschieht nichts automatisch. Das ist komplett unabhängig von Firefox und auch nichts, was installiert werden muss. Die heruntergeladene Datei wird einfach ausgeführt und dadurch ein Server gestartet, der in jedem Browser aufgerufen werden kann.

Klein ist die Datei nicht. In der Liste unten gibt es auch deutlich kleinere, genauso aber nochmal deutlich größere Modelle.

LLaMA steht offiziell für Large Language Model Meta AI und wurde in der Schreibweise halt etwas angepasst, sodass man es wie das Tier schreibt. Meta steht hier für den Konzern hinter Facebook, Instagram und WhatsApp, von denen kommt das nämlich. Das Projekt llama.cpp wiederum ist eine Portierung der LLaMA-Modelle in C/C++, die es ermöglicht, LLMs auf gewöhnlicher Endnutzer-Hardware laufen zu lassen. Dann gibt es noch das Projekt Cosmopoliton, was die Verteilung und Ausführung von Programmen auf einer Vielzahl von Betriebssystemen und Hardware-Architekturen unterstützt. Und diese beiden Projekte werden durch Mozillas llamafile quasi kombininiert, um Chatbots ganz einfach lokal auf dem Computer ausführen zu können.