Das Open-Source Programm GPT4All bietet eine alternative für die Online-KI ChatGPT an und ist komplett kostenlos. Sie läuft lokal auf dem Computer, benötigt keine Internetverbindung und benötigt wenig Speicherplatz.
GPT4All ist für Windows, Linux und macOS verfügbar. Ich zeige in diesem Artikel, wie du GPT4All auf einem Windows Computer installierst und einrichtest.
Die Open-Source Software findest du auf der offiziellen Website gpt4all.io. Klicke hier einfach auf Windows Installer und lade dir den Installer herunter.
Starte das Setup und befolge dir weiteren Installationsschritte. Es gibt bei der Installation nichts wichtiges zu beachten, du kannst einfach immer Weiter klicken. Die Basis der Software ist rund 150 MB groß.
Die Grundinstallation von GPT4All dauert nur wenige Sekunden. Anschließend findest du eine Verknüpfung auf dem Desktop oder im Startmenü. Öffne darüber GPT4All.
Es erscheint ein Willkommensbildschirm. Um GPT4All zu verbessern, sollst du zur Analyse zustimmen, anonyme Nutzungsdaten an den Hersteller zu versenden. Möchtest du dies, akzeptierst du das Opt-In, oder lehnst es andererseits ab.
Anschließend musst du noch ein Sprachmodell installieren. Das wohl bekannteste Sprachmodell ist GPT-4, welches bei ChatGPT von Open AI verwendet wird. Dieses Sprachmodell ist jedoch nicht öffentlich zugänglich, daher bedarf es Alternativen. In GPT4All werden dir einige offene Modelle angezeigt, die du per Klick herunterladen kannst. Ich empfehle dabei die Modelle gpt4all-l13b-snoozy und nous-gpt4-vicuna-13b.
Sofern du einen API-Key für ChatGPT besitzt, kannst du auch das Sprachmodell GPT-3.5 oder GPT-4 verwenden. Beachte aber, dass diese Eingaben über das Internet zu Open AI übertragen werden, und anders als die offenen Modelle, nicht lokal laufen.
Nach der Installation eines oder mehrere Sprachmodelle kannst du auf das Hauptfenster im Hintergrund klicken, damit dieses Fenster aktiv ist.
Über die Schaltfläche in der Mitte oben kannst du zwischen den installierten Sprachmodellen wechseln. Über den Button ganz links oben kannst du eine Historie über bereits geführte Chats auflisten lassen. Über das Textfeld unten kannst du anfangen, etwas zu schreiben. Je nach Rechenleistung des Computers dauert die Antwort der KI einige Sekunden.
Bislang antwortet die KI standardmäßig auf Englisch, auch wenn in Deutsch geschrieben wird, es sei denn, es wird bei der ersten Nachricht darum gebeten, auf Deutsch zu antworten. Die Antworten sind meistens ganz okay, oftmals aber auch falsch. Vergleichbar ist die Qualität der Antworten nicht mit dem Marktführer ChatGPT. Es wird sich aber zeigen, was die Zukunft bei quelloffenen KI-Sprachmodellen bringt.
Bei Fragen oder Anregungen freue ich mich natürlich über eure Kommentare.
Über mich
Ich bin Janis (aka. EurenikZ), 26 Jahre alt und komme aus der Nähe von Frankfurt am Main. Ich habe eine abgeschlossene IHK-Ausbildung zum Fachinformatiker für Systemintegration und arbeite als Junior IT-Administrator in einem IT-Systemhaus. Neben meinem IT-Blog beschäftige ich mich viel mit diversen IT-Themen und meinen Webseiten sowie Telegram Bots und biete IT-Dienstleistungen an.
Die Unterschiede sind schon gewaltig zu gpt3.5. Nutze nur die Modelle, die vorallem Deutsch unterstützen. Vicuna(large) und Hermes.
Das "erkennen" von Personen-Namen und Orte klappt kaum, deswegen suche ich Infos, wie das "Lernen" dieser LLM's funktioniert. "Zusammenhänge" und "Verständnis" muss ja dann über ein anderes Modul der "KI" kommen.
Hat jemand Tipps?
Lieben Dank
Elias
Vielen Dank. Interessant wäre es, wenn Deutsch möglich ist, wie man sein Modell trainieren kann, sowie wie man Internettecherchevdamit umsetzen kann.
Lieben Dank
Elias