Das Open-Source Programm GPT4All bietet eine alternative für die Online-KI ChatGPT an und ist komplett kostenlos. Sie läuft lokal auf dem Computer, benötigt keine Internetverbindung und benötigt wenig Speicherplatz.

GPT4All ist für Windows, Linux und macOS verfügbar. Ich zeige in diesem Artikel, wie du GPT4All auf einem Windows Computer installierst und einrichtest.

Die Open-Source Software findest du auf der offiziellen Website gpt4all.io. Klicke hier einfach auf Windows Installer und lade dir den Installer herunter.

Starte das Setup und befolge dir weiteren Installationsschritte. Es gibt bei der Installation nichts wichtiges zu beachten, du kannst einfach immer Weiter klicken. Die Basis der Software ist rund 150 MB groß.

Die Grundinstallation von GPT4All dauert nur wenige Sekunden. Anschließend findest du eine Verknüpfung auf dem Desktop oder im Startmenü. Öffne darüber GPT4All.

Es erscheint ein Willkommensbildschirm. Um GPT4All zu verbessern, sollst du zur Analyse zustimmen, anonyme Nutzungsdaten an den Hersteller zu versenden. Möchtest du dies, akzeptierst du das Opt-In, oder lehnst es andererseits ab.

Anschließend musst du noch ein Sprachmodell installieren. Das wohl bekannteste Sprachmodell ist GPT-4, welches bei ChatGPT von Open AI verwendet wird. Dieses Sprachmodell ist jedoch nicht öffentlich zugänglich, daher bedarf es Alternativen. In GPT4All werden dir einige offene Modelle angezeigt, die du per Klick herunterladen kannst. Ich empfehle dabei die Modelle gpt4all-l13b-snoozy und nous-gpt4-vicuna-13b.

Sofern du einen API-Key für ChatGPT besitzt, kannst du auch das Sprachmodell GPT-3.5 oder GPT-4 verwenden. Beachte aber, dass diese Eingaben über das Internet zu Open AI übertragen werden, und anders als die offenen Modelle, nicht lokal laufen.

Nach der Installation eines oder mehrere Sprachmodelle kannst du auf das Hauptfenster im Hintergrund klicken, damit dieses Fenster aktiv ist.

Über die Schaltfläche in der Mitte oben kannst du zwischen den installierten Sprachmodellen wechseln. Über den Button ganz links oben kannst du eine Historie über bereits geführte Chats auflisten lassen. Über das Textfeld unten kannst du anfangen, etwas zu schreiben. Je nach Rechenleistung des Computers dauert die Antwort der KI einige Sekunden.

Bislang antwortet die KI standardmäßig auf Englisch, auch wenn in Deutsch geschrieben wird, es sei denn, es wird bei der ersten Nachricht darum gebeten, auf Deutsch zu antworten. Die Antworten sind meistens ganz okay, oftmals aber auch falsch. Vergleichbar ist die Qualität der Antworten nicht mit dem Marktführer ChatGPT. Es wird sich aber zeigen, was die Zukunft bei quelloffenen KI-Sprachmodellen bringt.

Bei Fragen oder Anregungen freue ich mich natürlich über eure Kommentare.