Eigenen ChatGPT-Klon lokal auf dem Windows-Computer verwenden – So geht's! :: ITv4.de
Eigenen ChatGPT-Klon lokal auf dem Windows-Computer verwenden – So geht's!

Das Open-Source Programm GPT4All bietet eine alternative für die Online-KI ChatGPT an und ist komplett kostenlos. Sie läuft lokal auf dem Computer, benötigt keine Internetverbindung und benötigt wenig Speicherplatz.

GPT4All ist für Windows, Linux und macOS verfügbar. Ich zeige in diesem Artikel, wie du GPT4All auf einem Windows Computer installierst und einrichtest.

Die Open-Source Software findest du auf der offiziellen Website gpt4all.io. Klicke hier einfach auf Windows Installer und lade dir den Installer herunter.

Screenshot

Starte das Setup und befolge dir weiteren Installationsschritte. Es gibt bei der Installation nichts wichtiges zu beachten, du kannst einfach immer Weiter klicken. Die Basis der Software ist rund 150 MB groß.

Screenshot

Die Grundinstallation von GPT4All dauert nur wenige Sekunden. Anschließend findest du eine Verknüpfung auf dem Desktop oder im Startmenü. Öffne darüber GPT4All.

Es erscheint ein Willkommensbildschirm. Um GPT4All zu verbessern, sollst du zur Analyse zustimmen, anonyme Nutzungsdaten an den Hersteller zu versenden. Möchtest du dies, akzeptierst du das Opt-In, oder lehnst es andererseits ab.

Screenshot

Anschließend musst du noch ein Sprachmodell installieren. Das wohl bekannteste Sprachmodell ist GPT-4, welches bei ChatGPT von Open AI verwendet wird. Dieses Sprachmodell ist jedoch nicht öffentlich zugänglich, daher bedarf es Alternativen. In GPT4All werden dir einige offene Modelle angezeigt, die du per Klick herunterladen kannst. Ich empfehle dabei die Modelle gpt4all-l13b-snoozy und nous-gpt4-vicuna-13b.

Screenshot

Sofern du einen API-Key für ChatGPT besitzt, kannst du auch das Sprachmodell GPT-3.5 oder GPT-4 verwenden. Beachte aber, dass diese Eingaben über das Internet zu Open AI übertragen werden, und anders als die offenen Modelle, nicht lokal laufen.

Nach der Installation eines oder mehrere Sprachmodelle kannst du auf das Hauptfenster im Hintergrund klicken, damit dieses Fenster aktiv ist.

Über die Schaltfläche in der Mitte oben kannst du zwischen den installierten Sprachmodellen wechseln. Über den Button ganz links oben kannst du eine Historie über bereits geführte Chats auflisten lassen. Über das Textfeld unten kannst du anfangen, etwas zu schreiben. Je nach Rechenleistung des Computers dauert die Antwort der KI einige Sekunden.

Screenshot

Bislang antwortet die KI standardmäßig auf Englisch, auch wenn in Deutsch geschrieben wird, es sei denn, es wird bei der ersten Nachricht darum gebeten, auf Deutsch zu antworten. Die Antworten sind meistens ganz okay, oftmals aber auch falsch. Vergleichbar ist die Qualität der Antworten nicht mit dem Marktführer ChatGPT. Es wird sich aber zeigen, was die Zukunft bei quelloffenen KI-Sprachmodellen bringt.


Bei Fragen oder Anregungen freue ich mich natürlich über eure Kommentare.


Zuletzt aktualisiert
Drucken
War dieser Artikel hilfreich?
0
2 Kommentare
    • #2
    • Elias schrieb am um Uhr:

    Die Unterschiede sind schon gewaltig zu gpt3.5. Nutze nur die Modelle, die vorallem Deutsch unterstützen. Vicuna(large) und Hermes.
    Das "erkennen" von Personen-Namen und Orte klappt kaum, deswegen suche ich Infos, wie das "Lernen" dieser LLM's funktioniert. "Zusammenhänge" und "Verständnis" muss ja dann über ein anderes Modul der "KI" kommen.
    Hat jemand Tipps?

    Lieben Dank
    Elias


    • #1
    • Elias schrieb am um Uhr:

    Vielen Dank. Interessant wäre es, wenn Deutsch möglich ist, wie man sein Modell trainieren kann, sowie wie man Internettecherchevdamit umsetzen kann.
    Lieben Dank
    Elias


Hinterlasse einen Kommentar

Hast du Fragen, Probleme oder Anregungen? Hier kannst du öffentliches Feedback geben, anderen helfen und selbst um Hilfe bitten.

Folgende BBCodes sind erlaubt: [B], [I], [U], [CODE] und [MARK].

Die mit * markierten Felder sind Pflichtfelder. Möchtest du über neue Antworten auf deinen Kommentar informiert werden, kannst du deine E-Mail-Adresse hinterlegen. Diese wird nicht veröffentlicht.

Janis Mades
Janis Mades

Ich bin Janis (aka. EurenikZ), 24 Jahre alt und komme aus Frankfurt am Main. Ich habe eine abgeschlossene IHK-Ausbildung zum Fachinformatiker für Systemintegration und arbeite als Junior IT-Administrator in einem IT-Systemhaus. Neben meinem IT-Blog beschäftige ich mich viel mit diversen IT-Themen und meinen Webseiten sowie Telegram Bots und biete IT-Dienstleistungen an.

Themen
Melde dich für den Newsletter an

Mit dem kostenlosen Newsletter wirst du gelegentlich über die neuesten Tipps & Tricks per E-Mail informiert!

Ich verwende Cookies 🍪

Du kannst deine Zustimmung jederzeit widerrufen.

Verarbeitungszwecke

Ich setze Cookies und Werbung ein, um meinen Blog stetig für dich zu verbessern und meine für dich kostenlosen Inhalte zu finanzieren. Dabei ist es möglich, dass Daten außerhalb des EWR verarbeitet, Nutzungsprofile gebildet und mit Daten von anderen Webseiten angereichert werden.

Indem du auf "Zustimmen und weiter" klickst, stimmst du diesen Datenverarbeitungen freiwillig zu. Mehr Informationen findest du in der Datenschutzerklärung. Dort kannst du auch jederzeit deine Entscheidung zu Cookies widerrufen.

Essentielle Cookies anzeigen

Oder

Melde dich mit deinem EZ-Account an und besuche alle meine Webseiten werbefrei und ohne Tracking. Der EZ-Account ist kostenlos.



Impressum