So kannst du künstliche Intelligenz ohne Cloud ausprobieren

Mittlerweile gibt es gute Programme um KI auch auf deinem Rechner zu testen. Hier eine kleine Anleitung wie das geht:

„Warnung“:

  1. auf normalen Rechnern ist das alles etwas langsam
  2. ist die Anleitung sicher schon veraltet wenn ich sie hier gepostet hab

Zum Testen verwenden wir LM Studio. Alternativ gibt auch GPT4All.

Wieso LM Studio? Es ist flexibler was neue Datenmodelle betrifft.

LM Studio herunterladen und installieren

Gehe auf https://lmstudio.ai/ und lade dir die Windows oder je nach deinem Betriebssystem passende Version herunter, installiere und starte sie.

Hole dir das Mistral Model

Eins der aktuell besten DatenModelle (LLM) (1/2024) ist Mistral von https://mistral.ai/ . Das suchen wir mal:

Klicke einfach auf den ersten Treffer und dann rechts auf den ersten Treffer und Download. Nimm eher Modelle die nicht größer 4GB sind:

Wir wollen ja testen und nicht die Weltherrschaft erobern.

Der Download sollte starten

Was ist ein MML File ?

Veinfacht gesagt eine Datei, die eine Datenbank enthält und die KI bzw das Programm hier ist vereinfacht gesagt nur eine Datenbank-Tool das diese Datenbank durchsucht.

Sprich mit dem Model

Wähle links den Chat und dann oben das Modell

Chatte mit dem Model

Geben unten bei User deine Frage ein

und chatte mit dem Modell (Es kann sein, das dort noch die Download Information angezeigt wird. Klicke sie weg und spiele mit der KI):

Wenn du nun das Wlan ausmachst funktioniert die KI weiterhin.

Aber natürlich ist ChatGPT sicher schlauer und kann mehr… Denn ChatGPT hat eine größere Datenbank und natürlich viel mehr Möglichkeiten als dieses Programm. Aber das ist dann ein anderes Thema.


Beitrag veröffentlicht

in

von

Schlagwörter:

Kommentare

3 Antworten zu „So kannst du künstliche Intelligenz ohne Cloud ausprobieren“

  1. […] auf dem Mac echt gute Bilder produziert (wie dieses Beitragsbild) muss ich jetzt mal versuchen GPT4All via Python mit meinen Dokumenten zu trainieren.. Die Desktop-Anwendung ist ja nett aber ohne eigene […]

  2. […] Man hätte das gleiche natürlich auch mit GPT4All machen können oder auch mit LMStudio. […]