LLM 101
Auch wenn es nicht allen gefällt, sogenannte “Künstlicher Intelligenz” aka Large Language Models (oder kurz LLMs) begegnet uns immer öfter privat und im Berufsleben, deshalb hier eine kurze Einführung und Empfehlungen für (zumeist) kostenlose KI Tools für verschiedene Anwendungsszenarien, falls ihr euch näher mit den Thema beschäftigen wollt oder müsst.
LLMs mit Datenschutz
Auf den ersten Blick scheint die Nutzung von LLMs nur schwer vereinbar mit Datenschutz aber es gibt Anbieter, die zumindest versuchen dem Nutzer Wahlfreiheit zu lassen und / oder Tracking zu vermeiden
Brave Search bietet eine unabhängige Suchmaschine mit KI Zusammenfassungen an, der Ansatz ist ähnlich wie bei Google aber mit besseren Ergebnissen / weniger Halluzinationen, und wenn die KI nichts gutes beizutragen hat schweigt sie einfach. Eine Anmeldung ist nicht erforderlich und der Assistent Leo wird nicht auf Basis von User Chats trainiert. Unter Frag Brave könnt ihr auch direkt mit der KI reden, einen einfacheren Zugang zu einem guten LLM werdet ihr kaum finden.
Die KI Integration in Firefox wird viel kritisiert, trotzdem bietet die Implementierung von Mozilla Vorteile gegenüber anderen Browsern, die oft nur Support für das eigene LLM anbieten. Im Gegensatz dazu könnt ihr bei Mozilla zwischen verschiedenen Alternativen auswählen oder die Funktionalität auch komplett deaktivieren.
HuggingFace ist die führende Plattform für OpenSource LLMs mit sehr vielen Möglicheiten, der “Chat” bietet einen einfachen Zugang zu den besten OpenSource Modellen je nach Anwendungsgebiet und respektiert eure Privatsphäre (“Privacy by Design”)
Das gilt auch für Duck.ai, in der kostenlosen Varianten könnt ihr zwischen GPT4/5-Mini und anderen kleineren Modellen wählen, ohne dass Eure Eingaben zum Training der LLMs verwendet werden
Perchance erlaubt die Erstellung von Bildern ohne Anmeldung und die “public” Gallerie enthält viele Beispiele mit entsprechenden Prompts (der “PG-13” Filter ist unbedingt empfehlenswert!!)
💵 Mistral LeChat zeichnet sich durch Datenschutz (nach DSGVO / GDPR) und Hosting in Europa aus, leider ist die kostenlose Nutzung so stark eingeschränkt, dass ihr um den Erwerb eines “Pro” Abos kaum herumkommt (€ 17,84 im Monat / € 7,13 für Studenten).
Google's LLM “für den Hausgebrauch”
Wenn ihr bereit seid, euch einem der großen Anbieter anzuvertrauen, führt kaum ein Weg an Googe vorbei – inzwischen sind die “Gemini” Modelle anderen führenden Anbietern ebenbürtig. Und die Quotierung ist großzügig, d.h. ihr könnt selbst mit dem kostenlosen Zugang etwas anfangen, ohne sofort in Nutzungslimits zu laufen.
Der Google KI Modus funktioniert oft besser als die “Zusammenfassungen” in der Google Suche. Obwohl die Suchergebnisse nur am Rande sichtbar sind, werden alle Quellen in der Antwort mit Links belegt. Der KI Modus lässt sich auch ohne Anmeldung nutzen und liefert bei aktuellen Themen oder Wissensfragen oft bessere Antworten als eine Anfrage bei Gemini selbst. Ungenauigkeiten sind selten und komplette Bullshit Antworten noch seltener. Also wenn ihr sowieso die Google Suche nutzt, drückt einfach mal auf den “KI Modus” Knopf.
Das aktuelle Gemini (3.0+) ist stark verbessert, Bildbearbeitung (z.B. Hintergründe / Kleidung bei Fotos anpassen) funktioniert sogar deutlich besser als bei ChatGPT. Auch die Programmierfähigkeiten sind inzwischen halbwegs brauchbar, während der generierte Code früher eher auf “Stack Overflow” Niveau war, ist die KI inzwischen z.B. in der Lage, lauffähiges Javascript zu erzeugen (z.B. eine Website mit DWD Wetterdaten oder Tampermonkey Skripte). Es gibt eine gute Integration mit Google Diensten – Notizen, Docs, Spreadsheets, Kalender etc. lassen sich auf Wunsch freigeben und direkt als Input oder Output für Prompts verwenden, alternativ kann man in NotebookLM Dokumente hochladen, die dann als Kontext verwendet werden.
Business LLM
💵 Wenn Eure Firma auch gerade verzweifelt versucht auf den KI Zug aufzuspringen, habt ihr vielleicht eine Microsoft365 CoPilot Lizenz ... die verwendeten LLMs sind gefühlt etwas “vom letzten Jahr” aber es gibt eine Integration in MS Office und viele Tools, einschließlich eigenem “Notebook”, Unterstützung für Agents und der komplexen aber sehr mächtigen “Power Automate” Plattform.
💵 Anthropic Claude ist nach wie vor eines der leistungsfähigsten Modelle für Softwareentwicklung, vor allem in Verbindung mit Frameworks wie Cline, die Agenten- basiertes Coding erlauben und bis zu einem gewissen Grad sogar zur Umsetzung komplexerer Projekte geeignet sind. Dabei entstehen aber erhebliche Kosten und auch großer Konfigurationsaufwand, für kleine Hobbyprojekte lohnt sich das nur im Ausnahmefall.
💵 Mit Github Copilot bietet MS ein eigenes Paket für Entwickler an, inzwischen gibt es auch einen “Agentic Mode”, der so ähnlich wie Cline funktioniert
Fazit
Vielleicht haben die Zweifler recht und die “KI Bubble” platzt demnächst und alles wird wieder so wie in den “guten alten” 2010ern ... Aber vielleicht stehen wir auch an der Schwelle eines neuen Zeitalters, vergleichbar mit der Einführung der ersten PCs in den 1980ern oder des Internets in den 1990ern, nur die Zeit kann es zeigen.
Auf jeden Fall werden wir an allen Ecken und Enden mit dem Thema (und dem Output von) LLMs konfrontiert, und egal ob Befürworter oder Gegner, am Ende kann praktische Erfahrung und ein besseres Verständnis dieser Technologie nur hilfreich sein. Ich hoffe, ich kann vielleicht mit diesem Artikel einen kleinen Beitrag leisten, um allen Menschen einen niederschwelligen Einstieg in die “schöne neue KI Welt” zu ermöglichen.
____
© 2023-26 by Lö(h)we, licensed under CC BY-NC-SA 4.0