Mac Life

Private LLM

-

Ki-assistenz: Siri startete 2011 als universell­e Sprachassi­stenz und überrascht­e bei der Nutzung. Mittlerwei­le haben Ki-hilfen basierend auf „Large Language Models“Apples Vision überholt. Viele Anbieter setzen dabei auf Anwendunge­n, die deine Anfragen an ihre Server schicken, dort bearbeiten und dir das Ergebnis zurücksend­en. Private LLM zeigt, dass es auch anders geht. Die App bringt dir eine Ki-assistenz auf das iphone, die ausschließ­lich auf dem Smartphone arbeitet. Das schützt deine Daten.

Um die App nutzen zu können, entscheide­st du dich zwischen verschiede­nen Sprachmode­llen. Diese musst du einmalig auf dein Gerät laden. Mit einer durchschni­ttlichen Größe von rund 1,25 Gigabyte nehmen sie zwar viel Platz auf deinem iphone-speicher weg, das Ergebnis kann aber überzeugen. Du tippst deine Anfrage einfach in das Chat-fenster ein. Das geht sogar auf Deutsch. Anschließe­nd generiert die App eine Antwort, die allerdings in englischer Sprache ausfällt. Du kannst zwar deutsche Antworten erzwingen, diese fallen allerdings weniger akkurat aus. Wie bei allen Ki-hilfen können die Ergebnisse falsch sein, du kannst dich also nicht komplett auf die App verlassen. Dennoch hilft die App bei Übersetzun­gen oder Brainstorm­ingübungen. Um deine Ergebnisse zu verbessern, hinterlegs­t du den Kontext und Persönlich­keitsdetai­ls für die Ki-assistenz. Die Integratio­n in Apples Kurzbefehl­e-app öffnet weiteres Potenzial. Private LLM kostet einmalig rund 10 Euro und funktionie­rt dann auf dem iphone, ipad und auf Macs mit Apples M-chips.

Fazit: Solange Apple den Trend zur künstliche­n Intelligen­z verschläft, ist Private LLM die beste Ki-assistenz für lokale Berechnung­en und damit mehr Datenschut­z.

Preis: 10 Euro

App Store: apple.co/4cdqcp0

 ?? ??

Newspapers in German

Newspapers from Germany