lazarus-ki-integration

[lauzge]

Hallo Leute

Ich habe in den letzten Tagen ein Package für Lazarus geschrieben, das ich hier vorstellen möchte. Es funktioniert schon mal ganz gut, aber hat natürlich noch viel Luft nach oben. Vielleicht hat ja der eine oder andere von Euch Lust und Zeit mir dabei zu helfen das Projekt zu perfektionieren. Das Projekt ist unter GitHub zu finden: https://github.com/lauzge/lazarus-ki-integration/

Andockbares Chat-Fenster: Integriert sich nahtlos in das Lazarus-Layout.
Ollama Integration: Nutzt lokale LLMs (z.B. Llama3 oder CodeLlama).
Code-Extraktion: Erkennt Pascal-Code in der KI-Antwort und erlaubt die Übernahme per Klick.
Kontext-Support: Markierter Code im Editor kann direkt an den Chat gesendet werden.
Supported Languages: German (Native), English

preview.png (130.66 KiB) 1293 mal betrachtet

Ich habe es unter openSuSE Linux programmiert und bis jetzt auch nur dort getestet. Ich werde es in den nächsten Tagen auch unter Windows testen und wenn nötig dafür auch erweitern.

Liebe Grüße
Volker

[theo]

Hat das damit zu tun?
https://gitlab.com/freepascal.org/acp

(Habe keine Ahnung davon...)

[lauzge]

Ja, ich denke das geht in die Richtung. Mit meinem Programm kannst du dir mit einer KI beim Programmieren helfen lassen.

[Retterman]

Aus Neugierde wollte ich das mal ausprobieren, bin aber recht bald auf ein Problem gestoßen. Ich habe bei der Installation die Vorschläge verwendet, also nach der Installation von Ollama das Modell "Codellama" geladen, lief alles einwandfrei durch. Dann habe ich die Komponente von Github geladen und in Lazarus installiert. Die beiden Menüpunkte "KI Chat Fenster öffnen" und "KI Assistent Einstellungen..." waren dann auch im Werkzeug-Menü. Zuerst habe ich die KI-Assistent-Einstellungen angeklickt, und ein Fenster öffnete sich, bei dem ich das Modell "codellama:latest" laden konnte:

Screenshot 2026-04-25 202200.png (14.08 KiB) 748 mal betrachtet

Nach dem Anklicken von "Speichern" war erst mal Lazarus komplett tot. Nach etwa einer Minute (geschätzt) erschien dann dieses Fenster:

Screenshot 2026-04-25 201941.png (14.52 KiB) 748 mal betrachtet

Ich schaute nach, und den Pfad "C:\Users\<Username>\.lazarus" gibt es wirklich nicht. Nachdem ich Lazarus beendete und diesen Pfad manuell anlegte und den ganzen Vorgang wiederholte, klappte es dann. Es fehlt also das Anlegen des Pfades, wenn er nicht vorhanden ist.

Mein System: AMD Ryzen 7 5800X3D 8-Core-Prozessor mit Windows 11 Pro (25H2), 32 GB RAM, NVIDIA GeForce RTX 3080 (10 GB). Lazarus Vers. 4.6

Wenn ich "KI Chat Fenster öffnen" anklicke, kommt zwar ein Fenster, aber ich weiß noch nicht so recht, was ich damit machen kann. Eine Reaktion oder Antwort ist jedenfalls noch nicht gekommen, aber ich weiß auch noch nicht, was oder wie ich fragen kann. Da werde ich mich erst mal ein wenig damit beschäftigen müssen.

[lauzge]

Hallo Retterman,
leider läuft das Programm unter Windows noch nicht, ich bekomme keine Socket Verbindung zu Ollama. Ich bin aber drann das Problem zu lösen. Das Problem scheint ab hier zu liegen: Client := TFPHTTPClient.Create(nil); Ich hab schon einige Stunden verbracht das Problem zu lösen, komme bis jetzt aber nicht weiter.

Wenn es dann endlich auch unter Windows läuft kannst du im Editor (dort wo du programmierst) Code selektieren und danach das KI-Chatfenster öffnen, nach dem Klicken auf "Senden" wird dir der Code erklärt oder auf Wunsch optimiert. Optimierter Code kann dann durch Klicken auf "Code übernehmen" wieder zurück in den Editor übernommen werden.
Du kannst die KI aber auch bitten dir Code zu schreiben. Einfach mit deinen Worten der KI erklären was du willst und die KI generiert dir dann Pascal Code.

[Retterman]

Hallo lauzge,

erst mal vielen Dank für die Antwort. Bei mir funktioniert die Verbindung zu Ollama aber einwandfrei. Kann ich dir irgendwie behilflich sein, das Problem zu lösen? Als Testobjekt oder so? Ollama ist bei mir ständig im Hintergrund geladen und erscheint in den Tray-Icons, vielleicht hat es damit zu tun:

Screenshot 2026-04-27 081058.png (49.97 KiB) 495 mal betrachtet

Am Wochenende habe ich nochmal ein wenig mit dem Chat-Fenster gespielt und auch sinnvolle Antworten bekommen:

Screenshot 2026-04-26 143912.png (22.84 KiB) 495 mal betrachtet

Screenshot 2026-04-26 143945.png (21.43 KiB) 495 mal betrachtet

Ok, das hätte ich zwar auch selber gewusst, aber es war ja nur ein Test. Abgesehen davon ist es auch nicht ganz korrekt. Statt

Code: Alles auswählen

if StartsWith(Names[i].EpisodeTitel, Teile) then

müsste es heissen:

Code: Alles auswählen

if Names[i].EpisodeTitel.StartsWith(Teile) then

Aber das sind typische KI-Fehler, mit sowas muss man rechnen. Jedenfalls schaut es so aus, als wenn ich deine KI-Integration recht gerne und häufig nutzen werde . Schon mal vielen Dank dafür.

[thosch]

Braucht ja ganz schön lange bevor da irgendwas angezeigt wird. Beim AUfruf des Chatfensters kommt zudem ein Gutter Fehler! Beim Eistellungen Dialog dann auch bei mir der schon angesprochene Pfad Fehler

[Retterman]

Braucht ja ganz schön lange bevor da irgendwas angezeigt wird.

KI bedeutet immer viel Rechenleistung. Wenn man KI lokal (also auf dem eigenen Rechner) haben will, braucht man viel Rechenleistung, und da ist eine leistungsfähige Grafikkarte mit üppig Grafik-RAM nützlich. Natürlich nicht zur Darstellung, sondern zum Bearbeiten. Nur mit der CPU dauert es eben länger.

Bei mir kommen die Antworten innerhalb weniger Sekunden, obwohl ich auch nur eine Ausstattung habe, die unter ComfyUI-Benutzern eher als "gerade noch ausreichend" angesehen wird.

[thosch]

Werden denn auch wirklich alle CPU Kerne von dem Programm benutzt? Ich habe eine CPU mit 4 Kernen mit jeweils bis 3GHz Takt. Bei der Grafikkarte muss ich gucken was da verbaut ist.

Was für einen Rechner würde ich denn brauchen um mit dieser KI vernünftg arbeiten zu können.

Warum beschränkt man sich nicht auf die aller nötigsten Daten zum Übertragen, wie man das zu Modem Zeiten machen musste? den ChatBildschitm zu übertragen geht doch schon länger recht schnelll. Warum dann nicht die KI im Hintergrund (im Netz rechnen lassen und nur das Ergebnis dann übertragen?

So wie die Dinge liegen, bleib ich wohl doch bei Online KI.