216 lines
11 KiB
Markdown
216 lines
11 KiB
Markdown
# ChatGPT Handoff
|
|
|
|
## Projektziel
|
|
|
|
Javis ist Pascals langfristiges, lokal-first ausgerichtetes Projekt für einen realistischen persönlichen KI-Assistenten. Geplant sind schrittweise:
|
|
|
|
- lokaler Textchat und nachvollziehbarer Sitzungsspeicher
|
|
- Aufgaben, Notizen und ein kontrolliertes Gedächtnis
|
|
- später lesender und danach eng begrenzter Obsidian-Zugriff
|
|
- feste, überprüfbare Werkzeuge statt freier Shell
|
|
- später Sprache, technische Statusabfragen, Mobilzugriff und Living Mind
|
|
|
|
Nicht Ziel sind ein fiktiver Film-Jarvis, unbegrenzte Autonomie oder ein selbst trainiertes Foundation Model. Hauptsprache für Pascal und Benutzeroberflächen ist Deutsch.
|
|
|
|
## Verbindliche Pfade und Umgebung
|
|
|
|
- Repository und Git-Toplevel: `D:\Javis-Projekt`
|
|
- Branch für stabile Arbeit: `main`
|
|
- Gitea-Remote: `https://git.peli-server.de/Dystroyer8/Jarvis-Ai.git`
|
|
- aktiver Obsidian-Vault: `D:\Obsidian Vault`
|
|
- alte OneDrive-Kopie: am früher vermuteten Pfad nicht vorhanden und niemals verändern
|
|
- kanonischer Handoff: `docs/CHATGPT_HANDOFF.md`
|
|
- historisches Vollarchiv: `docs/archive/handoffs/2026-07-30-full-initial-handoff.md`
|
|
|
|
Gaming-PC:
|
|
|
|
- Windows 11 Pro, Build 26200
|
|
- AMD Ryzen 7 9700X, 64 GB DDR5-6000
|
|
- MSI RTX 3060 VENTUS 2X 12G OC
|
|
- ASRock X870 Nova WiFi
|
|
- Projekt auf Samsung 870 QVO 1 TB unter `D:`
|
|
|
|
Späterer möglicher Javis-Host:
|
|
|
|
- ASUS ROG Strix GL553VD mit Ubuntu 24.04
|
|
- Intel i7-7700HQ, 16 GB RAM, GTX 1050 4 GB
|
|
- 128-GB-SSD plus 1-TB-HDD
|
|
- zeitweise alternativ ATM10-Server; Javis- und ATM10-Modus sollen getrennt sein
|
|
|
|
Rootserver:
|
|
|
|
- Netcup RS 2000 G11, 8 vCores, 16 GiB RAM, ungefähr 512 GB
|
|
- Ubuntu 24.04; Infrastruktur für Gitea, CouchDB, Reverse Proxy, AMP und Gameserver
|
|
- kein lokales Javis-Modell und kein freier Root- oder Shellzugang für Javis
|
|
|
|
## Aktueller technischer Stand
|
|
|
|
- Der erste lokale Textchat ist auf `main` implementiert, abgenommen und nach Gitea gepusht.
|
|
- `uv run javis chat` liefert echte lokale Antworten und speichert Sitzungen in SQLite.
|
|
- Konfigurationsbeispiel, Sicherheitsdokumente, ADRs und Strukturtest sind vorhanden.
|
|
- Living-Mind-Verzeichnis ist ausschließlich ein inaktiver Vertrag ohne Frontend oder Fantasiedaten.
|
|
- Projektbezogene Codex-Rollen Scout, Architect, Builder, Verifier und Security Reviewer sind konfiguriert; maximal zwei Unteragenten, nur Builder schreibend.
|
|
- Toolchain eingerichtet: uv 0.11.32 und CPython 3.12.13 isoliert unter `D:\Javis-Tools`; Ruff 0.16.0 in der lokalen `.venv`.
|
|
- Offizielle VS-Code-Erweiterungen installiert: Python 2026.4.0, Pylance 2026.3.1, Python Environments 1.36.0 und Debugpy 2026.6.0.
|
|
- Windows-PATH und vorhandene Python-Installationen wurden nicht verändert.
|
|
- Ollama 0.32.5 ist portabel unter `D:\Javis-Tools\ollama` installiert.
|
|
- Genau ein Modell ist installiert: `qwen3:8b`, GGUF `Q4_K_M`, 5,2 GB, Apache-2.0.
|
|
- Modelle liegen außerhalb von Git unter `D:\Javis-Data\ollama-models`.
|
|
- Der lokale Ollama-Dienst bindet nur an `127.0.0.1:11434`; PATH, Registry,
|
|
Autostart und Windows-Dienste blieben unverändert.
|
|
- CLI-Befehle: `/new`, `/sessions`, `/load <ID>`, `/clear`, `/help`, `/exit`.
|
|
- Sitzungsdaten liegen über `JAVIS_DATA_DIR` außerhalb von Git; der bestätigte
|
|
Smoke-Test nutzte `D:\Javis-Data\runtime\core-chat-smoke`.
|
|
- Kein Obsidian-, Laptop- oder Rootserverzugriff wurde implementiert.
|
|
- Keine Tool-, Sprach-, Mobil-, Status- oder Living-Mind-Funktion ist implementiert.
|
|
|
|
## Aktuelle Architektur
|
|
|
|
- modularer Monolith, bevorzugt Python
|
|
- plattformunabhängige Pfade und zentrale Konfiguration
|
|
- Modell-Provider als kleine austauschbare Schnittstelle
|
|
- Ollama-Provider akzeptiert nur lokale HTTP-Loopback-Adressen
|
|
- SQLite-Sitzungsspeicher mit atomaren Benutzer-/Assistentenpaaren
|
|
- Laufzeitdaten außerhalb von Git über `JAVIS_DATA_DIR` oder sicheren Plattformstandard
|
|
- aktuell ausschließlich lokales Modell; als separates Folgepaket ist Gemini als
|
|
bevorzugter kostenloser Provider für ausdrücklich cloudgeeignete Inhalte geplant
|
|
- strikter Nullkostenmodus ohne Billing-Aktivierung oder kostenpflichtigen Fallback;
|
|
lokales Modell bleibt Offline-, Datenschutz-, Ausfall- und Quota-Fallback
|
|
- Secret-Werte außerhalb von Code, Git, Prompts und Logs
|
|
- Modell erhält niemals Passwörter, Tokens oder private Schlüssel
|
|
- keine freie Shell; spätere Tools benötigen feste Schemas, Allowlists, Timeouts und Freigaben
|
|
- Obsidian zunächst nur lesend; `.obsidian` niemals verändern
|
|
- Obsidian-Wikilinks nur bei echter inhaltlicher Beziehung, niemals nur für Graphoptik
|
|
|
|
## Seit der letzten Übergabe erledigt
|
|
|
|
- Projekt- und Vault-Pfade erneut bestätigt.
|
|
- Sicheres, plattformunabhängiges Grundgerüst erstellt.
|
|
- `READ.ME` unter Erhalt des historischen Inhalts zu `README.md` überführt.
|
|
- Architektur, Sicherheit, Bedrohungsmodell, Berechtigungen und Roadmap dokumentiert.
|
|
- Tokenbewusster Arbeitsablauf festgelegt: gezielte Reads, kurze Ergebnisse, keine unnötigen Agenten oder Plugins.
|
|
- Werkzeugempfehlung auf `uv`, Microsoft Python/Pylance/Python Environments und Ruff begrenzt.
|
|
- Langer Handoff einmalig unverändert archiviert und durch diese kompakte aktuelle Zusammenfassung ersetzt.
|
|
- Handoff-Verdichtung als Commit `e6eb995` nach `origin/main` gepusht.
|
|
- Branch `feat/core-chat` von diesem Stand erstellt.
|
|
- uv, CPython 3.12, lokale `.venv`, Ruff, Lockfile und offizielle VS-Code-Python-Erweiterungen eingerichtet.
|
|
- Ollama und llama.cpp anhand offizieller Quellen verglichen; Ollama als einfachere
|
|
erste Windows-Laufzeit gewählt.
|
|
- Ollama-Archiv gegen die offizielle SHA-256-Prüfsumme verifiziert und portabel installiert.
|
|
- `qwen3:8b` außerhalb des Repositories geladen und mit zwei echten deutschen
|
|
Modellantworten auf der RTX 3060 geprüft.
|
|
- Chatkern, Ollama-Provider, zentrale Konfiguration, SQLite-Speicher und CLI implementiert.
|
|
- 13 Unit-Tests für Konfiguration, Speicher, Verlauf, Providervertrag und CLI ergänzt.
|
|
- Echten CLI-Chat ausgeführt und dieselbe Sitzung in einem neuen Prozess geladen,
|
|
aufgelistet und erfolgreich mit einer weiteren Modellantwort fortgesetzt.
|
|
- Obsidian, Ubuntu-Laptop und Rootserver blieben unverändert.
|
|
|
|
## Aktuelle Tests
|
|
|
|
Letzter bestätigter Projektstand:
|
|
|
|
- Strukturprüfung: bestanden
|
|
- Unit-Test des Paketgerüsts: bestanden
|
|
- TOML-Parsing: bestanden
|
|
- UTF-8- und interne Markdown-Linkprüfung: bestanden
|
|
- Secret-Musterprüfung: keine Treffer
|
|
- Gitignore-Prüfung für lokale Secret-Dateien: bestanden
|
|
- uv-Lock und `uv sync --dev`: bestanden
|
|
- Python in `.venv`: 3.12.13
|
|
- Ruff in `.venv`: 0.16.0
|
|
- Unit-Tests: 13 bestanden
|
|
- Ruff Lint: bestanden
|
|
- Ruff Formatprüfung: bestanden
|
|
|
|
Lokaler Modell-Smoke-Test:
|
|
|
|
- Ollama-Version/API: 0.32.5, localhost erreichbar
|
|
- Modell: 5.225.388.164 Byte, 8,2B, Q4_K_M, Apache-2.0
|
|
- kalter Aufruf: 36,19 s Wandzeit, davon 17,53 s Laden, ungefähr 7,22 Token/s
|
|
- warmer kurzer Aufruf: 0,56 s Wandzeit, ungefähr 55,51 Token/s
|
|
- GPU-Belegung: 1.418 MiB vorher, 6.842 MiB mit geladenem Modell
|
|
- Ollama meldet 100 % GPU und 5,6 GB Modellbelegung
|
|
|
|
CLI-/Persistenz-Smoke:
|
|
|
|
- neuer CLI-Prozess erzeugte eine Sitzung und erhielt eine echte Modellantwort
|
|
- zweiter CLI-Prozess lud dieselbe UUID und zeigte zwei gespeicherte Nachrichten
|
|
- `/sessions` listete Provider, Modell und Nachrichtenanzahl korrekt
|
|
- fortgesetzte Frage erhielt die echte lokale Antwort `4`
|
|
|
|
Abnahmestatus:
|
|
|
|
- automatisiert durch Codex getestet: Core-Chat, SQLite, CLI und lokales Modell
|
|
- manuell durch Pascal getestet: am 30.07.2026 erfolgreich; CLI-Start, echte
|
|
deutsche Antworten, Sitzungskontext, `/sessions`, `/exit`, Neustart,
|
|
`/load <UUID>`, vollständiger Verlauf und Fortsetzung
|
|
- von Pascal für produktive Verwendung freigegeben: noch nicht ausdrücklich erklärt
|
|
|
|
## Git-Stand
|
|
|
|
- aktueller Branch: `main`
|
|
- stabiler Branch: `main`
|
|
- Grundgerüstcommit: `6d04171`
|
|
- letzter Commit vor der Handoff-Verdichtung: `0e82748`
|
|
- Handoff-Verdichtung auf `main`: `e6eb995`
|
|
- Python-Entwicklungsumgebung auf dem Feature-Branch: `fa90a5c`
|
|
- Laufzeit-/Modelldokumentation: `10d7cd7`
|
|
- Chatkern und CLI: `ec9b2f9`
|
|
- Unit-Tests: `b153daa`
|
|
- Feature-Dokumentation: `5d567e5`
|
|
- lokaler Merge nach `main`: `f3d6dfb`
|
|
- geprüfter und gepushter Abschlussstand vor diesem Handoff-Update: `0a550e6`
|
|
- `origin` verwendet HTTPS
|
|
- kein Force-Push und keine umgeschriebene Historie
|
|
|
|
## Kompakter Changelog
|
|
|
|
- `49a1dd3`: erster Gitea-Verbindungstest
|
|
- `6d04171`: sicheres Javis-Grundgerüst
|
|
- `0e82748`: Werkzeug-, Token- und Handoff-Regeln
|
|
- `e6eb995`: einmalige Archivierung und Verdichtung des Handoffs
|
|
- aktuell: isolierte Python-Toolchain und reproduzierbare Entwicklungsumgebung
|
|
- aktuell: portable Ollama-Laufzeit und `qwen3:8b` außerhalb von Git verifiziert
|
|
- aktuell: lokaler CLI-Chat und persistente SQLite-Sitzungen vollständig abgenommen
|
|
|
|
## Offene Entscheidungen und Fehler
|
|
|
|
- endgültiger Produkt-/Repositoryname bleibt offen
|
|
- Startmechanismus für Ollama ist noch bewusst manuell und nur pro Prozess konfiguriert
|
|
- Antworten werden noch nicht gestreamt; Sitzungen besitzen noch keine Titel oder Suche
|
|
- genauer späterer Obsidian-Schreibbereich ist nicht freigegeben
|
|
- endgültiger Secret-Provider ist offen; lokale Klartext-XML wäre nur restriktiv geschützt und Git-ignoriert zulässig
|
|
- aktuelle kostenlose Gemini-Modelle, Modellkennungen und Kontingente müssen vor
|
|
der Implementierung anhand offizieller Google-Dokumentation neu geprüft werden
|
|
- Gaming-PC zeigt derzeit nur 8 statt 16 logische CPU-Prozessoren; Ursache ungeklärt
|
|
- ASUS-Laptop ist nicht automatisch für dasselbe Modell wie die RTX 3060 geeignet
|
|
|
|
## Bekannte Risiken
|
|
|
|
- lokale Modellqualität und Geschwindigkeit unterscheiden sich stark zwischen RTX 3060 und GTX 1050
|
|
- ATM10 und Javis dürfen den ASUS-Laptop nicht gleichzeitig überlasten
|
|
- Secrets können über Logs, Prompts, Screenshots oder Git abfließen
|
|
- Cloudrouting könnte sensible Daten preisgeben; vor jedem Cloudaufruf ist deshalb
|
|
lokal `allowed`, `ask` oder `never` zu entscheiden und Kontext zu minimieren
|
|
- kostenlose Gemini-Kontingente und Modellnamen können sich ändern
|
|
- Prompt Injection aus später eingelesenen Notizen oder Webseiten
|
|
- unkontrollierter Obsidian-Schreibzugriff könnte Wissen beschädigen
|
|
- Self-hosted LiveSync ist kein Ersatz für ein getestetes Backup
|
|
- unnötige Plugins, Agenten und Cloud-Connectoren erhöhen Rechte-, Wartungs- und Tokenbedarf
|
|
|
|
## Nächster sinnvoller Auftrag
|
|
|
|
Als separates nächstes Featurepaket auf neuem Branch:
|
|
|
|
1. offizielle aktuelle Gemini-Free-Tier-Modelle und Kontingente neu prüfen
|
|
2. Secret-Provider ohne Schlüsselzugriff des Modells implementieren
|
|
3. Datenschutzrouting `allowed`/`ask`/`never` vor jedem Cloudaufruf erzwingen
|
|
4. Gemini als kostenlosen bevorzugten Provider und Ollama als lokalen
|
|
Datenschutz-/Offline-/429-Fallback implementieren
|
|
5. `free_only = true`, keine Billing-Aktivierung und alle geforderten Erfolgs-,
|
|
Key-, 429-, Netzwerk-, Fallback- und Datenschutztests nachweisen
|
|
|
|
Keinen API-Key in Chat, Git, Obsidian, Logs oder Dokumentation übernehmen.
|
|
|
|
Nicht Teil dieses Meilensteins: Obsidian-Integration, Serverzugriff, Sprache, Mobile Client oder Living-Mind-Code.
|