Een persoonlijke knowledge base, gebouwd met een LLM.
innops ontwikkelt een persoonlijke knowledge base, geïnspireerd op het publieke werk van Andrej Karpathy. Onze versie, met de keuzes die we maakten op retrieval, chunking, en de dagelijkse-gebruiks-loop. Plus wat we naar een klant-traject zouden meenemen (en wat niet).
DE VORM
De basisvorm die Karpathy schetste: je eigen schrijven. Vergadernotities, leeshighlights, halfafgeronde essays. Wordt gechunkt, geëmbed, en opgeslagen. Een retrieval-laag haalt de relevante chunks op voor elke prompt. Een LLM synthetiseert eroverheen. Het resultaat is een persoonlijke Claude / GPT die weet wat je al hebt gedacht, niet enkel wat het publieke internet denkt.
De meeste persoonlijke-KB-pogingen falen op één van drie plekken: de ingest is te pijnlijk om dagelijks te zijn; de retrieval haalt te veel ruis op; de dagelijkse-gebruiks-loop heeft geen echte gewoonte eraan vast. De volledige write-up loopt door de keuzes die we maakten op elk van die drie punten en welke standhielden na drie maanden dagelijks gebruik.
WAT WE NAAR EEN KLANT-TRAJECT BRENGEN
- Andrej Karpathy. Publieke posts over persoonlijke LLM-tooling
- Jerry Liu / LlamaIndex. Retrieval-patterns & chunking-strategieën
- Hamel Husain. Evaluation-driven development voor RAG