Retrieval-Augmented Generation (RAG) enables answering functional, technical and domain-related questions about large codebases using LLMs, thus supporting developers in onboarding, feature development, or error analysis. In traditional RAG, code fragments relevant to the query are selected using similarity search. However, this method can miss critical code segments that are not directly related to the query but are crucial for correctly answering the question. As part of her master's thesis at itestra, Helena is researching an extension of RAG with enhanced code retrieval capabilities based on LLM agents. This aims to deliver more precise code snippets, significantly improving the quality of the answers. Helena uses Llama 3 70B and runs the entire setup on-premise on our own Nvidia RTX 6000 Ada, making it suitable for projects where the source code should not be processed in the cloud. #SoftwareEngineering #CodeAnalysis #ArtificialIntelligence #GenerativeAI #RetrievalAugmentedGeneration #LargeLanguageModel
Ivaylo Bonev
2w
Ein Thema mit hohem Potential und Nutzen. Viel Erfolg!
Danke an itestra für die Förderung dieser Masterarbeit! 🙏 Die Bereitstellung der Hardware und die Zusammenarbeit mit internen Experten ist eine riesige Unterstützung. Besonderer Dank gilt meinem Kollegen Christian Feiler, der meine Begeisterung für RAG und seine wertvolle Erfahrung mit mir teilt.