IEEE lanceert online trainingscursus over grote taalmodellen

IEEE heeft via zijn Educational Activities en de IEEE Computer Society een online cursusprogramma gelanceerd met de titel 'Large Language Models Demystified' op het IEEE Learning Network. Het programma bestaat uit vijf cursussen die ingaan op de techniek achter generatieve AI, en behandelt de evolutie van statistische methoden tot transformers, transformerarchitecturen met self-attention en positionele codering geïmplementeerd in NumPy en Python, geavanceerd LLM-ontwerp, trainingspijplijnen in PyTorch met parameter-efficiënte technieken zoals low-rank adaptatie en kwantisatie, en optimalisatie, afstemming en implementatie, inclusief RLHF (Reinforcement Learning from Human Feedback) en RAG (Retrieval-Augmented Generation). Het programma is bedoeld om tegemoet te komen aan de groeiende vraag naar technische expertise, aangezien de LLM-markt naar verwachting tot 2030 jaarlijks met 33% zal groeien. Deelnemers verdienen professionele ontwikkelingscredits en een digitale badge van IEEE. Het artikel bespreekt ook vier gebieden waar LLM's het ingenieurs werk veranderen: verder gaan dan basisprompts via API's, hallucinaties verhelpen met RAG, prioriteit geven aan gegevensbeveiliging met privémodelinstanties, en betere samenwerking mogelijk maken door repetitieve taken te automatiseren.