Stage: cross-linguale transfer voor Nederlandse LLM-pretraining
In deze afstudeerstage onderzoek je bij TNO of Nederlandse taalmodellen in de pretraining meer hebben aan Engelse of aan Duitse data. Ook zoek je uit welke taalverhouding het beste werkt voor soevereine LLM's.
Via de knop Solliciteer nu op de TNO-site; een Nederlands woonadres en inschrijving bij een onderwijsinstelling zijn vereist
Over de opdracht
De stage bouwt voort op de ATLAS-studie naar meertalige transfer, waarin het Nederlands ontbrak. In de eerste fase reproduceer je de Bilingual Transfer Score en train je eentalige en tweetalige modellen. In de tweede fase test je verschillende verhoudingen tussen Nederlandse, Engelse en Duitse data binnen een vast rekenbudget. Op te leveren zijn een reproduceerbare replicatie, een vergelijking tussen de brontalen, een advies over de datamix en een masterscriptie. De stage is bedoeld voor masterstudenten AI of een verwante studie. De vergoeding is € 615 per maand bij een fulltime stage.
Wat er gevraagd wordt
MSc Artificial Intelligence
LLM-pretraining
Python
Experimenteel ontwerp
Modelevaluatie
Waar zit AI in?
De stage gaat over het pretrainen van taalmodellen (LLM's) en het meten van kennisoverdracht tussen talen.
AI is het werk zelf.
Zo pak je dit aan met AI
Laat een AI-assistent helpen met het opzetten van trainings- en evaluatiescripts en het reproduceren van de BTS-methode. Houd zelf de experimentele opzet en de interpretatie van de resultaten in de hand.
Suggestie door AIEen idee voor een aanpak, geen eis van de opdrachtgever.
Past dit bij je?
Deze opdracht gaat over onderzoekenlesgeven
Met een profiel op actiefai zie je in je portaal welke opdrachten bij jou passen, en reageer je op vragen van bedrijven die hier zelf iets uitzetten.
Deze pagina is met AI gemaakt op basis van de oorspronkelijke plaatsing bij TNO. Kijk daar voor de precieze voorwaarden. Klopt er iets niet, of wil je dat deze opdracht hier niet staat? Laat het ons weten, dan halen we hem weg.
We willen Google Analytics gebruiken om te zien welke pagina's gelezen worden, zodat we de site kunnen verbeteren. Dat zet cookies. Er gaat niets naar Google zolang je niet akkoord gaat, en je kunt je keuze altijd wijzigen via "Cookie-instellingen" onderaan de pagina. Meer over cookies.