studenten Toegepaste Informatica bouwen eigen A.I. chatserver
Verhaal

Studenten Toegepaste Informatica bouwen eigen A.I. chatserver

Het nieuws staat er dezer dagen vol mee: grote doorbraken in de artificiële intelligentie (A.I.) De impact van technologieën als ChatGPT en Copilot voor developers valt nu al niet meer te overschatten en voor toepassingen daarbuiten lijkt de sky the limit. Binnen onze digital opleidingen bruist het steeds van passie voor nieuwe technologieën, zo bouwen enkele tweedejaarsstudenten Toegepaste Informatica een eigen A.I. chatserver.

Het was een spontaan initiatief waarbij studenten graag extra kennis en ervaring wilden opbouwen rond installatie, beheer, servers, A.I. enz. Onder coachende begeleiding van docent Geert Coulommier gingen enkele studenten aan de slag. We stelden state-of-the-art A.I. hardware beschikbaar (voor de nerds onder ons: 2x Intel Xeon Gold 6240R processor 24core CPU, 384GB DDR4 RAM en 4x tesla V100 16GB VRAM) en studenten gingen de uitdaging aan. Na een paar weken is de eerste proefversie een feit: de open-source Large Language Model LLama van Meta (het moederbedrijf van Facebook) in combinatie met de 13B versie van Alpaca (opgesteld door Stanford University). 

De toekomst is nu 

Uiteraard gelden ook hier de klassieke beperkingen van A.I. en is de boodschap nog steeds om er verstandig mee om te gaan. Het is alleszins indrukwekkend hoe op een machine waarvan momenteel nog maar een fractie van de capaciteit wordt gebruikt, lokaal een volwaardig A.I. model draait dat antwoorden biedt waarvan we een half jaar geleden dachten dat het nog zéér verre toekomstmuziek was. En vooral dat dit werd gerealiseerd door enkele gemotiveerde studenten op enkele weken tijd. Wat nu? Studenten gaan verder op zoek naar manieren om de rest van de capaciteit van de machine te gebruiken en onze docenten blijven hen coachen bij hun projecten.

Deel dit