AI en NPU's
AI verhuist van alleen de cloud naar je eigen laptop, telefoon en auto.
Belangrijkste ontwikkelingen
AI-agents
Systemen die niet alleen antwoorden, maar ook stappen uitvoeren: zoeken, code schrijven, bestanden bewerken en tools aanroepen.
Kleine, lokale modellen
Compacte modellen draaien op je eigen apparaat. Dat is sneller, werkt offline en houdt je gegevens bij jezelf.
Multimodale modellen
Eén model dat tekst, beeld, geluid en video begrijpt en kan combineren.
De AI-pc
Laptops met een ingebouwde NPU voor taken zoals ruisonderdrukking, vertaling en lokale assistenten.
Redeneermodellen
Modellen die eerst stap voor stap nadenken voordat ze antwoorden, wat vooral helpt bij wiskunde, code en planning.
Compressie
Kwantisatie en distillatie maken modellen kleiner en zuiniger, zonder dat ze veel aan kwaliteit inboeten.
Retrieval
Modellen die eerst in jouw documenten zoeken en dan pas antwoorden, zodat ze minder dingen verzinnen.
Verantwoord gebruik
Bronvermelding, controle door mensen en duidelijke regels blijven nodig, zeker bij belangrijke beslissingen.
Drie soorten rekenkernen
| Type | Sterk in | Typisch gebruik |
|---|---|---|
| CPU | Flexibel, veel soorten taken | Besturingssysteem, apps |
| GPU | Enorm veel parallelle berekeningen | Games, training van AI |
| NPU | Zuinig AI-rekenwerk | Lokale AI op laptop en telefoon |
Zo draai je AI lokaal
1. Kies een klein model
Begin met een compact open model dat in het geheugen van je computer past.
2. Gebruik een lokale app
Er zijn gratis programma's waarmee je modellen downloadt en er direct mee chat.
3. Test met eigen taken
Probeer samenvatten, vertalen of code uitleggen en vergelijk met een cloudmodel.