Je hebt een klacht over de onderstaande posting:
Door DeZin: In principe modellen gebruiken die je zelf kán hosten sta ik volledig achter, maar dat perse 'lokaal' (is dat lokaal op elke client of on-prem hosted?) is weer een ander verhaal. Als we uitgaan van on-prem zelf gehost, hebben alsnog de meeste overheidsinstellingen niet de expertise in huis om dat goed aan te pakken en ontsluiten. Stel regels aan hoe de modellen die je gebruikt gehost worden, maar de hosting van een model uitbesteden aan een betrouwbare (Nederlandse of Europese) MSP zou gewoon moeten kunnen. Het zijn politici, die kunnen de voor- en achterkant van een varken niet eens onderscheiden. Helaas blèren ze ongeïnformeerde 'oplossingen' zonder zelf ook maar enige bit kennis te hebben over computers, laat staat AI. Als je het echte deepseek 671B model wil draaien, dan kan dat inderdaad 'lokaal' maar daarmee bedoelt men: op minimaal een relatief oké server met 32 cores en 192 GB geheugen. Dat zijn minimums waar je het model in 20 minuten in kan laden en je een reactietijd geeft van in ...
Beschrijf je klacht (Optioneel):