Door Anoniem: Ik ben dol op AI, (al is de afkorting "AI onzin aangezien het hier niet gaat om kunstmatige instelligentie maar om een algoritme in de vorm van een soort zoekmachine) ik draai het op zowel mijn PC als telefoon en tablet. Ik draai alleen offline software en AI-modellen gebaseerd op vrije software. Mijn Tensor G2+8GB werkgeheugen kan het wel aardig aan met modellen tot 7B parameters. Meestal draai ik niet hoger dan 4-5bit modellen, anders wordt het te traag. Ook mijn Ryzen 5 4500U (integrated GPU) vind het wel okee zolang ik meer VRAM toewijs via de UMA framebuffer. Daarnaast heb ik lekker snel 64GB werkgeheugen, (met vermindering van geheugen via de UMA framebuffer) en een snelle SSD. Ook GNU/Linux gaat er goed mee om. Daarnaast houd ik niet van censuur, dus draai ik ongecensureerde modellen, ik vindt het super irritant om in "discussie" te gaan met mijn computers om daar omheen te werken, als ik bijv. sappige grappen wil horen of de AI denkt dat ik iets serieus meen wil ik gewoon waar mijn ...