ICSAICSA is een commercieel bedrijf dat geld vraagt voor hun tests. Als
bedrijven de test niet halen, mogen ze het opnieuw proberen - tegen een
behoorlijke vergoeding - net zolang tot ze het halen. Je koopt zo dus
certificatie. De producten worden vlak voordat ze worden aangeboden voor
certificatie aan ICSA nog even getest door een goedkopere tester.
Het gewicht dat aan certificatie wordt toegekend is meestal te hoog in
verhouding tot de garantie die dat in de praktijk biedt.
Virus BulletinVirus Bulletin gebruikt net als de meeste betrouwbare andere testers de
Wildlist (http:/www.wildlist.org) als basis voor hun tests. Sommige
producten passen de configuratie van hun product aan deze test aan, om
zoveel mogelijk 100% awards te verzamelen. Omdat de test gebaseerd
zijn op een beperkt aantal virussen en omdat trojans in het geheel niet
worden getest, is de waarde van deze tests gering.
http://www.av-test.orgDe beste tester is av-test.org. Zij hebben een goede, gecontroleerde
collectie. Ze leveren hun tests aan IT bladen en consumentenorganisaties.
Ze doen ook updatesnelheidtests. Wat daarbij telt is de tijd die zit tussen
het eerst verschijnen van malware en het uitkomen van de update. Hier
test je ook de heuristieke detectie mee, want dan is de tijd 0.
http://www.av-comparatives.orgav-compartives.org werkt met een ongecontroleerde collectie waarin veel
troep zit. av-comparatives krijgt die collectie direct van de makers van de
producten die getest worden. Virussen worden niet gerepliceerd.
Deze werkwijze is slecht voor de onafhankelijkheid en betrouwbaarheid,
want zo kan een leverancier precies die samples leveren die andere
producten niet detecteren.
Testen met een collectie van tienduizenden DOS "virussen" geeft
overigens weinig weer over de prestaties in de praktijk.
ongecontroleerde zoo collectiesDe test die securirty.nl laatst plaatste was uitgevoerd door een VX-er, een
virusverzamelaar. VX-ers ruilen kun virussen d.m.v. logs. Dat zijn vaak logs
van Kaspersky, die veelal bereid is om detectie toe te voegen. Kaspersky
doet het daardoor altijd goed op VX collecties.
De zo verzamelde collectie bestaat voor een groot deel uit rommel, uit niet
werkende bestanden. Vaak zijn het gewoon detectie strings die iemand in
een bestand heeft geplakt om wat te ruilen te hebben.
Het is van belang te weten dat als een virus scanner iets detecteert dat
nog niet betekent dat het ook inderdaad malware is.
De aldus verkregen testresultaten zijn dus geheel waardeloos.
IT bladenEen ander veel voorkomend probleem is de tests die journalisten zelf
uitvoeren. Omdat zij de deskundigheid en een betrouwbare collectie
ontberen zijn de zo verkregen resultaten vergelijkbaar met die van een VX
collectie (wat ook vaak de bron is van de malware). Een slechte reputatie
heeft Data Testlab in België en CNet.
Gelukkig vragen de meeste bladen tegenwoordig hulp bij betrouwbare
testers zoals av-test.org.
TrojansVerder gaat het tegenwoordig niet meer om virussen maar om malware in
het algemeen, vaak trojans. Nieuwe virussen komen nog weinig in het wild
voor, nieuwe trojans des te meer. Die moet je dus testen.
Wildlist - http://www.wildlist.orgDe Wildlist houd bij welke virussen in het wild voorkomen. Er wordt
gerapporteerd door anti-virus producenten, enkele onafhankelijken en een
aantal grote bedrijven.
Helaas komt het de av bedrijven goed uit zich te beperken tot virussen en
trojans geheel uit te sluiten voor de Wildlist. Hierdoor komt geen
betrouwbare informatie beschikbaar over welke trojans in het wild
voorkomen.