EFF wil dat verdachten toegang krijgen tot broncode forensische software
Broncode en andere onderdelen van forensische software die in strafzaken worden gebruikt moeten altijd toegankelijk voor verdachten en hun advocaten zijn, zo vindt de Amerikaanse burgerrechtenbeweging EFF. Zonder inzicht in de werking van dergelijke programma's kunnen onschuldige mensen ten onrechte worden veroordeeld en zijn gerechtelijke vonnissen niet te vertrouwen.
De EFF stuurde onlangs een 'amicus curiae brief' naar een Amerikaanse rechtbank waarin het oproept tot het toegankelijk maken van de broncode. Amicus curiae, wat staat voor 'vrienden van de rechtbank', betreft organisaties en personen die geen partij zijn in een zaak, maar gevraagd of ongevraagd hun mening of advies over een zaak aan de rechtbank geven.
De zaak in kwestie gaat over een Amerikaanse man die eerder wegens een misdrijf was veroordeeld en in het bezit zou zijn geweest van een vuurwapen. Daarmee zou de man federale wetgeving hebben overtreden. Het vuurwapen was niet bij de man aangetroffen, maar in een auto die hij zou hebben bestuurd. Dna-onderzoek naar het wapen leverde geen sluitend bewijs op, aangezien er sporen van verschillende personen werden aangetroffen.
Daarop werd het dna-materiaal naar een bedrijf gestuurd dat via dna-software verschillende tests uitvoerde om te bepalen van hoeveel mensen het dna op het vuurwapen was aangetroffen. De Amerikaanse man was één van de personen van wie het dna werd gevonden, aldus de software. De advocaat van de man verzocht inzage in de broncode van de dna-software, maar dat verzoek werd geweigerd. Volgens de Amerikaanse overheid is de broncode beschermd door handelsgeheimen.
Volgens de EFF is ook dna-analysesoftware niet immuun voor fouten en bugs, en kunnen verdachten niet worden gedwongen om iemand op zijn woord te geloven als het gaat om het bewijs op basis waarvan ze worden veroordeeld. Onderzoek naar andere forensische software toonde eerder al fouten aan waardoor er werd getwijfeld aan de nauwkeurigheid van de software en hoe geschikt dergelijke tools zijn om binnen het strafrechtelijk systeem te worden gebruikt.
Door het niet inzichtelijk maken van de broncode wordt het recht op confrontatie zoals beschreven in het zesde amendement van de Amerikaanse grondwet overtreden, aldus de EFF. De verdachte beschikt namelijk niet over de informatie om het vermeende bewijsmateriaal in twijfel te trekken. De Amerikaanse burgerrechtenbeweging wil nu dat broncode standaard openbaar wordt. Bij uitzondering zou de openbaarmaking kunnen worden beperkt tot de verdachte en zijn advocaten, maar openbaarmaking moet de standaard worden. Anders kan er geen vertrouwen in het vonnis zijn, besluit de EFF.
Reacties (32)
Ik vind het EFF over het algemeen geweldig. Maar dit kan echt niet.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
04-08-2020, 13:10 door
Reinder
Nooit bij stil gestaan, maar ze hebben zeker een punt ja. Als je als verdachte maar moet accepteren dat je schuldig bent omdat een door mensen bestuurd en gecontroleerd apparaat zegt dat je schuldig bent zonder dat je dat in twijfel kan trekken dan heb je je recht op een goede verdediging kunnen uitvoeren.
Dat kan nog heel interessant worden als ze dit breder trekken. Ik ben benieuwd.
Binnenkort al die bron code weer te downloaden ergens zeker.
Binnenkort al die bron code weer te downloaden ergens zeker.
04-08-2020, 13:38 door
buttonius
Naar mijn mening (maar ik ben geen jurist), zou informatie waarvan de herkomst onduidelijk of oncontroleerbaar is niet gebruikt mogen worden in een rechtszaak.
Door Anoniem: Ik vind het EFF over het algemeen geweldig. Maar dit kan echt niet.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
wat nu als er een wapen / drugs met afdrukken van de CEO van je concurrent in een auto gevonden wordt?
Door Anoniem: Ik vind het EFF over het algemeen geweldig. Maar dit kan echt niet.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
Nou, in Nederland heeft een verdachte overigens wel recht tot inzage in zijn Dossier. Ik zeg niet dat je maar meteen alles moet kunnen natrekken (dat is weggelegd voor de advocaat), maar het kan niet zo zijn dat er geen zicht komt op de vraag of je wel een eerlijk proces hebt gekregen of niet. Daar mag al helemaal geen onduidelijkheid over bestaan.Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
04-08-2020, 14:17 door
souplost
[q] Volgens de EFF is ook dna-analysesoftware niet immuun voor fouten en bugs, en kunnen verdachten niet worden gedwongen om iemand op zijn woord te geloven als het gaat om het bewijs op basis waarvan ze worden veroordeeld [/q]
Er zitten best veel onschuldige mensen in gevangenissen lees ik zo af en toe. Misschien ook wel door een bug in software.
Dus ja open die source en doe gelijk ook maar de stem software etc.
Er zitten best veel onschuldige mensen in gevangenissen lees ik zo af en toe. Misschien ook wel door een bug in software.
Dus ja open die source en doe gelijk ook maar de stem software etc.
04-08-2020, 14:29 door
karma4
Aan broncode is niets degelijks te halen voor specifieke gevallen. Miljoenen reels doorlopen en dan denken dat je de uitzondering die anderen niet gezien hebben je wel zal zien en dat het ook nog een gevolg in een specifieke situatie zou hebben? Het is op de angst van onzekerheden inspelen met een kwalijk doel dat schuldigen nooit veroordeeld worden.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
wat nu als er een wapen / drugs met afdrukken van de CEO van je concurrent in een auto gevonden wordt?
Dat heeft geen zak te maken met forensische software.
En ik denk dat het helemaal geen probleem is om de broncode inzichtelijk te maken.
Overigens een forensisch rapport bestaat uit feiten en is op zo'n manier opgebouwd dat een forensische onderzoeker van de tegenpartij eventueel met open source software op precies dezelfde resultaten uitkomt. Het is helemaal reproduceerbaar.
Het heeft hier sterk de schijn dat de EFF totaal niet snapt hoe het werkt, anders waren ze hier niet aan begonnen.
Door Anoniem: Ik vind het EFF over het algemeen geweldig. Maar dit kan echt niet.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Nee, slecht plan EFF! Ga je weer bezig houden met e2e encryptie.
Er zijn meer besturingssystemen waarvan de broncode al open source is dan waarvan de broncode gesloten is..
En verder: Is het beschermen van zo'n "handelsgeheim" dan meer waard dat het fundamentele, principiele recht op een eerlijk proces, op inzicht in hoe bewijsvoering tot stand gekomen is, het controleren of laten dubbel-checken dat onderzoek door een derde partij eerlijk gedaan is?
Zou jij het accepteren als jij verdachte zou zijn van iets, en er is een "dna-bewijs-kast", in beheer door een derde partij, waar wat van jouw DNA in gestopt wordt en die dan altijd alleen maar zegt "Match!", en als je vraagt om te weten hoe dat apparaat tot die conclusie komt krijg je als antwoord dat dat een handelsgeheim is? Ik ken de bewuste casus niet, maar misschien is die verdachte wel echt onschuldig. Het zou niet voor het eerst zijn dat er bij forensisch onderzoek fouten gemaakt worden. Ook bij 99.9% betrouwbaarheid is dus 1 op de 1000 fout. De verdediging moet dat onderzoek kunnen controleren of aanvechten, dat er een machine gebruikt wordt met closed-source software er in doet aan dat principe niets af.
De broncodes van de medische en forensische applicaties beschikbaar onder de Debian, Kali en Parrot Linux distributies zijn reeds openbaar, dus ik zie niet in waarom de ten behoeve van rechtzaken toegepaste bio-informatica toepassingen in geaccrediteerde forensische DNA-profilering laboratoria, zoals die bij het NFI, dat ook niet zouden kunnen zijn. Bij mijn weten is dat overigens in het merendeel van de PCR-toepassingen binnen forensische labs in de EU reeds wel geval.
De vraag is dus in tot hoeverre de stellingname van de EFF.org hier in de EU ter zake doet. Een praktisch probleem is wel dat de C/C++, Perl, Python en R broncodes, van sommige van de meer eenvoudige pakketten, snel in de duizenden tot tienduizenden regels loopt. Daarom wens ik de verdachte, en zijn of haar advocaat, hierbij dan ook veel succes met het uitvlooien van de beschikbare open broncodes. Anders wordt het goed zaken doen, als externe broncode auditor.
Ik zie de resultaten van al die nijverheid later wel verschijnen in de eveneens geopenbaarde stukken van de rechtbanken.
https://blends.debian.org/med/tasks/
De vraag is dus in tot hoeverre de stellingname van de EFF.org hier in de EU ter zake doet. Een praktisch probleem is wel dat de C/C++, Perl, Python en R broncodes, van sommige van de meer eenvoudige pakketten, snel in de duizenden tot tienduizenden regels loopt. Daarom wens ik de verdachte, en zijn of haar advocaat, hierbij dan ook veel succes met het uitvlooien van de beschikbare open broncodes. Anders wordt het goed zaken doen, als externe broncode auditor.
Ik zie de resultaten van al die nijverheid later wel verschijnen in de eveneens geopenbaarde stukken van de rechtbanken.
https://blends.debian.org/med/tasks/
Door karma4: Aan broncode is niets degelijks te halen voor specifieke gevallen. Miljoenen reels doorlopen en dan denken dat je de uitzondering die anderen niet gezien hebben je wel zal zien en dat het ook nog een gevolg in een specifieke situatie zou hebben? Het is op de angst van onzekerheden inspelen met een kwalijk doel dat schuldigen nooit veroordeeld worden.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
Je draait de zaken zoals altijd weer om. Het bewijs waar het hier om gaat is de sleutel in deze zaak en dus de basis van een eventuele veroordeling. Dat betekent dat het bewijs voorbij de redelijke twijfel is. Een ondoorzichtig algorithme dat 'ja' of 'nee' uitspuugt is dat niet zonder nader onderzoek. Er is al aangetoond dat software op basis van gekleurde data ook gekleurde resultaten geeft dus dat de verdediging wil weten hoe dat antwoord tot stand is gekomen is meer dan redelijk. Een menselijke expert is juist waardevol omdat hij zijn opinie gedegen onderbouwt. Als software die rol inneemt wordt hetzelfde verwacht.
Software kan al snel miljoenen regels broncode bevatten
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
04-08-2020, 15:46 door
Briolet
Door Anoniem: Software kan al snel miljoenen regels broncode bevatten
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
En als je het moeilijk wilt maken, stel je de broncode beschikbaar, nadat je er het commentaar uit gefilterd hebt.
04-08-2020, 16:48 door
MathFox
Door Anoniem: En ik denk dat het helemaal geen probleem is om de broncode inzichtelijk te maken.
Overigens een forensisch rapport bestaat uit feiten en is op zo'n manier opgebouwd dat een forensische onderzoeker van de tegenpartij eventueel met open source software op precies dezelfde resultaten uitkomt. Het is helemaal reproduceerbaar.
In dit geval lijkt het er op dat het rapport iets is als "we hebben deze data in een black box gestopt en daar kwam als resultaat schuldig uit". Als die verklaring essentieel is voor de veroordeling wil je als verdachte heel graag inzicht in hoe die zwarte doos werkt; het gaat hier wel om een paar jaar vrijheid.Overigens een forensisch rapport bestaat uit feiten en is op zo'n manier opgebouwd dat een forensische onderzoeker van de tegenpartij eventueel met open source software op precies dezelfde resultaten uitkomt. Het is helemaal reproduceerbaar.
De principiele vraag is denk ik wel te begrijpen, maar het is mi niet realistisch om te denken dat derde partijen dan iets zinnigs zouden kunnen zeggen over die broncode. Het gaat niet om een paar regeltjes basic.
Lijkt eerder een juridisch instrument om rechtszaken te vertragen.
Nog een suggestie: de firmware van de apparatuur waar de forensisch onderzoekers mee werken moet ook beschikbaar komen voor de verdachte.
Weer een paar jaar verder.
Lijkt eerder een juridisch instrument om rechtszaken te vertragen.
Nog een suggestie: de firmware van de apparatuur waar de forensisch onderzoekers mee werken moet ook beschikbaar komen voor de verdachte.
Weer een paar jaar verder.
Door Anoniem: De principiele vraag is denk ik wel te begrijpen, maar het is mi niet realistisch om te denken dat derde partijen dan iets zinnigs zouden kunnen zeggen over die broncode. Het gaat niet om een paar regeltjes basic.
Lijkt eerder een juridisch instrument om rechtszaken te vertragen.
Nog een suggestie: de firmware van de apparatuur waar de forensisch onderzoekers mee werken moet ook beschikbaar komen voor de verdachte.
Weer een paar jaar verder.
Lijkt eerder een juridisch instrument om rechtszaken te vertragen.
Nog een suggestie: de firmware van de apparatuur waar de forensisch onderzoekers mee werken moet ook beschikbaar komen voor de verdachte.
Weer een paar jaar verder.
Als die firmware van relevante invloed is op het vonnis zou dat inderdaad het geval zijn. Echter wordt veel apparatuur geijkt en is de relevantie van het resultaat zo geborgd. Bij black box software werkt dat niet een volgt dus vanzelf het verzoek in te zien hoe die black box werkt. Bewijs moet transparant en controleerbaar zijn, anders is het geen bewijs.
Door Anoniem: Ik vind het EFF over het algemeen geweldig. Maar dit kan echt niet.
Als ik me goed herinner, het is een poos geleden, is in het verleden hetzelfde geëist bij software waarop elektronische breathalizers werken waarmee op alcoholgebruik wordt gecontroleerd. Dat leidde tot de ontdekking de software van een breathalizer met een uitslag waarmee iemand voor dronken rijden veroordeeld dreigde te worden zo onbetrouwbaar was dat de veroordeling niet doorging en een hoop eerdere veroordelingen op losse schroeven kwamen te staan.Als de software niet gecontroleerd kan worden kan het bewijs niet gecontroleerd worden. Vind jij dat mensen op basis van oncontroleerbaar "bewijs" veroordeeld moeten kunnen worden? Dat kan echt niet.
Een concurrent kan dan een vuurwapen achterlaten in een huurauto om toegang te krijgen tot alle broncode van hun concurrent. En misschien wil de verdediging ook toegang tot de broncode van het onderliggende besturingssysteem.
Dat hoeft niet. Er bestaan bedrijven die audits uitvoeren op software onder een non-disclosure agreement. Men kan de software laten controleren door een derde partij waar iedereen mee accoord gaat, en dan komt de broncode niet op ongewenste plekken terecht.Als dat niet te regelen is dan is wat die software aantoont niet meer dan de mening van iemand die je al dan niet als deskundig kan zien. Daar staan dan de deskundigen tegenover die niet in staat waren een DNA-match te herkennen.
Door MathFox:
Door Anoniem: En ik denk dat het helemaal geen probleem is om de broncode inzichtelijk te maken.
Overigens een forensisch rapport bestaat uit feiten en is op zo'n manier opgebouwd dat een forensische onderzoeker van de tegenpartij eventueel met open source software op precies dezelfde resultaten uitkomt. Het is helemaal reproduceerbaar.
In dit geval lijkt het er op dat het rapport iets is als "we hebben deze data in een black box gestopt en daar kwam als resultaat schuldig uit". Als die verklaring essentieel is voor de veroordeling wil je als verdachte heel graag inzicht in hoe die zwarte doos werkt; het gaat hier wel om een paar jaar vrijheid.Overigens een forensisch rapport bestaat uit feiten en is op zo'n manier opgebouwd dat een forensische onderzoeker van de tegenpartij eventueel met open source software op precies dezelfde resultaten uitkomt. Het is helemaal reproduceerbaar.
En dat doet een forensische analist dus niet. Die zoekt de feiten en de aanklager en de getuigenexpert(s) die gebruiken die informatie samen met de rechter om daar een uitspraak over te doen.
Door Briolet:
En als je het moeilijk wilt maken, stel je de broncode beschikbaar, nadat je er het commentaar uit gefilterd hebt.
Waarom zou je het moeilijk willen maken? Als je dat wil ben je verdacht. Het gaat er juist om dat anderen het kunnen controleren en aan tests kunnen onderwerpen. Is in het belang van iedereen, behalve van een eventuele monopolistische leverancier die geen concurrentie duld en uit is op winst maximalisatie ten koste van een enkele onschuldige.Door Anoniem: Software kan al snel miljoenen regels broncode bevatten
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
En als je het moeilijk wilt maken, stel je de broncode beschikbaar, nadat je er het commentaar uit gefilterd hebt.
Ik vraag me af waarom dit zou moeten. Als je twijfelt aan het bewijs kun je een contra-expertise vragen. Je kunt zelf op
zoek gaan naar een erkende partij die je wel vertrouwt, en hen vragen (en betalen!!) onderzoek te doen op basis van
het verzamelde bewijsmateriaal, wat de rechtbank dan ook ter beschikking moet stellen. Dan kun je de uitkomst van dat
onderzoek inbrengen in de zaak.
De broncode van de gebruikte software helemaal doorzoeken op iets wat specifiek jou verdacht maakt dat kost vast
nog veel meer.
zoek gaan naar een erkende partij die je wel vertrouwt, en hen vragen (en betalen!!) onderzoek te doen op basis van
het verzamelde bewijsmateriaal, wat de rechtbank dan ook ter beschikking moet stellen. Dan kun je de uitkomst van dat
onderzoek inbrengen in de zaak.
De broncode van de gebruikte software helemaal doorzoeken op iets wat specifiek jou verdacht maakt dat kost vast
nog veel meer.
04-08-2020, 18:51 door
MathFox
Door Anoniem:
Het "onderzoek" was in dit geval uitbesteed aan een privaat bedrijf:Door MathFox:
In dit geval lijkt het er op dat het rapport iets is als "we hebben deze data in een black box gestopt en daar kwam als resultaat schuldig uit". Als die verklaring essentieel is voor de veroordeling wil je als verdachte heel graag inzicht in hoe die zwarte doos werkt; het gaat hier wel om een paar jaar vrijheid.
En dat doet een forensische analist dus niet. Die zoekt de feiten en de aanklager en de getuigenexpert(s) die gebruiken die informatie samen met de rechter om daar een uitspraak over te doen.In dit geval lijkt het er op dat het rapport iets is als "we hebben deze data in een black box gestopt en daar kwam als resultaat schuldig uit". Als die verklaring essentieel is voor de veroordeling wil je als verdachte heel graag inzicht in hoe die zwarte doos werkt; het gaat hier wel om een paar jaar vrijheid.
EFF:
In this case, Mr. [E] was accused of violating a federal law prohibiting people who have been previously convicted of a felony from possessing a firearm (18 U.S.C. 922(g)(1)). The weapon had not been found in Mr. [E]’s possession, but was found in a car he was allegedly driving. Law enforcement officers retrieved a swab of DNA mixture from the gun, which they submitted for analysis by the police forensic lab. The lab results were inconclusive as to whether Mr. [E] could have contributed to the DNA in the mixture. The mixture sample was then sent to Cybergenetics, the owner of the probabilistic DNA software TrueAllele. Using TrueAllele, the company ran numerous variations of tests on the sample using different hypotheses to adjust the program settings, including alternative theories regarding the number of people whose DNA was in the mixture.
Prosecutors in the case seek to rely on the result of one particular analysis based on the assumption that four people contributed to the DNA sample from the gun. The results of this particular analysis suggest that Mr. [E]’s DNA was present on the gun.
(Pardon the English)In this case, Mr. [E] was accused of violating a federal law prohibiting people who have been previously convicted of a felony from possessing a firearm (18 U.S.C. 922(g)(1)). The weapon had not been found in Mr. [E]’s possession, but was found in a car he was allegedly driving. Law enforcement officers retrieved a swab of DNA mixture from the gun, which they submitted for analysis by the police forensic lab. The lab results were inconclusive as to whether Mr. [E] could have contributed to the DNA in the mixture. The mixture sample was then sent to Cybergenetics, the owner of the probabilistic DNA software TrueAllele. Using TrueAllele, the company ran numerous variations of tests on the sample using different hypotheses to adjust the program settings, including alternative theories regarding the number of people whose DNA was in the mixture.
Prosecutors in the case seek to rely on the result of one particular analysis based on the assumption that four people contributed to the DNA sample from the gun. The results of this particular analysis suggest that Mr. [E]’s DNA was present on the gun.
Uit dit verhaal maak ik op dat het resultaat van de DNA test er niet eenduidig op wees dat Mr E het wapen in handen gehad heeft; het lijkt er op dat Cybergenetics met de instellingen van TrueAllele heeft lopen spelen tot de gewenste match uit het programma kwam. (Vergelijk het met "ik heb net zolang met de calibratie van mijn lasersnelheidsmeter lopen spelen totdat ik Sinterklaas op zijn paard op 70 km/h binnen de bebouwde kom kon klokken.") In dit soort gevallen is het heel interessant om te kijken wat de specifieke instellingen doen in dat specifieke programma, maar ook te vergelijken wat andere programma's zouden zeggen met dezelfde ruwe inputdata.
En ja, het is niet verrassend dat sporen DNA van de gebruiker van de auto gevonden worden op alles wat even in de auto gelegen heeft. Huidschilvers, haren, niezen en proesten verspreiden je DNA.
Door Anoniem:
wat nu als er een wapen / drugs met afdrukken van de CEO van je concurrent in een auto gevonden wordt?
Dat heeft geen zak te maken met forensische software.
wat nu als er een wapen / drugs met afdrukken van de CEO van je concurrent in een auto gevonden wordt?
Dat heeft geen zak te maken met forensische software.
het was een reactie op de kort door de bocht redenering die er gegeven was. spiegelen. denk het door. je argument is omgedraaid toegepast op een situatie die nu geld.
Door Anoniem 17:08: Als de software niet gecontroleerd kan worden kan het bewijs niet gecontroleerd worden. Vind jij dat mensen op basis van oncontroleerbaar "bewijs" veroordeeld moeten kunnen worden? Dat kan echt niet.
Het kan ook andersom. Dat als de vrijspraak door dit closed source apparaat niet blijkt te deugen, er een heleboel vrijgesproken mensen weer opnieuw verdachte worden. En hele gezinnen opnieuw in onzekerheid verkeren.
Het is natuurlijk belangrijk dat het apparaat betrouwbaar is en goed bediend wordt. Laat daar geen twijfel over bestaan.
Anoniem 12:37
04-08-2020, 22:02 door
souplost
Door Anoniem: Ik vraag me af waarom dit zou moeten. Als je twijfelt aan het bewijs kun je een contra-expertise vragen. Je kunt zelf op
zoek gaan naar een erkende partij die je wel vertrouwt, en hen vragen (en betalen!!) onderzoek te doen op basis van
het verzamelde bewijsmateriaal, wat de rechtbank dan ook ter beschikking moet stellen. Dan kun je de uitkomst van dat
onderzoek inbrengen in de zaak.
De broncode van de gebruikte software helemaal doorzoeken op iets wat specifiek jou verdacht maakt dat kost vast
nog veel meer.
Het gaat natuurlijk niet alleen om die ene persoon. Er zijn wel meer mensen die het nut van open source niet zien.zoek gaan naar een erkende partij die je wel vertrouwt, en hen vragen (en betalen!!) onderzoek te doen op basis van
het verzamelde bewijsmateriaal, wat de rechtbank dan ook ter beschikking moet stellen. Dan kun je de uitkomst van dat
onderzoek inbrengen in de zaak.
De broncode van de gebruikte software helemaal doorzoeken op iets wat specifiek jou verdacht maakt dat kost vast
nog veel meer.
04-08-2020, 22:50 door
Remmilou
Door Anoniem:
Je draait de zaken zoals altijd weer om. Het bewijs waar het hier om gaat is de sleutel in deze zaak en dus de basis van een eventuele veroordeling. Dat betekent dat het bewijs voorbij de redelijke twijfel is. Een ondoorzichtig algorithme dat 'ja' of 'nee' uitspuugt is dat niet zonder nader onderzoek. Er is al aangetoond dat software op basis van gekleurde data ook gekleurde resultaten geeft dus dat de verdediging wil weten hoe dat antwoord tot stand is gekomen is meer dan redelijk. Een menselijke expert is juist waardevol omdat hij zijn opinie gedegen onderbouwt. Als software die rol inneemt wordt hetzelfde verwacht.
Ik ben het heel vaak oneens met Karma4, maar hier wil ik zijn mening toch verdedigen:Door karma4: Aan broncode is niets degelijks te halen voor specifieke gevallen. Miljoenen reels doorlopen en dan denken dat je de uitzondering die anderen niet gezien hebben je wel zal zien en dat het ook nog een gevolg in een specifieke situatie zou hebben? Het is op de angst van onzekerheden inspelen met een kwalijk doel dat schuldigen nooit veroordeeld worden.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
Je draait de zaken zoals altijd weer om. Het bewijs waar het hier om gaat is de sleutel in deze zaak en dus de basis van een eventuele veroordeling. Dat betekent dat het bewijs voorbij de redelijke twijfel is. Een ondoorzichtig algorithme dat 'ja' of 'nee' uitspuugt is dat niet zonder nader onderzoek. Er is al aangetoond dat software op basis van gekleurde data ook gekleurde resultaten geeft dus dat de verdediging wil weten hoe dat antwoord tot stand is gekomen is meer dan redelijk. Een menselijke expert is juist waardevol omdat hij zijn opinie gedegen onderbouwt. Als software die rol inneemt wordt hetzelfde verwacht.
De redenering die je aanhaalt betekent niet noodzakelijk het doorvlooien van code (waarvan Karma4 m.i. terecht betoogt dat dit niet zo realistisch is). Die menselijke expertise die jij aanhaalt is natuurlijk wel van belang, maar kan ook op andere wijze worden betrokken. Deels door bestudering en evaluatie van de resultaten van de software. En ja, dat kan nog steeds fouten geven. En ja, die zullen we tot op zekere hoogte moeten accepteren.
Door Anoniem: Het kan ook andersom. Dat als de vrijspraak door dit closed source apparaat niet blijkt te deugen, er een heleboel vrijgesproken mensen weer opnieuw verdachte worden. En hele gezinnen opnieuw in onzekerheid verkeren.
Mensen mogen niet twee keer voor hetzelfde feit vervolgd worden. In het Amerikaanse recht heet dat "double jeopardy":https://en.wikipedia.org/wiki/Double_jeopardy#United_States
Door Remmilou:
De redenering die je aanhaalt betekent niet noodzakelijk het doorvlooien van code (waarvan Karma4 m.i. terecht betoogt dat dit niet zo realistisch is). Die menselijke expertise die jij aanhaalt is natuurlijk wel van belang, maar kan ook op andere wijze worden betrokken. Deels door bestudering en evaluatie van de resultaten van de software. En ja, dat kan nog steeds fouten geven. En ja, die zullen we tot op zekere hoogte moeten accepteren.
Door Anoniem:
Je draait de zaken zoals altijd weer om. Het bewijs waar het hier om gaat is de sleutel in deze zaak en dus de basis van een eventuele veroordeling. Dat betekent dat het bewijs voorbij de redelijke twijfel is. Een ondoorzichtig algorithme dat 'ja' of 'nee' uitspuugt is dat niet zonder nader onderzoek. Er is al aangetoond dat software op basis van gekleurde data ook gekleurde resultaten geeft dus dat de verdediging wil weten hoe dat antwoord tot stand is gekomen is meer dan redelijk. Een menselijke expert is juist waardevol omdat hij zijn opinie gedegen onderbouwt. Als software die rol inneemt wordt hetzelfde verwacht.
Ik ben het heel vaak oneens met Karma4, maar hier wil ik zijn mening toch verdedigen:Door karma4: Aan broncode is niets degelijks te halen voor specifieke gevallen. Miljoenen reels doorlopen en dan denken dat je de uitzondering die anderen niet gezien hebben je wel zal zien en dat het ook nog een gevolg in een specifieke situatie zou hebben? Het is op de angst van onzekerheden inspelen met een kwalijk doel dat schuldigen nooit veroordeeld worden.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
Elke rechter gaat van onzekerheden uit, het gaat om een overtuigend bewijs niet om de absolute zekerheid.
Waarom dan die angst dat een vingerafdruk een gezichtsherkenning door een computer minder overtuigend is dan een uitspraak van een getuige. Wordt rechtspreken enkel emotie dan is het recht verloren.
Je draait de zaken zoals altijd weer om. Het bewijs waar het hier om gaat is de sleutel in deze zaak en dus de basis van een eventuele veroordeling. Dat betekent dat het bewijs voorbij de redelijke twijfel is. Een ondoorzichtig algorithme dat 'ja' of 'nee' uitspuugt is dat niet zonder nader onderzoek. Er is al aangetoond dat software op basis van gekleurde data ook gekleurde resultaten geeft dus dat de verdediging wil weten hoe dat antwoord tot stand is gekomen is meer dan redelijk. Een menselijke expert is juist waardevol omdat hij zijn opinie gedegen onderbouwt. Als software die rol inneemt wordt hetzelfde verwacht.
De redenering die je aanhaalt betekent niet noodzakelijk het doorvlooien van code (waarvan Karma4 m.i. terecht betoogt dat dit niet zo realistisch is). Die menselijke expertise die jij aanhaalt is natuurlijk wel van belang, maar kan ook op andere wijze worden betrokken. Deels door bestudering en evaluatie van de resultaten van de software. En ja, dat kan nog steeds fouten geven. En ja, die zullen we tot op zekere hoogte moeten accepteren.
Voor een expert stelt dat doorvlooien van de broncode weinig voor. En het gaat er natuurlijk om dat je bij open source software inzicht hebt in zowel de broncode als de wijzigingen daarop. Maar of dat in dit specifieke geval nou zo handig is? Experts staan immers onder ede en er kan contraexpertise worden gevraagd. Je kan niet gaan verlangen om elke stap in de benodigde processen inzichtelijk te moeten maken. Veel te duur en omslachtig. Het onder ede stellen en voorwaarden stellen aan de processen is meer dan afdoende. Dat is ook het altijd geweest.
Cybergenetics (www.cybgen.com), waar de EFF.org z'n pijlen mede op richt, claimt met statistische methoden ook nauwe verwanten uit elkaar te kunnen houden in geringe hoeveelheden van gemengde DNA-monsters. TrueAllele is echter closed source. Het programma zou alleen zijn gevalideerd door Cybergenetics, de ontwikkelaar zelf.
https://en.wikipedia.org/wiki/TrueAllele
TrueAllele zou thans bestaan uit zo'n 170 000 regels rcode. Naar verluid is het van groot nut geweest bij het identificeren van de vele vermisten in de nasleep van de 9/11 aanslag op het World Trade Center. Er zijn in de VS ook verdachten geweest die met de uitslagen van TrueAllele zijn vrijgepleit, maar gerechtelijke dwalingen zijn niet ondenkbaar.
De Wikipedia verwijst naar dit ProPublica artikel:
Where Traditional DNA Testing Fails, Algorithms Take Over
Machine Bias: Investigating Algorithmic Injustice
by Lauren Kirchner, Nov. 4, 2016
https://www.propublica.org/article/where-traditional-dna-testing-fails-algorithms-take-over
De open source aanpak biedt niet alleen transparantie, maar kan ook helpen om problemen aan het licht te brengen. In LikeLTD, bijvoorbeeld, een van origine Australisch open source probabilistisch genotyperingsprogramma, werd een belangrijke fout ontdekt en verholpen, juist vanwege het onderzoek van buitenaf.
Dan onderschat je de topsnelheid van een renpaard. Een volbloed Quarter Horse kan door een goede fokker en trainer worden geklokt op 88,5 km/h (55.0 mph), maar dan loopt Sinterklaas wel een erg dure schimmel over de daken. Dat risico dekt Sinterklaas' schadeverzekering niet.
https://en.wikipedia.org/wiki/TrueAllele
TrueAllele zou thans bestaan uit zo'n 170 000 regels rcode. Naar verluid is het van groot nut geweest bij het identificeren van de vele vermisten in de nasleep van de 9/11 aanslag op het World Trade Center. Er zijn in de VS ook verdachten geweest die met de uitslagen van TrueAllele zijn vrijgepleit, maar gerechtelijke dwalingen zijn niet ondenkbaar.
De Wikipedia verwijst naar dit ProPublica artikel:
Some makers of probabilistic genotyping software allow other programmers to use and modify their code. LRmix, software created by a pair of scientists in the Netherlands, EuroForMix, created by a Norwegian team, and Lab Retriever, a non-commercial program available under the Creative Commons license and uploaded to GitHub, are among the free, open-source tools available.
Where Traditional DNA Testing Fails, Algorithms Take Over
Machine Bias: Investigating Algorithmic Injustice
by Lauren Kirchner, Nov. 4, 2016
https://www.propublica.org/article/where-traditional-dna-testing-fails-algorithms-take-over
De open source aanpak biedt niet alleen transparantie, maar kan ook helpen om problemen aan het licht te brengen. In LikeLTD, bijvoorbeeld, een van origine Australisch open source probabilistisch genotyperingsprogramma, werd een belangrijke fout ontdekt en verholpen, juist vanwege het onderzoek van buitenaf.
Door MathFox: Vergelijk het met "ik heb net zolang met de calibratie van mijn lasersnelheidsmeter lopen spelen totdat ik Sinterklaas op zijn paard op 70 km/h binnen de bebouwde kom kon klokken."
Dan onderschat je de topsnelheid van een renpaard. Een volbloed Quarter Horse kan door een goede fokker en trainer worden geklokt op 88,5 km/h (55.0 mph), maar dan loopt Sinterklaas wel een erg dure schimmel over de daken. Dat risico dekt Sinterklaas' schadeverzekering niet.
05-08-2020, 14:16 door
Briolet
Door souplost:
Door Briolet:
En als je het moeilijk wilt maken, stel je de broncode beschikbaar, nadat je er het commentaar uit gefilterd hebt.
Waarom zou je het moeilijk willen maken? Als je dat wil ben je verdacht. Het gaat er juist om dat anderen het kunnen controleren en aan tests kunnen onderwerpen…Door Anoniem: Software kan al snel miljoenen regels broncode bevatten
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
En als je het moeilijk wilt maken, stel je de broncode beschikbaar, nadat je er het commentaar uit gefilterd hebt.
Je wilt de broncode beschermen zodat de concurrentie niet een deel van jouw code, al dan niet in aangepaste vorm, in hun apparatuur gaat gebruiken. Als je het dan gedwongen openbaar moet maken, doe je dat het liefst op een manier dat de concurrentie niet via het commentaar ziet waarom je bepaalde berekeningen doet.
05-08-2020, 23:52 door
souplost
Door Briolet:
Je wilt de broncode beschermen zodat de concurrentie niet een deel van jouw code, al dan niet in aangepaste vorm, in hun apparatuur gaat gebruiken. Als je het dan gedwongen openbaar moet maken, doe je dat het liefst op een manier dat de concurrentie niet via het commentaar ziet waarom je bepaalde berekeningen doet.
nee je wilt dat iedereen een zo eerlijk mogelijjk proces krijgt. Dan is het goed dat die code bestudeerd kan worden.Door souplost:
Door Briolet:
En als je het moeilijk wilt maken, stel je de broncode beschikbaar, nadat je er het commentaar uit gefilterd hebt.
Waarom zou je het moeilijk willen maken? Als je dat wil ben je verdacht. Het gaat er juist om dat anderen het kunnen controleren en aan tests kunnen onderwerpen…Door Anoniem: Software kan al snel miljoenen regels broncode bevatten
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
Veel succes om dat door te pluizen daarnaast moet je ook zeker weten waar je naar op zoek bent in de broncode
En als je het moeilijk wilt maken, stel je de broncode beschikbaar, nadat je er het commentaar uit gefilterd hebt.
Je wilt de broncode beschermen zodat de concurrentie niet een deel van jouw code, al dan niet in aangepaste vorm, in hun apparatuur gaat gebruiken. Als je het dan gedwongen openbaar moet maken, doe je dat het liefst op een manier dat de concurrentie niet via het commentaar ziet waarom je bepaalde berekeningen doet.
Het is van cruciaal belang dat beklaagden door een overheid of een andere partij de gelegenheid hebben de bewijslast en de methoden van het onderzoek volledig na te kunnen kijken. De notie dat een opsporingsorganisatie wel betrouwbaar zou zijn en dus boven de toets der kritiek staat is al meerdere keren geprobeerd en onder anderen een zodanige manier de boot in gegaan dat de termen "inquisitie" en "heksenjacht" spreekwoordelijk zijn geworden. Inbreuk doen aan de principes moet, totdat iemand daadwerkelijk kan aantonen dat er een andere manier is om dat te voorkomen, onvermijdelijk leiden tot een escalatie van veroordeling van onschuldigen op grote schaal, om het even in welke vorm, met welke omstandigheden of door welke organisatie ook. Zie recent ook weer de toeslagen- en inkomstenbelasting affaire.
Ik onderken het financiële belang van organisaties om hun broncode tegenover hergebruik van concurrenten te beschermen. Dat moet echter wijken voor het recht van mensen om niet onschuldig veroordeeld te worden, met alle impact die dat heeft op hun werkzame en sociale leven.
Ik onderken het financiële belang van organisaties om hun broncode tegenover hergebruik van concurrenten te beschermen. Dat moet echter wijken voor het recht van mensen om niet onschuldig veroordeeld te worden, met alle impact die dat heeft op hun werkzame en sociale leven.
Reageren
Deze posting is gelocked. Reageren is niet meer mogelijk.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
Cybersecurity Trainer / Streamer
Toe aan een nieuwe nieuwe job waarmee je het verschil maakt? In de Certified Secure trainingen laat je deelnemers zien hoe actuele kwetsbaarheden structureel verholpen worden. Ook werk je actief mee aan de ontwikkeling van onze gamified security challenges. Bij het maken van challenges kom je telkens nieuwe technieken tegen, van Flutter tot GraphQL, van Elastic Search tot Kubernetes.
