Apple gaat gebruikersdata analyseren voor eigen 'AI-modellen'
Apple gaat data van gebruikers analyseren om zo naar eigen zeggen de eigen 'AI-modellen' te verbeteren. Dit zal alleen gebeuren bij gebruikers die akkoord hebben gegeven om Device Analytics met Apple te delen. De analyses zullen worden gebruikt voor de samenvattingen, tekstgeneratie en andere features van Apple Intelligence.
Apple maakt gebruik van synthetische data voor het trainen van de eigen 'AI-modellen'. Met het analyseren van gebruikersdata wil het techbedrijf nu kijken hoe nauwkeurig het hiermee is. Het gaat hiervoor e-mails op de iPhones, iPads of Macs van gebruikers analyseren. Met de echte e-mails wil Apple kijken welke synthetische data het meest overeenkomt met of aansluit op echte berichten.
Het techbedrijf zegt dat de inhoud van gebruikte e-mails nooit het apparaat verlaat en nooit met Apple wordt gedeeld. "Een deelnemend apparaat zal alleen een signaal versturen welke van de varianten het dichtst bij de gebruikte data op het apparaat ligt, en Apple leert welke synthetische e-mails het vaakst op alle apparaten is gekozen, niet welke embedding door een individueel apparaat was geselecteerd", aldus de uitleg in een blogpost.
Apple zegt dat het op deze manier nauwkeurige synthetische data kan genereren zonder dat het hiervoor e-mails van gebruikers hoeft te verzamelen of lezen. "Deze technieken laten Apple algehele trends begrijpen, zonder informatie over individuen te leren, zoals welke prompts ze gebruiken of de inhoud van hun e-mails."
Of zelfs een beschrijving van de mails door AI.
Daarnaast lijkt een AI een perfecte tool voor client side scanning op de iPhone en andere apparaten zonder daadwerkelijk gebruikersdata te verzenden, dan kunnen ze een beschrijving verzenden, of een simpel "dit is slecht en dit niet" analyse.
Zodra er een "slecht" uit voortkomt zal het alsnog worden gelezen, en daar gaat het fout.
Daarmaast zal Apple nooit wat verzamelen, dat besteden ze uit aan bedrijven van derden.
Zelfs een ongeletterde digibeet neemt Apple's veronderstelde privacy preserving motieven met een korreltje zout.
Tot op heden is die optie nog beschikbaar, maar Apple een beetje kennende zal bij één van de volgende updates AI standaard in Os geïntegreerd zijn...
Nog wel, of bij een volgende update staat het "per ongeluk" weer aan.
De link naar de blogpost wijst weer door naar een ander webpagina en daar staat uitgelegd:
One area where we’ve been applying our work on differential privacy with Apple Intelligence is Genmoji. For users who opt in to share Device Analytics with Apple, we use differentially private methods to identify popular prompts and prompt patterns, while providing a mathematical guarantee that unique or rare prompts aren’t discovered and that specific prompts cannot be linked to individual users.
Dus schijnbaar moet er (ooit) toestemming zijn gegeven.
(@Redactie)Mss handig om aan te geven waar en hoe dit uit te zetten is?
Maar ik wil niet dat mijn data voor AI wordt gebruikt, en dan maakt het voor mij niet uit naar welke tech-fabrikant de data wordt verstuurd.
De link naar de blogpost wijst weer door naar een ander webpagina en daar staat uitgelegd:
One area where we’ve been applying our work on differential privacy with Apple Intelligence is Genmoji. For users who opt in to share Device Analytics with Apple, we use differentially private methods to identify popular prompts and prompt patterns, while providing a mathematical guarantee that unique or rare prompts aren’t discovered and that specific prompts cannot be linked to individual users.
Dus schijnbaar moet er (ooit) toestemming zijn gegeven.
(@Redactie)Mss handig om aan te geven waar en hoe dit uit te zetten is?
Op een iPad heet de optie “Share iPad Analytics”
https://www.security.nl/posting/884111/Meta+gaat+%27AI%27+trainen+met+gegevens+van+Europese+gebruikers
En aan het Data Privacy Framework heb je dan ook niet veel..
https://en.wikipedia.org/wiki/EU-US_Data_Privacy_Framework
Gezonde alternatieven zijn apparaten en besturungsystemen waarin geen AI zit ingebakken. (Linux, GrapheneOS, LineageOS, etc)
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Information Security Officer Operationele Techniek (ISO)
Heb jij kennis van procesautomatisering en interesse in security en informatiebeveiliging? Solliciteer dan op de functie van (aankomend) Information Security Officer bij Hoogheemraadschap Hollands Noorder-kwartier in Heerhugowaard. Als ISO Opera-tionele techniek draag jij bij aan de veiligheid van onze informatie en systemen.
Cybersecurity Trainer / Full Stack Developer
bij Certified Secure
Ben je toe aan een nieuwe nieuwe job waarmee je het verschil maakt? Wil jij je security kennis graag delen en hands-on laten zien hoe cybersecurity in de praktijk echt werkt? Werk je net als wij graag samen met enthousiaste en gedreven collega's? Bij ons geen bureaucratie maar open communicatie en een werkomgeving gericht op samenwerking.
Junior DevOps Engineer
Certified Secure is op zoek naar een Junior DevOps Engineer. Deze functie is een stuk interessanter dan de term doet vermoeden! Om jou als potentiële nieuwe collega meteen te laten zien wat we doen hebben we speciaal voor jou een selectie gemaakt van een aantal leuke security challenges. Are you ready for a challenge?
