Door Anoniem: Ik ben al een paar keer de voorspelling tegengekomen dat over slechts enkele jaren 90% van de inhoud van het internet met AI-systemen gegenereerd zal zijn. Ik weet niet of het zo'n vaart gaat lopen, maar als dat gebeurt vind ik dat verontrustend.
De reden dat ik dat verontrustend is is dat deze AI-systemen getraind worden met data die op het internet gevonden wordt. Als straks inderdaad een substantieel deel van de data op het internet door AI-systemen is gegenereerd dan worden in toenemende mate AI-systemen getraind met de resultaten van AI-systemen. Dan ontstaan dus feedback-loops waarin ook de missers die die AI-systemen onvermijdelijk maken (want het zijn stochastische processen waar inhoudelijk begrip en toetsing aan de fysieke werkelijkheid in ontbreken) onderdeel worden van de "werkelijkheid" van die AI-systemen. We weten uit de chaostheorie dat dergelijke complexe systemen waar positieve feedback een deel van uitmaakt tot chaotische patronen kunnen leiden. Die zijn prachtig als er plaatjes van fractals mee worden geproduceerd, maar hier heb je het over inhoud die de basis vormt van wat veel mensen geloven dat de werkelijkheid is. Dat kan heel vreemd worden, en gevaarlijk.
Een ander punt van zorg is energieverbruik. Er is ontzettend veel rekenkracht nodig voor deze systemen en dat vreet dus elektriciteit. Als dit gaat hypen onder avonturiers die er geld mee denken te kunnen verdienen, en als die op een gegeven moment makkelijk over de benodigde software kunnen beschikken, dan kan dat hard gaan. En dat is niet het slag mensen dat heel verantwoord om zal gaan met de vraag of het inhoudelijk allemaal wel klopt wat hun AI-systemen genereren.
Mijn antwoord op de poll was "Even aan ChatGPT vragen". Ik heb, vanwege bovenstaande bedenkingen, ook aan "Alarmerend" gedacht, maar mijn zorg gaat meer over op hoe mensen ermee om zullen gaan en op zullen reageren dan op de technologie zelf. "Even aan ChatGPT vragen" geeft mooi de feedback-loop weer die ik verontrustend vind, en de neiging die mensen nou eenmaal hebben om zonder er erg in te hebben in informatie te gaan geloven die ze langs hebben zien komen.
Dit lijkt heel erg op iets gemaakt door ChatGPT +1 :>