Door Anoniem: Anders: Controleerbaar maken. De grootste angst met AI is volgens mij dat achteraf niet meer te achterhalen is waarom het algoritme keuze X heeft gemaakt op basis van input Y. Door dat proces inzichtelijk en daarmee controleerbaar te maken krijg je weer iets wat bruikbaar is ipv. een gevalletje "Computer says no". Dat is een belangrijk punt bij de huidige staat van AI, maar er zijn wel degelijk grotere angsten. Geoffrey Hinton, een van de pioniers op het gebied van AI-onderzoek, denkt dat de kunstmatige intelligentie waar we als mensheid aan werken een soort intelligentie is die superieur zal blijken te zijn aan biologische intelligentie. Hij denkt dat we tussen over 5 en 20 jaar mee kunnen maken dat er een intelligentie wordt geproduceerd waarbij die van ons in het niet valt. Maar de onzekerheid is groot, het kan ook over 2 of over pas 100 jaar zijn. Hij denkt aan een verschil in intelligentie zoals tussen een kikker en een mens bestaat, maar dan met de mens in de positie van de kikker. En ...