Afbeelding: Image by Alan Warburton / © BBC / Better Images of AI / Plant / CC-BY 4.
Er is veel te doen rondom de toepassing van Machine Learning (ML) , een methode die ten grondslag ligt aan ‘Artificial Intelligence’. Met het toenemende gebruik van ML wordt dit nog vaak gezien als de ‘heilige graal’ op basis waarvan voorspellingen kunnen worden gedaan over data. Bijvoorbeeld, dat op basis van bestaande data over gedrag van groepen mensen met een bepaalde waarschijnlijkheid kan worden voorspeld hoe toekomstig gedrag van grotere groepen of andere groepen eruit gaat zien.
NRC bericht in augustus 2022 over een ‘preprint’ van Amerikaans onderzoek door Sayash Kapoor and Arvind Narayanan op basis van een literatuurstudie van eerder gepubliceerd onderzoek waarbij ML werd gebruikt. De studie omvat reviews van eerdere onderzoeken uit verschillende wetenschapsgebieden tussen 2012 en 2021 en identificeert veel voorkomende fouten bij de toepassing van ML, die onvoldoende worden gecorrigeerd. Dit leidt tot niet reproduceerbare data/ onderzoeken, gebaseerd op een onjuiste toepassing van ML methoden én te optimistische conclusies.
NRC meldt dat het onderzoek veel stof heeft doen opwaaien; de auteurs organiseerden een druk bezochte Engelstalige online workshop inclusief presentaties waarin de auteurs hun onderzoek toelichten en andere deskundigen uit het veld aan het woord laten.