Bias is onvermijdelijk
Het werd ons tijdens de gesprekken dan ook heel snel duidelijk: bias is onvermijdelijk en moeilijk te verhelpen met concepten als explainability. Volgens Rübsaam kan explainability daarentegen wel helpen om te begrijpen welke biases van toepassing zijn: "Het is naïef om te denken dat we biasloos AI's kunnen ontwikkelen. We moeten kijken wat de biases precies zijn en deze zoveel mogelijk verhelpen."
Wognum van BrainCreators, Richters en Kampen van Deloitte, alsmede Sophie Kuijt, CTO Data, Artificial Intelligence & Ethics bij IBM zijn het daar allemaal mee eens. De betreffende bedrijven zijn naar eigen zeggen ook allemaal uitvoerig bezig met het waarborgen van dit proces.
IBM hanteert volgens Kuijt bijvoorbeeld een vast ontwerpproces waarbij gedurende de ontwikkeling van een AI-toepassing continu gecontroleerd wordt of er spraken is van bias en of dit vermeden kan worden. "Eerst bepalen we samen met een klant de intentie voor de toepassing van AI. Vervolgens werken we samen aan een trustworthy (betrouwbare, red.) AI die gedurende het proces kan worden bijgeschaafd. Ook na oplevering van een product kijken we of de AI blijft doen wat zij moet doen."
Bij Deloitte, Splunk en BrainCreators vinden vergelijkbare processen plaats waarbij continu gereflecteerd wordt op het ontwikkelproces. Is een AI de oplossing voor het probleem, is de dataset representatief, werkt de AI naar behoren en kan het product opgeschaald worden? Richters voegt daaraan toe dat er ook altijd personen, geen overkoepelende instanties, verantwoordelijk gehouden moeten worden voor de toepassing van AI.
Afbeelding via BrainCreators
